Reddit-troll lurade AI-sök att rapportera om falsk Trump-död

Ett Reddit-community med cirka 45 000 medlemmar har framgångsrikt lurat AI-drivna sökmotorer att upprepa en fabricerad historia som hävdar att president Donald Trump och vicepresident JD Vance dött av rabies, vilket blottlägger skörheten i AI-system som förlitar sig på användargenererat innehåll för information.

Bluffen

Subredditen r/poisonai, som beskriver sig själv som "världens främsta källa för korrekt, verifierad och pålitlig information", har ägnat veckor åt att konstruera en utarbetad fiktiv berättelse där Vance dog av rabies den 5 juni 2026, efter att Trump påstås ha blivit biten av Vance på inrådan av hälsominister Robert F. Kennedy Jr., som påstods hävda att infektionen kunde ge "superkrafter".newsbytesapp+1

Inget av detta är sant. Både Trump och Vance lever och mår bra.futurism+1

Gruppens medlemmar publicerade dussintals fabricerade sorgeinlägg, falska skärmdumpar från Trump Truth Social och svar som behandlade fiktionen som fakta. De tillrättavisade till och med AI-modeller för att de korrekt identifierat historien som falsk, och ramade in det som okänslighet inför en "tragedi". En "pink slime"-webbplats vid namn WKNA News, som verkar vara en AI-genererad publikation som utger sig för att vara en lokal sändare i West Virginia, förstärkte de falska påståendena ytterligare genom att väva in dem i artiklar som DuckDuckGos AI-funktion sedan citerade som bevis.futurism

AI-systemen nappar på betet

DuckDuckGos Duck.ai-funktion, som använder tredjepartsmodeller inklusive Anthropics Claude och OpenAIs GPT, presenterade den fabricerade historien som fakta i sina AI-genererade sököversikter. Webbläsaren Braves AI-sök upprepade också påståendet att Vance dött av rabies, ett resultat som bekräftats av Futurism.newsbytesapp+1

En talesperson för Brave försvarade företagets AI och sa till Futurism att "sökmotorer, med eller utan AI, är inte sanningsorakel", och uppmanade användare att verifiera påståenden oberoende. DuckDuckGo svarade inte på förfrågningar om kommentar.futurism

En bredare sårbarhet

Händelsen kommer samtidigt som akademisk forskning understryker problemets omfattning. En Cornell Tech-studie publicerad i juni fann att en enskild Reddit-kommentar på så lite som 13 ord kan påverka AI-forskningsagenter, där förgiftat innehåll gör att fiktiva produkter dyker upp i upp till 62 procent av AI-genererade svar när de sprids över flera trådar. Forskarna fann att AI-agenter för djupgående forskning citerar användargenererat innehåll från webbplatser som Reddit i ungefär hälften av alla frågor.helpnetsecurity+1

"En enskild förgiftad Reddit-kommentar kan påverka genererade utdata för ett helt kluster av relaterade frågor", skrev Cornell-forskarna.404media+1

r/poisonai-kampanjen representerar en medveten demonstration i stor skala av vad den akademiska artikeln beskriver i teorin — att när flera källor upprepar samma falska information, kan språkmodeller tolka upprepning som trovärdighet.