Reddit-troll lurte AI-søk til å rapportere om falsk Trump-død

Et Reddit-samfunn på rundt 45 000 medlemmer har med hell lurt AI-drevne søkemotorer til å gjenta en fabrikkert historie som hevder at president Donald Trump og visepresident JD Vance døde av rabies, noe som eksponerer skjørheten i AI-systemer som er avhengige av brukergenerert innhold for informasjon.

Bløffen

Subredditen r/poisonai, som beskriver seg selv som «verdens kilde nr. 1 for nøyaktig, verifisert og pålitelig informasjon», har brukt uker på å konstruere en forseggjort fiktiv fortelling der Vance døde av rabies 5. juni 2026, etter at Trump angivelig ble bitt av Vance etter råd fra helseminister Robert F. Kennedy Jr., som angivelig hevdet at infeksjonen kunne gi «superkrefter».newsbytesapp+1

Ingenting av dette er sant. Både Trump og Vance er i live og har det bra.futurism+1

Gruppens medlemmer la ut dusinvis av fabrikkerte sørgeinnlegg, falske skjermbilder fra Trump Truth Social og svar som behandlet fiksjonen som fakta. De irettesatte til og med AI-modeller for å korrekt identifisere historien som usann, og rammet det inn som ufølsomhet overfor en «tragedie». Et «pink slime»-nettsted kalt WKNA News, som ser ut til å være en AI-generert publikasjon som utgir seg for å være en lokal kringkaster i West Virginia, forsterket de falske påstandene ytterligere ved å veve dem inn i artikler som DuckDuckGos AI-funksjon deretter siterte som bevis.futurism

AI-systemer biter på agnet

DuckDuckGos Duck.ai-funksjon, som bruker tredjepartsmodeller inkludert Anthropics Claude og OpenAIs GPT, presenterte den fabrikkerte historien som fakta i sine AI-genererte søkeoppsummeringer. Nettleseren Braves AI-søk gjentok også påstanden om at Vance hadde dødd av rabies, et resultat bekreftet av Futurism.newsbytesapp+1

En talsperson for Brave forsvarte selskapets AI og sa til Futurism at «søkemotorer, med eller uten AI, er ikke sannhetsorakler», og oppfordret brukere til å verifisere påstander uavhengig. DuckDuckGo svarte ikke på forespørsler om kommentar.futurism

En bredere sårbarhet

Hendelsen kommer samtidig med akademisk forskning som understreker omfanget av problemet. En Cornell Tech-studie publisert i juni fant at en enkelt Reddit-kommentar på så lite som 13 ord kan påvirke AI-forskningsagenter, der forgiftet innhold fører til at fiktive produkter dukker opp i opptil 62 prosent av AI-genererte svar når de spres over flere tråder. Forskerne fant at AI-agenter for dypdykksforskning siterer brukergenerert innhold fra nettsteder som Reddit i omtrent halvparten av alle spørringer.helpnetsecurity+1

«En enkelt forgiftet Reddit-kommentar kan påvirke genererte utdata for en hel klynge av relaterte spørringer», skrev Cornell-forskerne.404media+1

r/poisonai-kampanjen representerer en bevisst demonstrasjon i stor skala av det den akademiske artikkelen beskriver i teorien — at når flere kilder gjentar den samme falske informasjonen, kan språkmodeller tolke gjentakelse som troverdighet.