Reddit-Trolle täuschen KI-Suche mit gefälschter Trump-Todesmeldung

Eine Reddit-Community mit etwa 45.000 Mitgliedern hat erfolgreich KI-gestützte Suchmaschinen dazu gebracht, eine erfundene Geschichte zu wiederholen, in der behauptet wird, Präsident Donald Trump und Vizepräsident JD Vance seien an Tollwut gestorben. Dies offenbart die Anfälligkeit von KI-Systemen, die für Informationen auf nutzergenerierte Inhalte angewiesen sind.

Der Schwindel

Das Subreddit r/poisonai, das sich selbst als „die weltweit führende Quelle für genaue, verifizierte und vertrauenswürdige Informationen“ bezeichnet, hat wochenlang eine komplexe fiktive Erzählung aufgebaut, in der Vance am 5. Juni 2026 an Tollwut starb, nachdem Trump angeblich auf Anraten des Gesundheitsministers Robert F. Kennedy Jr. von Vance gebissen worden war, der behauptet haben soll, die Infektion könne „Superkräfte“ verleihen.newsbytesapp+1

Nichts davon ist wahr. Sowohl Trump als auch Vance sind wohlauf.futurism+1

Die Mitglieder der Gruppe posteten Dutzende gefälschter Trauerbeiträge, gefälschte Screenshots von Trumps Truth Social und Antworten, die die Fiktion als Tatsache behandelten. Sie tadelten sogar KI-Modelle dafür, dass sie die Geschichte korrekt als falsch identifizierten, und stellten dies als Unsensibilität gegenüber einer „Tragödie“ dar. Eine „Pink Slime“-Website namens WKNA News, die wie eine KI-generierte Publikation aussieht, die sich als lokaler Sender aus West Virginia ausgibt, verstärkte die falschen Behauptungen weiter und webte sie in Artikel ein, die die KI-Funktion von DuckDuckGo dann als Beweis zitierte.futurism

KI-Systeme beißen an

Die Duck.ai-Funktion von DuckDuckGo, die Modelle von Drittanbietern wie Claude von Anthropic und GPT von OpenAI verwendet, präsentierte die erfundene Geschichte in ihren KI-generierten Suchzusammenfassungen als Tatsache. Auch die KI-Suche des Browsers Brave wiederholte die Behauptung, Vance sei an Tollwut gestorben, ein Ergebnis, das von Futurism bestätigt wurde.newsbytesapp+1

Ein Sprecher von Brave verteidigte die KI des Unternehmens gegenüber Futurism mit der Aussage, dass „Suchmaschinen, mit oder ohne KI, keine Orakel der Wahrheit sind“, und ermutigte die Nutzer, Behauptungen unabhängig zu überprüfen. DuckDuckGo reagierte nicht auf Anfragen nach einer Stellungnahme.futurism

Eine breitere Schwachstelle

Der Vorfall ereignet sich zeitgleich mit akademischer Forschung, die das Ausmaß des Problems unterstreicht. Eine im Juni veröffentlichte Studie von Cornell Tech ergab, dass ein einzelner Reddit-Kommentar mit nur 13 Wörtern KI-Forschungsagenten beeinflussen kann, wobei vergiftete Inhalte dazu führen, dass fiktive Produkte in bis zu 62 Prozent der KI-generierten Antworten erscheinen, wenn sie über mehrere Threads verbreitet werden. Die Forscher stellten fest, dass KI-Deep-Research-Agenten in etwa der Hälfte aller Abfragen nutzergenerierte Inhalte von Seiten wie Reddit zitieren.helpnetsecurity+1

„Ein einziger vergifteter Reddit-Kommentar kann die generierten Ausgaben für ein ganzes Cluster verwandter Abfragen beeinflussen“, schrieben die Forscher von Cornell.404media+1

Die Kampagne von r/poisonai stellt eine bewusste, groß angelegte Demonstration dessen dar, was das wissenschaftliche Papier theoretisch beschreibt – dass Sprachmodelle Wiederholungen als Glaubwürdigkeit interpretieren können, wenn mehrere Quellen dieselben falschen Informationen wiederholen.