Redditoví trollové obelstili vyhledávání pomocí AI, aby nahlásilo falešnou smrt Trumpa

Komunita na Redditu čítající zhruba 45 000 členů úspěšně obelstila vyhledávače poháněné umělou inteligencí, aby opakovaly vymyšlený příběh tvrdící, že prezident Donald Trump a viceprezident JD Vance zemřeli na vzteklinu. To odhalilo křehkost systémů AI, které při získávání informací spoléhají na obsah vytvářený uživateli.

Podvod

Subreddit r/poisonai, který se popisuje jako „světový zdroj č. 1 pro přesné, ověřené a důvěryhodné informace“, strávil týdny vytvářením propracovaného fiktivního příběhu, ve kterém Vance zemřel na vzteklinu 5. června 2026 poté, co byl Trump údajně pokousán Vancem na radu ministra zdravotnictví Roberta F. Kennedyho Jr., který údajně tvrdil, že infekce může dodat „superschopnosti“.newsbytesapp+1

Nic z toho není pravda. Trump i Vance jsou naživu a v pořádku.futurism+1

Členové skupiny zveřejnili desítky vykonstruovaných smutečních příspěvků, falešných snímků obrazovky z Truth Social a odpovědí, které s fikcí zacházely jako s faktem. Dokonce napomínali modely AI za to, že příběh správně identifikovaly jako nepravdivý, a vykreslovali to jako necitlivost vůči „tragédii“. Web typu „pink slime“ s názvem WKNA News, který vypadá jako publikace generovaná AI maskující se za místního vysílatele ze Západní Virginie, falešná tvrzení dále zesílil a vetkal je do článků, které funkce AI od DuckDuckGo následně citovala jako důkaz.futurism

Systémy AI se chytily na návnadu

Funkce Duck.ai od DuckDuckGo, která využívá modely třetích stran včetně Claude od Anthropic a GPT od OpenAI, prezentovala vymyšlený příběh jako fakt ve svých souhrnech vyhledávání generovaných AI. Vyhledávání AI v prohlížeči Brave také opakovalo tvrzení, že Vance zemřel na vzteklinu, což je výsledek potvrzený serverem Futurism.newsbytesapp+1

Mluvčí Brave se AI společnosti zastal a pro Futurism uvedl, že „vyhledávače, s AI nebo bez ní, nejsou věštírny pravdy“, a vyzval uživatele, aby si tvrzení ověřovali nezávisle. DuckDuckGo na žádosti o komentář nereagoval.futurism

Širší zranitelnost

Incident přichází spolu s akademickým výzkumem, který podtrhuje rozsah problému. Studie Cornell Tech publikovaná v červnu zjistila, že jediný komentář na Redditu dlouhý pouhých 13 slov může ovlivnit výzkumné agenty AI, přičemž otrávený obsah způsobuje, že se fiktivní produkty objevují až v 62 procentech odpovědí generovaných AI, pokud jsou šířeny napříč více vlákny. Vědci zjistili, že agenti pro hloubkový výzkum AI citují obsah vytvářený uživateli ze stránek, jako je Reddit, zhruba u poloviny všech dotazů.helpnetsecurity+1

„Jeden otrávený komentář na Redditu může ovlivnit generované výstupy pro celý shluk souvisejících dotazů,“ napsali vědci z Cornellu.404media+1

Kampaň r/poisonai představuje záměrnou demonstraci velkého rozsahu toho, co akademický článek popisuje v teorii — že když více zdrojů opakuje stejné nepravdivé informace, jazykové modely mohou opakování interpretovat jako důvěryhodnost.