„Reddit“ troliai apgavo dirbtinio intelekto paiešką, priversdami pranešti apie netikrą D. Trumpo mirtį

Apie 45 000 narių turinti „Reddit“ bendruomenė sėkmingai apgavo dirbtinio intelekto valdomas paieškos sistemas, priversdama jas pakartoti išgalvotą istoriją, esą prezidentas Donaldas Trumpas ir viceprezidentas JD Vance'as mirė nuo pasiutligės. Tai atskleidė DI sistemų, kurios informacijai gauti remiasi vartotojų sukurtu turiniu, trapumą.

Apgaulė

„Subreddit“ r/poisonai, kuris save apibūdina kaip „pasaulio numeris 1 tikslios, patikrintos ir patikimos informacijos šaltinį“, savaites kūrė sudėtingą išgalvotą pasakojimą, kuriame teigiama, kad Vance'as mirė nuo pasiutligės 2026 m. birželio 5 d., po to, kai Trumpui, kaip teigiama, įkando Vance'as, paklausius Sveikatos ir socialinių paslaugų sekretoriaus Roberto F. Kennedy jaunesniojo patarimo, kuris neva tvirtino, kad infekcija gali suteikti „supergalių“.newsbytesapp+1

Visa tai yra netiesa. Tiek Trumpas, tiek Vance'as yra gyvi ir sveiki.futurism+1

Šios grupės nariai paskelbė dešimtis suklastotų gedulo pranešimų, netikrų „Trump Truth Social“ ekrano nuotraukų ir atsakymų, kuriuose su fikcija elgiamasi kaip su faktu. Jie netgi barė DI modelius už tai, kad šie teisingai identifikavo istoriją kaip melagingą, pateikdami tai kaip nejautrumą „tragedijos“ atžvilgiu. „Pink slime“ tipo svetainė, vadinama „WKNA News“, kuri atrodo kaip DI sugeneruotas leidinys, apsimetantis vietiniu Vakarų Virdžinijos transliuotoju, dar labiau išplatino melagingus teiginius, įtraukdama juos į straipsnius, kuriuos „DuckDuckGo“ DI funkcija vėliau citavo kaip įrodymus.futurism

DI sistemos užkibo ant kabliuko

„DuckDuckGo“ funkcija „Duck.ai“, naudojanti trečiųjų šalių modelius, įskaitant „Anthropic“ „Claude“ ir „OpenAI“ „GPT“, savo DI sugeneruotose paieškos santraukose pateikė išgalvotą istoriją kaip faktą. Naršyklės „Brave“ DI paieška taip pat pakartojo teiginį, kad Vance'as mirė nuo pasiutligės – šį rezultatą patvirtino „Futurism“.newsbytesapp+1

„Brave“ atstovas spaudai gynė įmonės DI, sakydamas „Futurism“, kad „paieškos sistemos, su DI ar be jo, nėra tiesos orakulai“, ir paragino vartotojus savarankiškai tikrinti teiginius. „DuckDuckGo“ į prašymus pakomentuoti neatsakė.futurism

Platesnis pažeidžiamumas

Šis incidentas įvyko kartu su akademiniu tyrimu, pabrėžiančiu problemos mastą. Birželį paskelbtas „Cornell Tech“ tyrimas parodė, kad vienas vos 13 žodžių „Reddit“ komentaras gali paveikti DI tyrimų agentus, o užnuodytas turinys sukelia tai, kad išgalvoti produktai pasirodo iki 62 procentų DI sugeneruotų atsakymų, kai jie platinami keliose gijose. Tyrėjai nustatė, kad DI gilaus tyrimo agentai cituoja vartotojų sukurtą turinį iš tokių svetainių kaip „Reddit“ maždaug pusėje visų užklausų.helpnetsecurity+1

„Vienas užnuodytas „Reddit“ komentaras gali paveikti sugeneruotus rezultatus visai susijusių užklausų grupei“, – rašė „Cornell“ tyrėjai.404media+1

r/poisonai kampanija yra sąmoninga, plataus masto demonstracija to, ką akademinis straipsnis aprašo teoriškai – kad kai keli šaltiniai pakartoja tą pačią melagingą informaciją, kalbos modeliai gali interpretuoti pakartojimą kaip patikimumą.