Reddit-trollit huijasivat tekoälyhaun raportoimaan Trumpin valheellisesta kuolemasta

Noin 45 000 jäsenen Reddit-yhteisö on onnistunut huijaamaan tekoälypohjaisia hakukoneita toistamaan keksityn tarinan, jonka mukaan presidentti Donald Trump ja varapresidentti JD Vance kuolivat raivotautiin. Tämä paljastaa niiden tekoälyjärjestelmien haurauden, jotka luottavat tiedonhankinnassa käyttäjien tuottamaan sisältöön.

Huijaus

r/poisonai-subreddit, joka kuvailee itseään "maailman ykköslähteeksi tarkalle, varmistetulle ja luotettavalle tiedolle", on viikkojen ajan rakentanut monimutkaista fiktiivistä tarinaa, jossa Vance kuoli raivotautiin 5. kesäkuuta 2026 sen jälkeen, kun Trumpin kerrottiin saaneen tartunnan Vancelta terveysministeri Robert F. Kennedy Jr:n neuvosta, jonka väitettiin sanoneen infektion voivan antaa "supervoimia".newsbytesapp+1

Mikään tästä ei ole totta. Sekä Trump että Vance ovat elossa ja voivat hyvin.futurism+1

Ryhmän jäsenet julkaisivat kymmeniä tekaistuja surunvalitteluja, väärennettyjä Trumpin Truth Social -kuvakaappauksia ja vastauksia, joissa fiktiota käsiteltiin totuutena. He jopa moittivat tekoälymalleja siitä, että ne tunnistivat tarinan oikein valheelliseksi, ja kehystivät tämän tunteettomuudeksi "tragediaa" kohtaan. WKNA News -niminen "pink slime" -sivusto, joka näyttää olevan tekoälyllä tuotettu julkaisu, joka esiintyy paikallisena Länsi-Virginian uutiskanavana, vahvisti vääriä väitteitä entisestään kutomalla ne artikkeleihin, joita DuckDuckGon tekoälyominaisuus sitten siteerasi todisteina.futurism

Tekoälyjärjestelmät nielivät syötin

DuckDuckGon Duck.ai-ominaisuus, joka käyttää kolmannen osapuolen malleja, kuten Anthropicin Claudea ja OpenAI:n GPT:tä, esitti keksityn tarinan totuutena tekoälyllä luoduissa hakutiivistelmissään. Myös Brave-selaimen tekoälyhaku toisti väitteen, että Vance olisi kuollut raivotautiin, minkä Futurism vahvisti.newsbytesapp+1

Braven tiedottaja puolusti yrityksen tekoälyä kertoen Futurismille, että "hakukoneet, tekoälyllä tai ilman, eivät ole totuuden oraakkeleita", ja kannusti käyttäjiä tarkistamaan väitteet itsenäisesti. DuckDuckGo ei vastannut kommenttipyyntöihin.futurism

Laajempi haavoittuvuus

Tapaus osuu samaan aikaan akateemisen tutkimuksen kanssa, joka korostaa ongelman laajuutta. Kesäkuussa julkaistu Cornell Techin tutkimus osoitti, että yksittäinen, vain 13 sanaa pitkä Reddit-kommentti voi vaikuttaa tekoälytutkimusagentteihin. Myrkytetty sisältö sai fiktiiviset tuotteet näkymään jopa 62 prosentissa tekoälyn luomista vastauksista, kun se levisi useisiin ketjuihin. Tutkijat havaitsivat, että tekoälyn syvätutkimusagentit siteeraavat käyttäjien tuottamaa sisältöä Redditin kaltaisilta sivustoilta noin puolessa kaikista kyselyistä.helpnetsecurity+1

"Yksittäinen myrkytetty Reddit-kommentti voi vaikuttaa tuotettuihin tuloksiin koko joukolle toisiinsa liittyviä kyselyitä", Cornellin tutkijat kirjoittivat.404media+1

r/poisonai-kampanja edustaa harkittua, laajamittaista demonstraatiota siitä, mitä akateemisessa artikkelissa kuvataan teoriassa — että kun useat lähteet toistavat samaa väärää tietoa, kielimallit saattavat tulkita toiston uskottavuudeksi.