Iran ja Kiina käyttävät autonomisia tekoälyagentteja vaikuttamisoperaatioissa

Iran, Kiina ja yksityiset israelilaisyritykset ovat alkaneet käyttää autonomisia tekoälyagentteja sosiaalisen median vaikuttamisoperaatioissa mahdollisimman vähäisellä ihmisen valvonnalla, kertoo perjantaina julkaistu New York Timesin tutkimus. Operaatiot ovat yksi ensimmäisistä tunnetuista tapauksista, joissa tekoäly hallinnoi lähes jokaista vaikuttamisoperaation vaihetta, valeprofiilien luomisesta sisällön julkaisuun ja aitojen käyttäjien kanssa käytävään vuorovaikutukseen.nytimes

Tekoälyagentit korvaavat ihmisoperaattorit

Satoja kiinalaisiin avoimen lähdekoodin malleihin perustuvia tekoälyagentteja käytettiin valeprofiilien avaamiseen Meta Platforms, Inc:n ↗ 0.84% Instagramissa, Facebookissa, X:ssä ja TikTokissa, ja niiden täyttämiseen poliittisesti latautuneella sisällöllä, Times raportoi. Yhdysvaltain viranomaiset ja kyberturvallisuustutkijat kertoivat lehdelle, että Iranin kampanja oli huolestuttavin: tekoälyllä luodut tilit esiintyivät tavallisina amerikkalaisina suurkaupungeissa, tägäsivät poliitikkoja ja toimittajia sekä levittivät meemejä ja republikaanipuolueen vastaista sisältöä. Lähes 80 000 käyttäjää seurasi Iranin verkostoon kytkettyjä tilejä vuoden 2026 ensimmäisen puoliskon aikana.ynetnews+2

Useissa tapauksissa operaattorit olivat poistaneet käytöstä suojaukset, joiden oli tarkoitus estää tekoälyjärjestelmiä luomasta petollisia tilejä. Toisin kuin aiemmat vaikuttamisyritykset, joissa tekoälyä käytettiin vain kuvien tai tekstin luomiseen, nämä kampanjat luottivat tekoälyyn, joka loi persoonia, valitsi aiheita, julkaisi materiaalia ja vastasi muille käyttäjille autonomisesti.emirates247+1

Israelilaisyritys myöntää hallinneensa 1 000 valetiliä

Tutkimuksessa tunnistettiin myös kaksi yksityistä israelilaisyritystä, jotka pyörittävät vastaavia operaatioita. Tel Avivissa toimiva IntelEye, jonka ovat perustaneet entiset NSO Groupin työntekijät, myönsi ostaneensa 10 000 sosiaalisen median tiliä ja käyttäneensä kiinalaista DeepSeek-mallia noin 1 000 tilin hallintaan, kertoo perustajajäsen Maor Sellek. Tilit osallistuivat Israelin poliittiseen keskusteluun ja julkaisivat sisältöä, joka sekä tuki että vastusti pääministeri Benjamin Netanjahua.ynetnews

Sellek kertoi Timesille, että toiminta oli puolustuksellinen tutkimuskoe eikä vaikuttamisoperaatio, vaikka hän myönsi, että IntelEyen olisi pitänyt ilmoittaa asiasta sosiaalisen median alustoille. Meta kutsui toimintaa koordinoiduksi yritykseksi luoda epäaitoja tilejä useilla alustoilla ja totesi, että sen automatisoidut järjestelmät olivat jo poistaneet suurimman osan tileistä.ynetnews

Vaarallinen uusi rintama

Turvallisuustutkijat korostivat, että vaikka kampanjat ovat vielä suhteellisen alkeellisia, suunta on selvä. Georgetownin yliopiston Center for Security and Emerging Technology -keskuksen tutkija Kyle Crichton kertoi Timesille, että tekoälyagentit voivat sulautua joukkoon ja näyttää enemmän ihmiskäyttäjältä, mikä aiheuttaa riskejä, jotka ylittävät pelkän mittakaavan. Avoimen lähdekoodin mallien käyttö on erityinen huolenaihe, koska niitä voidaan ladata, muokata ja käyttää yksityisesti, jolloin mikään ulkopuolinen yritys ei voi puuttua asiaan, kun suojaukset on poistettu.emirates247+1

Yhdysvaltain viranomaiset totesivat, että kehittyvät kyvykkyydet ovat lisänneet huolta marraskuun välivaalien alla.ynetnews