Iran og Kina bruker autonome AI-agenter til påvirkningsoperasjoner

Iran, Kina og private israelske selskaper har begynt å ta i bruk autonome kunstig intelligens-agenter for å kjøre påvirkningskampanjer i sosiale medier med minimal menneskelig overvåking, ifølge en undersøkelse fra New York Times publisert fredag. Operasjonene markerer et av de første kjente tilfellene der AI styrte nesten hvert trinn i en påvirkningskampanje, fra å opprette falske kontoer til å legge ut innhold og samhandle med ekte brukere.nytimes

AI-agenter erstatter menneskelige operatører

Hundrevis av AI-agenter, bygget på kinesiske åpen kildekode-modeller, ble brukt til å åpne falske kontoer på Instagram Meta Platforms, Inc. ↘ 2.43%, Facebook, X og TikTok, og fylle dem med politisk ladet innhold, rapporterte Times. Amerikanske tjenestemenn og cybersikkerhetsforskere fortalte avisen at den iranske kampanjen var den mest alarmerende: AI-genererte kontoer utga seg for å være vanlige amerikanere i storbyer, tagget politikere og journalister, og sirkulerte memer og innhold mot Det republikanske partiet. Nesten 80 000 brukere fulgte kontoer knyttet til det iranske nettverket i løpet av første halvdel av 2026.ynetnews+2

I flere tilfeller hadde operatørene deaktivert sikkerhetstiltak som var utformet for å hindre AI-systemer i å opprette villedende kontoer. I motsetning til tidligere påvirkningsforsøk som bare brukte AI til å generere bilder eller tekst, stolte disse kampanjene på at AI autonomt kunne skape personaer, velge emner, publisere materiale og svare andre brukere.emirates247+1

Israelsk firma innrømmer kontroll over 1 000 falske kontoer

Undersøkelsen identifiserte også to private israelske selskaper som kjørte lignende operasjoner. IntelEye, et Tel Aviv-basert firma grunnlagt av tidligere NSO Group-ansatte, erkjente å ha kjøpt 10 000 kontoer i sosiale medier og brukt den kinesiske DeepSeek-modellen til å kontrollere rundt 1 000 av dem, ifølge medgründer Maor Sellek. Kontoene deltok i israelske politiske diskusjoner og publiserte innhold som både støttet og motarbeidet statsminister Benjamin Netanyahu.ynetnews

Sellek fortalte Times at aktiviteten var et "defensivt forskningseksperiment" og ikke en påvirkningskampanje, selv om han erkjente at IntelEye burde ha informert sosiale medier-plattformene. Meta kalte aktiviteten "et koordinert forsøk på å opprette uekte kontoer på tvers av flere plattformer" og sa at deres automatiserte systemer allerede hadde fjernet de fleste av kontoene.ynetnews

En farlig ny front

Sikkerhetsforskere understreket at selv om kampanjene fortsatt er relativt enkle, er retningen klar. Kyle Crichton, stipendiat ved Georgetown Universitys Center for Security and Emerging Technology, fortalte Times at AI-agenter kan "gli inn og se mer ut som en menneskelig bruker", noe som utgjør risiko utover ren skala. Bruken av åpen kildekode-modeller er en spesiell bekymring fordi de kan lastes ned, endres og kjøres privat, uten at noe eksternt selskap kan gripe inn når sikkerhetstiltakene er fjernet.emirates247+1

Amerikanske tjenestemenn sa at de nye mulighetene har økt bekymringen før mellomvalget i november.ynetnews