Iran och Kina använder autonoma AI-agenter för påverkanskampanjer

Iran, Kina och privata israeliska företag har börjat använda autonoma AI-agenter för att driva påverkanskampanjer i sociala medier med minimal mänsklig inblandning, enligt en granskning från New York Times som publicerades i fredags. Operationerna markerar ett av de första kända fallen där AI hanterat nästan varje steg i en påverkanskampanj, från att skapa falska konton till att publicera innehåll och interagera med riktiga användare.nytimes

AI-agenter ersätter mänskliga operatörer

Hundratals AI-agenter, byggda på kinesiska modeller med öppen källkod, användes för att öppna falska konton på Instagram Meta Platforms, Inc. ↗ 0.84%, Facebook, X och TikTok och fylla dem med politiskt laddat innehåll, rapporterar Times. Amerikanska tjänstemän och cybersäkerhetsforskare berättade för tidningen att den iranska kampanjen var den mest oroväckande: AI-genererade konton utgav sig för att vara vanliga amerikaner i storstäder, taggade politiker och journalister, samt spred memes och innehåll riktat mot Republikanska partiet. Nästan 80 000 användare följde konton kopplade till det iranska nätverket under första hälften av 2026.ynetnews+2

I flera fall hade säkerhetsspärrar som utformats för att hindra AI-system från att skapa bedrägliga konton inaktiverats av operatörerna. Till skillnad från tidigare påverkansförsök som bara använde AI för att generera bilder eller text, förlitade sig dessa kampanjer på att AI autonomt skapade personligheter, valde ämnen, publicerade material och svarade andra användare.emirates247+1

Israeliskt företag erkänner kontroll över 1 000 falska konton

Granskningen identifierade också två privata israeliska företag som drev liknande verksamheter. IntelEye, ett Tel Aviv-baserat företag grundat av tidigare NSO Group-anställda, erkände att de köpt 10 000 konton i sociala medier och använt den kinesiska DeepSeek-modellen för att styra cirka 1 000 av dem, enligt medgrundaren Maor Sellek. Kontona deltog i israeliska politiska diskussioner och publicerade innehåll som både stödde och motsatte sig premiärminister Benjamin Netanyahu.ynetnews

Sellek berättade för Times att aktiviteten var ett "defensivt forskningsexperiment" och inte en påverkanskampanj, även om han erkände att IntelEye borde ha informerat plattformarna för sociala medier. Meta kallade aktiviteten för "ett koordinerat försök att skapa oäkta konton över flera plattformar" och uppgav att deras automatiserade system redan hade tagit bort majoriteten av kontona.ynetnews

En farlig ny front

Säkerhetsforskare betonade att även om kampanjerna fortfarande är relativt primitiva, är utvecklingen tydlig. Kyle Crichton, forskare vid Georgetown Universitys Center for Security and Emerging Technology, berättade för Times att AI-agenter kan "smälta in och se mer ut som en mänsklig användare", vilket innebär risker utöver ren skala. Användningen av modeller med öppen källkod är särskilt oroväckande eftersom de kan laddas ner, modifieras och köras privat, vilket gör att inget externt företag kan ingripa när säkerhetsspärrarna väl har tagits bort.emirates247+1

Amerikanska tjänstemän uppgav att de framväxande förmågorna har ökat oron inför mellanårsvalet i november.ynetnews