Iran und China setzen autonome KI-Agenten für Einflusskampagnen ein

Iran, China und private israelische Unternehmen haben begonnen, autonome KI-Agenten für Einflusskampagnen in sozialen Medien mit minimaler menschlicher Aufsicht einzusetzen, wie eine am Freitag veröffentlichte Untersuchung der New York Times ergab. Die Operationen markieren einen der ersten bekannten Fälle, in denen eine KI fast jeden Schritt einer Einflusskampagne steuerte, von der Erstellung gefälschter Konten bis hin zum Posten von Inhalten und der Interaktion mit echten Nutzern.nytimes

KI-Agenten ersetzen menschliche Bediener

Hunderte von KI-Agenten, die auf chinesischen Open-Source-Modellen basieren, wurden verwendet, um gefälschte Konten auf Instagram Meta Platforms, Inc. ↘ 2.43%, Facebook, X und TikTok zu eröffnen und diese mit politisch aufgeladenen Inhalten zu füllen, berichtete die Times. US-Beamte und Cybersicherheitsforscher erklärten gegenüber der Zeitung, die iranische Kampagne sei am alarmierendsten gewesen: KI-generierte Konten gaben sich als normale Amerikaner in Großstädten aus, markierten Politiker und Journalisten und verbreiteten Memes sowie Inhalte gegen die Republikanische Partei. Fast 80 000 Nutzer folgten Konten, die mit dem iranischen Netzwerk verbunden waren, in der ersten Hälfte des Jahres 2026.ynetnews+2

In mehreren Fällen waren Sicherheitsvorkehrungen, die verhindern sollten, dass KI-Systeme täuschende Konten erstellen, von den Betreibern deaktiviert worden. Im Gegensatz zu früheren Einflussversuchen, bei denen KI lediglich zur Generierung von Bildern oder Texten eingesetzt wurde, verließen sich diese Kampagnen darauf, dass die KI autonom Personas erstellte, Themen auswählte, Material veröffentlichte und auf andere Nutzer reagierte.emirates247+1

Israelische Firma gibt Kontrolle über 1 000 Fake-Konten zu

Die Untersuchung identifizierte auch zwei private israelische Unternehmen, die ähnliche Operationen durchführten. IntelEye, eine in Tel Aviv ansässige Firma, die von ehemaligen Mitarbeitern der NSO Group gegründet wurde, räumte ein, 10 000 Social-Media-Konten gekauft und das chinesische DeepSeek-Modell zur Steuerung von etwa 1 000 davon verwendet zu haben, so Mitgründer Maor Sellek. Die Konten mischten sich in israelische politische Diskussionen ein und veröffentlichten Inhalte, die sowohl Premierminister Benjamin Netanjahu unterstützten als auch ablehnten.ynetnews

Sellek sagte der Times, die Aktivität sei ein "defensives Forschungsexperiment" und keine Einflusskampagne gewesen, räumte jedoch ein, dass IntelEye die Social-Media-Plattformen hätte informieren müssen. Meta bezeichnete die Aktivität als "einen koordinierten Versuch, unauthentische Konten auf mehreren Plattformen zu erstellen" und erklärte, ihre automatisierten Systeme hätten die Mehrheit der Konten bereits entfernt.ynetnews

Eine gefährliche neue Grenze

Sicherheitsforscher betonten, dass die Kampagnen zwar noch relativ primitiv seien, die Entwicklung jedoch klar sei. Kyle Crichton, Fellow am Center for Security and Emerging Technology der Georgetown University, sagte der Times, dass KI-Agenten "sich einfügen und eher wie ein menschlicher Nutzer aussehen" können, was Risiken jenseits des reinen Ausmaßes berge. Die Verwendung von Open-Source-Modellen sei besonders besorgniserregend, da sie heruntergeladen, modifiziert und privat betrieben werden können, sodass kein externes Unternehmen eingreifen kann, sobald die Sicherheitsvorkehrungen entfernt wurden.emirates247+1

US-Beamte erklärten, die aufkommenden Fähigkeiten hätten die Sorgen vor den Zwischenwahlen im November verschärft.ynetnews