Google und Anthropic warnen: Hacker nutzen jetzt autonome KI-Angriffssysteme

Staatlich unterstützte Hacker und kriminelle Cyber-Organisationen gehen über einfache KI-Experimente hinaus und bauen autonome, agentenbasierte Systeme auf, die in der Lage sind, Ziele zu scannen, Schwachstellen auszunutzen und Daten mit minimaler menschlicher Aufsicht zu exfiltrieren. Dies geht aus zwei Bedrohungsberichten hervor, die diese Woche von Google Alphabet Inc. ↗ 0.78% und Anthropic veröffentlicht wurden.

Der Q3 2026 AI Threat Tracker der Google Threat Intelligence Group, veröffentlicht am 8. September, dokumentiert einen Wandel von einfachem Prompting hin zu operationalisierten KI-Frameworks mit mehreren Agenten bei einer Reihe von Angreifern. "Wir können mittlerweile davon ausgehen, dass alle Bedrohungsakteure KI in irgendeiner Form nutzen und ihre Operationen davon profitiert haben", sagte John Hultquist, Chefanalyst der GTIG.cybersecuritydive+1

Vom Prompting zur Autonomie

Der Google-Bericht beschreibt mehrere Kampagnen, bei denen KI in den gesamten Angriffslebenszyklus integriert wurde. Eine mit China verbundene Spionagegruppe baute eine KI-gestützte Exploit-Pipeline unter Verwendung eines Tools namens CC Switch auf, um mehrere große Sprachmodelle – darunter Claude, Gemini und Codex – zu betreiben und so maßgeschneiderte Exploit-Skripte und Spear-Phishing-Köder zu erstellen. Eine weitere, als Basin Castle verfolgte Gruppe mit China-Bezug nutzte Sprachmodelle, um hochwertige Ziele zu profilieren und maßgeschneiderte Schadsoftware zu schreiben, während eine als Calanque Ion verfolgte Gruppe mit Iran-Bezug generative KI für Aufklärung, Social Engineering und Software-Reverse-Engineering einsetzte.cybersecuritydive

Google warnte zudem vor koordinierten Kampagnen zur Modelldestillation, bei denen teilweise über 100 Millionen Anfragen an ihre KI-Modelle gerichtet wurden, um Schlussfolgerungsfähigkeiten und logische Denkprozesse zu extrahieren.cybersecuritydive

Anthropic dokumentiert realen Missbrauch von Claude

Der eigene Bedrohungsbericht von Anthropic, der am 10. September veröffentlicht wurde, bot eine ergänzende und detailliertere Sichtweise. Das Unternehmen gab bekannt, dass es Operationen mutmaßlich staatlich unterstützter Gruppen, finanziell motivierter Krimineller und Hacktivisten identifiziert und unterbrochen hat, die Claude zwischen Dezember 2025 und August 2026 missbraucht haben.anthropic+1

Zu den detailliertesten Fällen gehörte GTG-20006, ein Akteur, den Anthropic mit der russischen Gruppe Midnight Blizzard in Verbindung brachte. Dieser nutzte Claude, um Phishing-Infrastruktur, die Anpassung von Schadsoftware und die Datenexfiltration gegen ukrainische Regierungsstellen und Anbieter von militärischer Drohnentechnologie zu automatisieren. Der KI-gesteuerte Arbeitsablauf des Akteurs konnte erkannte Schadsoftware autonom so lange umbauen, bis sie Sicherheitsprodukte umging. Anthropic unterbrach zudem Aktivitäten von Partnern des ShinyHunters-Kollektivs, von denen einer 1,8 Millionen Android-APKs massenhaft herunterlud, um hartcodierte Anmeldedaten zu ernten, und gestohlene KI-API-Schlüssel für weitere Eindringversuche nutzte.anthropic

Verteidiger stehen vor einer umgekehrten Kostenrechnung

Microsoft ↘ 0.99% ergänzte die Enthüllungen der Woche mit einem Blogbeitrag vom 10. September, in dem Kampagnen dokumentiert werden, die sich als KI-Marken ausgeben – darunter ChatGPT, Copilot, DeepSeek und Claude –, um Phishing-Kits und Schadsoftware zu verbreiten. Eine ChatGPT-thematisierte Kampagne verschickte dabei bis zu 100.000 E-Mails an einem einzigen Tag.microsoft

Die gesammelten Erkenntnisse deuten auf einen strukturellen Wandel hin. Anthropic kam zu dem Schluss, dass KI "die Kostenlast auf die Verteidiger verlagert hat", was es Angreifern ermöglicht, Erkennungsmaßnahmen schneller zu umgehen, als Sicherheitsteams diese bereitstellen können. Wie Hultquist warnte, wird sich die Herausforderung verschärfen, "da sie agentenbasiert angewendet wird, was einen skalierten, schnelleren Gegner schafft".anthropic+1