Google och Anthropic varnar: Hackare använder nu autonoma AI-angreppssystem

Statsstödda hackare och cyberkriminella organisationer går nu bortom enkel AI-experimentering och bygger autonoma, agentbaserade system som kan skanna mål, utnyttja sårbarheter och exfiltrera data med minimal mänsklig inblandning, enligt två hotrapporter som publicerades denna vecka av Google Alphabet Inc. ↗ 1.53% och Anthropic.

Google Threat Intelligence Groups Q3 2026 AI Threat Tracker, publicerad den 8 september, dokumenterar ett skifte från grundläggande prompting till operationaliserade AI-ramverk med flera agenter hos en rad olika motståndare. "Vid det här laget kan vi anta att alla hotaktörer använder AI i någon utsträckning, och deras verksamhet har gynnats av det," säger John Hultquist, chefsanalytiker på GTIG.cybersecuritydive+1

Från prompting till autonomi

Google-rapporten beskriver flera kampanjer där AI vävts in i hela angreppscykeln. En Kina-kopplad spionagegrupp byggde en AI-assisterad utnyttjandekedja med hjälp av ett verktyg som heter CC Switch för att styra flera stora språkmodeller, inklusive Claude, Gemini och Codex, för att skapa anpassade skript för utnyttjande och riktade nätfiskebeten. En annan Kina-kopplad grupp, som spårats som Basin Castle, använde språkmodeller för att profilera högvärdiga mål och skriva anpassad skadlig kod, medan en Iran-kopplad grupp, spårad som Calanque Ion, använde generativ AI för rekognosering, social ingenjörskonst och reverse-engineering av programvara.cybersecuritydive

Google varnade också för koordinerade kampanjer för modelldestillering, där vissa översteg 100 miljoner anrop, riktade mot deras AI-modeller i ett försök att extrahera resonemangsförmåga och logiska tankeprocesser.cybersecuritydive

Anthropic dokumenterar missbruk av Claude

Anthropics egen hotrapport, som släpptes den 10 september, gav en kompletterande och mer detaljerad bild. Företaget avslöjade att de identifierat och avbrutit verksamhet från misstänkta statsstödda grupper, ekonomiskt motiverade brottslingar och hacktivister som missbrukat Claude mellan december 2025 och augusti 2026.anthropic+1

Bland de mest detaljerade fallen fanns GTG-20006, en aktör som Anthropic kopplade till ryska Midnight Blizzard, som använde Claude för att automatisera nätfiskeinfrastruktur, ombyggnad av skadlig kod och dataexfiltrering riktad mot ukrainska myndigheter och leverantörer av militär drönarteknik. Aktörens AI-drivna arbetsflöde kunde autonomt bygga om upptäckt skadlig kod tills den undgick säkerhetsprodukter. Anthropic avbröt också samarbetspartners till ShinyHunters-kollektivet, där en av dem massnedladdade 1,8 miljoner Android APK-filer för att skörda hårdkodade inloggningsuppgifter och använde stulna AI-API-nycklar för att driva vidare intrång.anthropic

Försvarare står inför en omvänd kostnadsekvation

Microsoft ↗ 0.65% bidrog till veckans avslöjanden med ett blogginlägg den 10 september som dokumenterar kampanjer som utger sig för att vara AI-varumärken, inklusive ChatGPT, Copilot, DeepSeek och Claude, för att leverera nätfiskepaket och skadlig kod, där en ChatGPT-tematiserad kampanj skickade upp till 100 000 e-postmeddelanden på en enda dag.microsoft

De samlade resultaten pekar på ett strukturellt skifte. Anthropic konstaterade att AI har vänt kostnadsbördan till försvararnas nackdel, vilket gör det möjligt för angripare att kringgå detekteringar snabbare än vad säkerhetsteam hinner distribuera dem. Som Hultquist varnade kommer utmaningen att fördjupas "när den tillämpas agentbaserat, vilket skapar en skalad, snabbare motståndare".anthropic+1