Google a Anthropic varují: hackeři využívají autonomní útočné systémy s AI

Hackeři napojení na státní aktéry a kyberkriminální organizace překročili hranici pouhého experimentování s AI a budují autonomní, agentní systémy schopné skenovat cíle, zneužívat zranitelnosti a exfiltrovat data s minimálním lidským dohledem. Vyplývá to ze dvou zpráv o hrozbách, které tento týden zveřejnily společnosti Google Alphabet Inc. ↗ 1.53% a Anthropic.

Zpráva AI Threat Tracker za 3. čtvrtletí 2026, kterou 8. září vydala skupina Google Threat Intelligence Group (GTIG), dokumentuje posun od základního zadávání příkazů k operačním multi-agentním AI rámcům napříč řadou protivníků. „V tuto chvíli můžeme předpokládat, že všichni útočníci využívají AI v určité kapacitě a jejich operace z toho těží,“ uvedl John Hultquist, hlavní analytik GTIG.cybersecuritydive+1

Od příkazů k autonomii

Zpráva Googlu podrobně popisuje několik kampaní, kde byla AI vpletena do celého životního cyklu útoku. Špionážní skupina napojená na Čínu vybudovala útočný řetězec s podporou AI pomocí nástroje CC Switch, který ovládal několik velkých jazykových modelů – včetně Claude, Gemini a Codex – k vytváření vlastních exploitů a spear-phishingových návnad. Další skupina napojená na Čínu, sledovaná pod názvem Basin Castle, dotazovala LLM za účelem profilování vysoce hodnotných cílů a psaní vlastního malwaru, zatímco skupina napojená na Írán, sledovaná jako Calanque Ion, využívala generativní AI pro průzkum, sociální inženýrství a reverzní inženýrství softwaru.cybersecuritydive

Google také varoval před koordinovanými kampaněmi na destilaci modelů, z nichž některé přesáhly 100 milionů dotazů, které cílily na jeho AI modely ve snaze extrahovat jejich uvažovací schopnosti a procesy řetězení myšlenek.cybersecuritydive

Anthropic dokumentuje zneužití Claude v reálném světě

Vlastní zpráva společnosti Anthropic o hrozbách, vydaná 10. září, nabídla doplňující a podrobnější pohled. Společnost odhalila, že identifikovala a narušila operace podezřelých státem sponzorovaných skupin, finančně motivovaných zločinců a hacktivistů, kteří zneužívali Claude mezi prosincem 2025 a srpnem 2026.anthropic+1

Mezi nejdetailnější případy patřil GTG-20006, aktér, kterého Anthropic spojil s ruskou skupinou Midnight Blizzard. Ten využíval Claude k automatizaci phishingové infrastruktury, úpravám malwaru a exfiltraci dat cílících na ukrajinské vládní představitele a dodavatele technologií pro vojenské drony. AI řízený pracovní postup tohoto aktéra dokázal autonomně přestavovat detekovaný malware, dokud se nevyhnul bezpečnostním produktům. Anthropic také narušil činnost přidružených společností kolektivu ShinyHunters, z nichž jeden hromadně stáhl 1,8 milionu souborů APK pro Android, aby získal pevně zakódované přihlašovací údaje, a použil ukradené API klíče k AI k napájení dalších průniků.anthropic

Obránci čelí obrácené nákladové rovnici

Společnost Microsoft ↗ 0.65% doplnila týdenní odhalení příspěvkem na blogu z 10. září, který dokumentuje kampaně vydávající se za značky AI – včetně ChatGPT, Copilot, DeepSeek a Claude – za účelem šíření phishingových sad a malwaru, přičemž jedna kampaň s tématikou ChatGPT odeslala až 100 000 e-mailů během jediného dne.microsoft

Kolektivní zjištění ukazují na strukturální posun. Anthropic dospěl k závěru, že AI „přenesla náklady zpět na obránce“, což útočníkům umožňuje obcházet detekce rychleji, než je bezpečnostní týmy stíhají nasazovat. Jak varoval Hultquist, výzva se prohloubí, „jakmile bude aplikována agentně, čímž vznikne škálovaný a rychlejší protivník“.anthropic+1