Anthropic zablokoval zneužití AI spojené s výzkumem biologických zbraní

Společnost Anthropic ve čtvrtek zveřejnila svou dosud nejpodrobnější zprávu o hrozbách. Odhalila v ní, že její modely umělé inteligence v uplynulých devíti měsících využívali státem sponzorovaní hackeři, kriminální skupiny i výzkumníci pracující na projektech souvisejících s biologickými zbraněmi. Toto odhalení podtrhuje, jak rychle AI mění podobu kybernetické kriminality i rizik v oblasti biologické bezpečnosti.

Zpráva s názvem „Detecting and Countering Misuse of AI: September 2026“ se zabývá aktivitami, které tým společnosti pro analýzu hrozeb překazil mezi prosincem 2025 a srpnem 2026 v sedmi kategoriích škod, včetně kybernetických operací, zneužití v biologické oblasti, sledování, vlivových operací a vývoje konvenčních zbraní. Zneužity byly modely Claude Haiku, Sonnet i Opus, ačkoli společnost uvedla, že žádný z případů se netýkal jejích novějších modelů třídy Claude Fable nebo Mythos.techxplore+1

Odhalení výzkumu biologických zbraní

Mezi nejznepokojivější zjištění patří podle společnosti Anthropic pokusy o využití modelu Claude k výzkumu, který by mohl podpořit vývoj biologických zbraní. Jeden z případů se týkal platformy sloužící virologům provádějícím výzkum zvýšení funkce (gain-of-function) u viru chikungunya. Ti směrovali dotazy přes americkou infrastrukturu, aby obešli regionální blokování, a k ukrytí obsahu využívali služby bez uchovávání dat. Další případ se týkal výzkumníka, který přistupoval ke Claudu z nepodporované oblasti, aby plánoval práci na adaptaci vysoce patogenní ptačí chřipky na savce. Třetí případ zahrnoval sepisování návrhu grantu na výzkum živých orthopoxvirů, což je čeleď zahrnující i pravé neštovice, v laboratoři, kterou Anthropic označil za napojenou na stát.theweek+1

„Dlouho panovaly obavy, že modely AI jednou dosáhnou takové úrovně schopností, kdy budou moci pomoci učinit stávající patogeny nebezpečnějšími, nebo vytvořit zcela nové,“ uvedla společnost. Anthropic dodal, že jeho nejnovější modely nyní obsahují silnější bezpečnostní pojistky omezující přístup k dotazům týkajícím se biologického výzkumu dvojího užití.theweek

Kybernetické operace jsou stále autonomnější

Zpráva také zdokumentovala posun v tom, jak útočníci využívají AI ke kybernetickým útokům. Popisuje přechod od AI v roli asistenta k AI v roli organizátora. V jednom případě aktér napojený na ruskou skupinu Midnight Blizzard zautomatizoval téměř každou fázi průnikových kampaní zaměřených na ukrajinské vládní orgány, evropské diplomatické mise a dodavatelské řetězce technologií pro drony. Útočník využil model Claude k vytvoření phishingové infrastruktury, úpravě malwaru s cílem vyhnout se detekci a k exfiltraci stovek gigabajtů ukradených dat.anthropic

Samostatná skupina finančně motivovaných útočníků napojená na kolektiv ShinyHunters využila model Claude k urychlení masových krádeží dat, přičemž odcizila miliony záznamů o platebních kartách a údajů o cestujících u několika obětí. Anthropic poznamenal, že AI „smazala rozdíly v pracnosti a nástrojích“ mezi operacemi sponzorovanými státem a jednotlivými hackery, což znamená, že sofistikované útoky již nevyžadují sofistikované útočníky.anthropic

Načasování pod drobnohledem

Zpráva byla zveřejněna dva dny poté, co jeden z výzkumníků společnosti Anthropic veřejně rezignoval s tvrzením, že firma a její konkurenti nepostupují při vývoji AI zodpovědně, informovala stanice BBC. „Právě v takovýchto případech musíme zkoumat etickou stránku věci,“ uvedl Kishan R., výzkumník v oblasti AI z indické Noidy. „Jak společnosti jako Anthropic a xAI určují, co představuje bezpečné použití jejich modelů AI? To je demokratická otázka, nikoli korporátní.“bbc+1