Anthropic zablokoval pokusy o zneužití AI pro výzkum biologických zbraní

Společnost Anthropic ve čtvrtek publikovala 154stránkovou zprávu o hrozbách, v níž odhalila, že narušila pět případů, kdy vědci využívali její modely Claude k biologickému výzkumu, který by mohl podpořit vývoj zbraní. Kromě toho zpráva zmiňuje kybernetické útoky, sledovací operace a vývoj konvenčních zbraní napojený na Rusko, Čínu, Írán a Jemen.yahoo+1

Zpráva, která pokrývá aktivitu zjištěnou mezi prosincem 2025 a srpnem 2026, představuje podle Washington Examiner první známé přiznání v odvětví AI, že vývoj biologických zbraní se překrývá se zneužíváním umělé inteligence. Anthropic uvedl, že nedokáže určit, zda vědci zamýšleli způsobit škodu, ale rozhodl se jednat, protože potenciální následky byly příliš závažné na to, aby je bylo možné ignorovat.nytimes+1

Věda s dvojím užitím a vojenská laboratoř

Nejpodrobnější případ se týkal vědce, který v květnu hledal pomoc u Claude při psaní žádosti o grant na výzkum typu gain-of-function u viru chikungunya, patogenu přenášeného komáry, který způsobuje dlouhodobé bolesti kloubů. Navrhovaná práce měla za cíl inženýrsky upravit mutace, které by virus učinily škodlivějším, a měla být prováděna ve vojenském výzkumném ústavu. Druhý případ zahrnoval týdny plánování experimentů s vysoce patogenní ptačí chřipkou se zaměřením na adaptaci na savce. Tři další případy se týkaly ortopoxvirů, látek na bázi jedů a toxinů.interestingengineering+2

Jacob Klein, vedoucí oddělení pro analýzu hrozeb v Anthropic, pro The New York Times uvedl, že detekce je ze své podstaty obtížná. „Neuvidíte někoho, kdo by komiksovým způsobem řekl: 'Hej, chci postavit biologickou zbraň, abych všechny zabil',“ řekl. „Je to neuvěřitelně nuancovaná situace.“nytimes

Anthropic poznamenal, že starší modely Claude vykazovaly omezenou schopnost pomáhat se sofistikovaným biologickým výzkumem, ale současné systémy dokážou plnit komplexní vědecké úkoly – což je posun, který podle společnosti mění její kalkulaci rizik.yahoo

Státem napojení aktéři napříč doménami

Kromě biologických hrozeb zpráva dokumentuje podezřelou ruskou špionážní skupinu, která používala Claude k automatizaci kybernetických útoků proti ukrajinským vládním cílům a evropským diplomatickým organizacím. Aktéři napojení na čínskou a íránskou vládu využívali Claude ke sledování diaspor a disidentů. Anthropic také identifikoval šest případů vývoje konvenčních zbraní, včetně buňky v Jemenu, která testovala naváděnou raketu a během několika hodin se vrátila ke Claude, aby analyzovala, proč selhala.qz+1

Znepokojení v odvětví

Andrew Weber, bývalý náměstek ministra obrany USA, který zprávu před zveřejněním recenzoval, označil zjištění za „mrazivé příklady toho, jak státní vývojáři biologických zbraní využívají rychle se rozvíjející schopnosti“ předních modelů AI. Naléhal na to, aby Rusku, Číně a Severní Koreji byl odepřen přístup k těm nejschopnějším systémům.yahoo+1

Anthropic zablokoval všechny účty spojené s identifikovanou aktivitou, rozebral přenosové sítě používané k obcházení regionálních kontrol přístupu a sdílel svá zjištění s vládami a dalšími společnostmi zabývajícími se AI. Společnost také odhalila, že filtry biologických rizik byly neúmyslně deaktivovány u provozu dodavatelů od května 2025 do dubna 2026, což vystavilo zhruba 133 milionů výměn, ačkoliv retrospektivní přezkum nepotvrdil žádný potvrzený pokrok ve vývoji biologických zbraní v důsledku této mezery.interestingengineering+2