Šéf Anthropic volá po zpomalení vývoje AI poté, co zpráva odhalila zneužití modelu Claude

Společnost Anthropic zveřejnila 10. září 154stránkovou zprávu o hrozbách, v níž podrobně popisuje, jak protivníci po dobu osmi měsíců zneužívali její modely Claude k dronovému válčení, výzkumu biologických zbraní, kybernetické špionáži, sledování a podvodům. Tato zjištění přímo předcházela sobotní výzvě generálního ředitele Daria Amodeie, aby průmysl umělé inteligence zpomalil.anthropic+1

Od kamikadze dronů k biologickým zbraním

Zpráva, která pokrývá aktivity přerušené mezi prosincem 2025 a srpnem 2026, dokumentuje ruský tým na volné noze, který použil Claude Code k vývoji softwaru pro roj kamikadze dronů schopných vybírat lidské cíle a vydávat příkazy k detonaci bez zásahu člověka. Anthropic vystopoval skupinu, která svůj projekt nazvala DronDoc, k devíti účtům propojeným s regionální ruskou univerzitou. Tým tvrdil, že má financování od ruské Nadace pro pokročilý výzkum, což však Anthropic nemohl ověřit.dronexl

Mezi nejvíce alarmující případy patří: operace napojená na Írán použila Claude k vytvoření příruček pro zaměřování námořních sil USA, zbrojní buňka v severním Jemenu použila Claude Code k vývoji softwaru pro navádění raket a aktér napojený na Čínu použil model k identifikaci a zaměřování Ujgurů ve skupinách na WhatsAppu a Telegramu. Konzultant v Mali vybudoval celostátní sledovací systém schopný monitorovat 25 milionů SIM karet.axios

Anthropic také zablokoval pět případů biologického zneužití, včetně výzkumníků s vládním grantem, kteří se pokusili upravit virus přenášený komáry tak, aby se snadněji šířil. Když Claude nejcitlivější požadavky odmítl, výzkumníci je přesměrovali na konkurenční model se slabšími bezpečnostními pojistkami.npr+1

Výzva ke zpomalení

Všechny případy zneužití se týkaly modelů Claude Haiku, Sonnet nebo Opus – žádný se netýkal novějších systémů třídy Fable nebo Mythos. Zpráva také odhalila, že sedm laboratoří se sídlem v Číně, včetně Alibaba, Moonshot a DeepSeek, vedlo destilační kampaně proti modelu Claude, přičemž útok společnosti Alibaba ↗ 0.68% byl popsán jako "největší destilační útok, jaký jsme kdy zaznamenali".zmina+2

Zjištění přišla v době, kdy Amodei v sobotu publikoval esej s názvem "We Must Pace the Frontier", v níž vyzval společnosti zabývající se AI, aby okamžitě zpomalily rozvoj schopností. "Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů AI," napsal a zavázal se, že Anthropic bude postupovat "jednostranně", přičemž vyzval vlády, "aby nařídily ostatním předním společnostem, aby se přizpůsobily".politico+2

Reakce Washingtonu

Zveřejněné informace zesílily tlak ve Washingtonu. Dvoustranná skupina zákonodárců Sněmovny reprezentantů naléhá na předsedu Mika Johnsona, aby zrušil přestávku v zasedání, dokud Kongres nezačne jednat o bezpečnosti AI, zatímco senátor Bernie Sanders vyzval k úplnému zákazu superinteligence. NPR uvedla, že Anthropic sdílel svá zjištění s úřady a průmyslovými partnery. Sekce zprávy věnovaná trendům varuje, že schopnosti, které popisuje, "by měly být považovány za dostupné všem motivovaným aktérům".axios+2