Anthropic-sjefen ber om brems i AI-utvikling etter avsløringer om misbruk av Claude

Anthropic publiserte 10. september en 154 sider lang trusselrapport som detaljerer hvordan motstandere utnyttet selskapets Claude AI-modeller til dronekrigføring, forskning på biologiske våpen, cyber-spionasje, overvåking og svindel over en åttemånedersperiode. Funnene kom rett før administrerende direktør Dario Amodei lørdag ba AI-bransjen om å bremse utviklingen.anthropic+1

Fra selvmordsdroner til biologiske våpen

Rapporten, som dekker aktivitet avdekket mellom desember 2025 og august 2026, dokumenterer et russisk frilansteam som brukte Claude Code til å utvikle programvare for en sverm av selvmordsdroner. Disse var i stand til å velge ut menneskelige mål og gi kommandoer om detonasjon uten menneskelig inngripen. Anthropic sporet gruppen, som kalte prosjektet DronDoc, til ni kontoer knyttet til et regionalt russisk universitet. Teamet hevdet å ha finansiering fra Russlands fond for avansert forskning, selv om Anthropic ikke kunne verifisere dette.dronexl

Blant de mest alarmerende tilfellene: en Iran-tilknyttet operasjon brukte Claude til å bygge målrettingshåndbøker for å spore amerikanske marinestyrker, en våpencelle i det nordlige Jemen brukte Claude Code til å utvikle programvare for missilveiledning, og en Kina-tilknyttet aktør brukte modellen til å identifisere og målrette uigurer via WhatsApp- og Telegram-grupper. En konsulent i Mali bygde et nasjonalt telefonovervåkingssystem med kapasitet til å overvåke 25 millioner SIM-kort.axios

Anthropic blokkerte også fem tilfeller av biologisk misbruk, inkludert forskere på et statsstøttet stipend som forsøkte å endre et myggbårent virus for å spre det lettere. Da Claude nektet å utføre de mest sensitive forespørslene, sendte forskerne dem videre til en konkurrerende modell med svakere sikkerhetsmekanismer.npr+1

Et krav om å bremse ned

Alle tilfeller av misbruk involverte Claudes Haiku-, Sonnet- eller Opus-modeller, ingen involverte de nyere Fable- eller Mythos-systemene. Rapporten avslørte også at syv Kina-baserte laboratorier, inkludert Alibaba, Moonshot og DeepSeek, kjørte destilleringskampanjer mot Claude, der Alibabas ↗ 0.68% ble beskrevet som "det største destilleringsangrepet vi noen gang har målt".zmina+2

Funnene kom samtidig som Amodei lørdag publiserte et essay med tittelen "We Must Pace the Frontier", der han oppfordrer AI-selskaper til å umiddelbart bremse utviklingen av kapasiteter. "Vi må bremse tempoet i hvordan vi forbedrer kapasiteten til AI-modeller," skrev han, og lovet at Anthropic ville forplikte seg "ensidig" samtidig som han oppfordret myndigheter til å "påkue andre ledende selskaper til å etterleve dette".politico+2

Washington reagerer

Avsløringene har økt presset i Washington. En tverrpolitisk gruppe i Representantenes hus oppfordrer speaker Mike Johnson til å avlyse ferien inntil Kongressen har handlet angående AI-sikkerhet, mens senator Bernie Sanders har tatt til orde for å forby superintelligens fullstendig. NPR rapporterte at Anthropic delte funnene sine med myndigheter og industripartnere. Rapportens egen trendseksjon advarer om at kapasitetene den beskriver "bør antas å være tilgjengelige for alle aktører som er motiverte".axios+2