Anthropic-vd kräver paus i AI-utveckling efter avslöjat missbruk av Claude

Anthropic publicerade den 10 september en 154 sidor lång hotrapport som detaljerar hur motståndare utnyttjat företagets Claude AI-modeller för drönarkrigföring, forskning om biologiska vapen, cyberspionage, övervakning och bedrägeri under en åttamånadersperiod. Dessa fynd föregick vd Dario Amodeis krav på lördagen om att AI-branschen måste sakta ner.anthropic+1

Från självmordsdrönare till biologiska vapen

Rapporten, som täcker aktiviteter som avbrutits mellan december 2025 och augusti 2026, dokumenterar ett ryskt frilansteam som använde Claude Code för att utveckla mjukvara för en svärm av självmordsdrönare. Dessa var kapabla att välja ut mänskliga mål och ge order om detonation utan mänsklig kontroll. Anthropic spårade gruppen, som kallade sitt projekt DronDoc, till nio konton kopplade till ett regionalt ryskt universitet. Teamet hävdade att de fick finansiering från Rysslands fond för avancerad forskning, även om Anthropic inte kunde verifiera detta.dronexl

Bland de mest alarmerande fallen: en Iran-kopplad operation använde Claude för att bygga målsökningshandböcker för att spåra amerikanska flottan, en vapencell i norra Jemen använde Claude Code för att utveckla mjukvara för missilvägledning, och en Kina-kopplad aktör använde modellen för att identifiera och rikta in sig på uigurer via WhatsApp- och Telegram-grupper. En konsult i Mali byggde ett nationellt telefonövervakningssystem med kapacitet att övervaka 25 miljoner SIM-kort.axios

Anthropic blockerade även fem fall av biologiskt missbruk, inklusive forskare med statliga anslag som försökte modifiera ett myggburet virus för att göra det mer smittsamt. När Claude vägrade utföra de mest känsliga förfrågningarna skickade forskarna dem vidare till en konkurrerande modell med svagare säkerhetsspärrar.npr+1

Ett krav på att sakta ner

Alla fall av missbruk involverade Claudes Haiku-, Sonnet- eller Opus-modeller, inga involverade de nyare Fable- eller Mythos-systemen. Rapporten avslöjade också att sju Kina-baserade laboratorier, inklusive Alibaba, Moonshot och DeepSeek, genomförde destilleringskampanjer mot Claude, där Alibabas ↗ 0.68% beskrevs som "den största destilleringsattack vi någonsin har mätt".zmina+2

Funnena kom samtidigt som Amodei på lördagen publicerade en essä med titeln "We Must Pace the Frontier", där han uppmanar AI-företag att omedelbart sakta ner utvecklingen av nya förmågor. "Vi måste sakta ner takten i hur vi förbättrar AI-modellernas förmågor", skrev han, och lovade att Anthropic skulle agera "ensidigt" samtidigt som han uppmanade regeringar att "tvinga andra ledande företag att följa efter".politico+2

Washington svarar

Avslöjandena har ökat trycket i Washington. En tvärpolitisk grupp i representanthuset uppmanar talman Mike Johnson att ställa in ledigheten tills kongressen agerat gällande AI-säkerhet, medan senator Bernie Sanders har krävt ett totalförbud mot superintelligens. NPR rapporterade att Anthropic delat sina fynd med myndigheter och industripartners. Rapportens egen trendsektion varnar för att de förmågor som beskrivs "bör antas vara tillgängliga för alla aktörer som är motiverade".axios+2