Anthropic stoppade KI-missbruk kopplat till biologiska vapen

Anthropic publicerade på torsdagen sin mest detaljerade hotrapport hittills. Den visar att företagets KI-modeller under de senaste nio månaderna har använts av statsunderstödda hackare, kriminella nätverk och forskare verksamma inom biologiska vapen. Avslöjandet understryker hur snabbt artificiell intelligens ritar om spelplanen för både cyberbrottslighet och biosäkerhetsrisker.

Rapporten, med titeln ”Detecting and Countering Misuse of AI: September 2026”, omfattar aktiviteter som företagets hotsäkerhetsavdelning avvärjde mellan december 2025 och augusti 2026 inom sju skadekategorier, däribland cyberoperationer, biologiskt missbruk, övervakning, påverkansoperationer och utveckling av konventionella vapen. Modellerna Claude Haiku, Sonnet och Opus utnyttjades alla, men företaget uppger att inget av fallen rörde de nyere modellerna Claude Fable eller Mythos.techxplore+1

Forskning om biologiska vapen upptäckt

Bland de mest oroväckande uppgifterna finns försök att använda Claude för forskning som skulle kunna bidra till utveckling av biologiska vapen. I ett fall användes en plattform för virologer som bedrev gain-of-function-forskning på chikungunyaviruset. Förfrågningarna slussades via amerikansk infrastruktur för att kringgå regionala blockeringar, och tjänster utan datalagring användes för att dölja innehållet. I ett annat fall använde en forskare Claude från en region där tjänsten inte stöds för att planera anpassning av högpatogen fågelinfluensa till däggdjur. Ett tredje fall handlade om att skriva ett utkast till en anslagsansökan för forskning om levande ortopoxvirus: den virusfamilj där smittkoppor ingår: vid vad Anthropic beskriver som ett statskopplat laboratorium.theweek+1

”Det har länge funnits en oro för att KI-modeller en dag ska bli så kapabla att de kan bidra till att göra befintliga patogener farligare, eller skapa helt nya”, uppger företaget. Anthropic meddelar att deras senaste modeller nu har starkare skyddsmekanismer som begränsar åtkomsten till biologiska forskningsfrågor med dubbla användningsområden.theweek

Cyberoperationer blir alltmer autonoma

Rapporten dokumenterar också ett skifte i hur hotaktörer använder KI vid cyberattacker, från att fungera som en assistent till att agera som en dirigent. I ett fall automatiserade en aktör med kopplingar till den ryska gruppen Midnight Blizzard nästan varje steg i intrångskampanjer mot ukrainska myndigheter, europeiska diplomatiska beskickningar och leveranskedjor för drönarteknik. Aktören använde Claude för att bygga nätfiskeinfrastruktur, modifiera skadlig kod för att undgå upptäckt och överföra hundratals gigabyte stulen data.anthropic

En annan grupp ekonomiskt motiverade angripare kopplade till ShinyHunters-kollektivet använde Claude för att påskynda storskaliga datastölder. De kom över miljontals betalkortsuppgifter och passagerardata från flera offer. Anthropic konstaterar att KI har ”raderat klyftan i arbetskraft och verktyg” mellan statsunderstödda operationer och enskilda hackare, vilket innebär att avancerade attacker inte längre kräver avancerade angripare.anthropic

Tidpunkten väcker frågor

Rapporten släpptes två dagar efter att en Anthropic-forskare offentligt sagt upp sig med motiveringen att företaget och dess konkurrenter inte agerar ansvarsfullt i utvecklingen av KI, enligt BBC. ”Det är i fall som detta som vi måste titta på etiken”, säger Kishan R, en KI-forskare baserad i Noida i Indien. ”Hur avgör företag som Anthropic och xAI vad som utgör säker användning av deras KI-modeller? Detta är en demokratisk fråga och inte en bolagsfråga.”bbc+1