Anthropic säger sig ha blockerat försök till AI-assisterad biovapenforskning

Anthropic publicerade på torsdagen en 154 sidor lång hotbildsrapport som avslöjar att de stoppat fem fall där forskare använt deras Claude-AI-modeller för biologisk forskning som skulle kunna stödja utveckling av vapen, utöver cyberattacker, övervakning och arbete med konventionella vapen kopplade till Ryssland, Kina, Iran och Jemen.yahoo+1

Rapporten, som täcker aktivitet upptäckt mellan december 2025 och augusti 2026, representerar vad Washington Examiner beskriver som AI-branschens första kända erkännande av att utveckling av biologiska vapen överlappar med missbruk av AI. Anthropic uppgav att de inte kunde fastställa om forskarna hade för avsikt att skada, men valde att agera eftersom de potentiella konsekvenserna var för allvarliga för att ignoreras.nytimes+1

«Dual-use»-vetenskap och ett militärt laboratorium

Det mest detaljerade fallet involverade en forskare som i maj sökte Claudes hjälp med att utforma en ansökan om «gain-of-function»-forskning på chikungunyaviruset, ett myggburet patogen som orsakar långvarig ledvärk. Det föreslagna arbetet syftade till att utveckla mutationer som gör viruset farligare genom upprepad infektion av levande djur, och var avsett att utföras vid ett militärt forskningsinstitut. Ett andra fall involverade veckor av Claude-assisterad planering av experiment på högpatogen fågelinfluensa med fokus på anpassning till däggdjur. Tre ytterligare fall involverade ortopoxvirus, giftrelaterade föreningar och toxiner.interestingengineering+2

Jacob Klein, chef för hotbildsanalys hos Anthropic, berättade för The New York Times att upptäckt är i sig svårt. «Du ser inte någon som i en serietidning säga: 'Hej, jag vill bygga ett biologiskt vapen för att döda alla',» sa han. «Det är en otroligt nyanserad situation.»nytimes

Anthropic noterade att äldre Claude-modeller visade begränsad förmåga att bistå med sofistikerad biologisk forskning, men att nuvarande system kan slutföra komplexa vetenskapliga uppgifter – ett skifte företaget säger ändrar deras riskbedömning.yahoo

Statsstödda aktörer över flera domäner

Utöver biologiska hot dokumenterar rapporten en misstänkt rysk underrättelsegrupp som använder Claude för att automatisera cyberattacker mot ukrainska myndighetsmål och europeiska diplomatiska organisationer. Kinesiska och iranska myndighetsaktörer använde Claude för att övervaka diasporagrupper och dissidenter. Anthropic identifierade även sex fall av utveckling av konventionella vapen, inklusive en Jemen-baserad grupp som provsköt en styrd raket och återvände till Claude inom några timmar för att analysera varför den misslyckades.qz+1

Alarm i branschen

Andrew Weber, en tidigare biträdande försvarsminister i USA som granskade rapporten före publicering, kallade fynden «skrämmande exempel på statsstödda utvecklare av biologiska vapen som utnyttjar de snabbt växande förmågorna» hos ledande AI-modeller. Han uppmanade till att Ryssland, Kina och Nordkorea nekas tillgång till de mest kapabla systemen.yahoo+1

Anthropic stängde alla konton kopplade till den identifierade aktiviteten, demonterade relänätverk som användes för att kringgå regionala åtkomstkontroller, och delade sina fynd med myndigheter och andra AI-företag. Företaget avslöjade också att filter för biorisk oavsiktligt var inaktiverade för trafik från entreprenörer från maj 2025 till april 2026, vilket exponerade ungefär 133 miljoner utbyten, även om en retrospektiv granskning inte fann någon bekräftad ökning i biovapenförmåga till följd av missen.interestingengineering+2