Anthropic sier de har blokkert forsøk på AI-assistert biovåpenforskning

Anthropic publiserte torsdag en 154 sider lang trusselrapport som avslører at de har stanset fem tilfeller der forskere brukte deres Claude-AI-modeller til biologisk forskning som kunne støttet utvikling av våpen, i tillegg til cyberangrep, overvåking og arbeid med konvensjonelle våpen knyttet til Russland, Kina, Iran og Jemen.yahoo+1

Rapporten, som dekker aktivitet oppdaget mellom desember 2025 og august 2026, representerer det Washington Examiner beskriver som AI-bransjens første kjente innrømmelse av at utvikling av biologiske våpen overlapper med misbruk av AI. Anthropic uttalte at de ikke kunne fastslå om forskerne hadde til hensikt å skade, men valgte å gripe inn fordi de potensielle konsekvensene var for alvorlige til å ignoreres.nytimes+1

«Dual-use»-vitenskap og et militært laboratorium

Det mest detaljerte tilfellet involverte en forsker som i mai søkte Claudes hjelp til å utforme en søknad om «gain-of-function»-forskning på chikungunya-viruset, et myggbåret patogen som forårsaker langvarige leddsmerter. Det foreslåtte arbeidet hadde som mål å utvikle mutasjoner som gjør viruset farligere gjennom gjentatt infeksjon av levende dyr, og var ment å utføres ved et militært forskningsinstitutt. Et annet tilfelle involverte ukesvis med Claude-assistert planlegging av eksperimenter på høypatogen fugleinfluensa med fokus på tilpasning til pattedyr. Tre ytterligere tilfeller involverte ortopoxvirus, giftrelaterte forbindelser og toksiner.interestingengineering+2

Jacob Klein, leder for trusseletterretning hos Anthropic, fortalte The New York Times at deteksjon er iboende vanskelig. «Du ser ikke noen som i en tegneserie si: 'Hei, jeg vil bygge et biologisk våpen for å drepe alle',» sa han. «Det er en utrolig nyansert situasjon.»nytimes

Anthropic bemerket at eldre Claude-modeller viste begrenset evne til å bistå med sofistikert biologisk forskning, men at nåværende systemer kan fullføre komplekse vitenskapelige oppgaver – et skifte selskapet sier endrer deres risikovurdering.yahoo

Statsstøttede aktører på tvers av flere domener

Utover biologiske trusler dokumenterer rapporten en antatt russisk etterretningsgruppe som bruker Claude for å automatisere cyberangrep mot ukrainske myndighetsmål og europeiske diplomatiske organisasjoner. Kinesiske og iranske myndighetsaktører brukte Claude til å overvåke diasporamiljøer og dissidenter. Anthropic identifiserte også seks tilfeller av utvikling av konvensjonelle våpen, inkludert en Jemen-basert gruppe som testskjøt en styrt rakett og returnerte til Claude i løpet av timer for å analysere hvorfor den feilet.qz+1

Alarm i bransjen

Andrew Weber, en tidligere assisterende forsvarsminister i USA som vurderte rapporten før publisering, kalte funnene «skremmende eksempler på statsstøttede utviklere av biologiske våpen som utnytter de raskt voksende evnene» til ledende AI-modeller. Han oppfordret til at Russland, Kina og Nord-Korea nektes tilgang til de mest kapable systemene.yahoo+1

Anthropic stengte alle kontoer knyttet til den identifiserte aktiviteten, demonterte relénettverk som ble brukt til å omgå regionale tilgangskontroller, og delte funnene sine med myndigheter og andre AI-selskaper. Selskapet avslørte også at filtre for biorisiko utilsiktet var deaktivert for trafikk fra kontraktører fra mai 2025 til april 2026, noe som eksponerte omtrent 133 millioner utvekslinger, selv om en retrospektiv gjennomgang ikke fant noen bekreftet økning i biovåpenkapasitet som følge av glippen.interestingengineering+2