Anthropic stanset misbruk av KI knyttet til biologiske våpen

Torsdag la Anthropic frem sin mest detaljerte trusselrapport til nå. Den viser at selskapets KI-modeller har blitt brukt av statsstøttede hackere, kriminelle grupper og forskere som jobber med biologiske våpen de siste ni månedene. Avsløringen understreker hvor raskt kunstig intelligens endrer risikobildet for både cyberkriminalitet og biosikkerhet.

Rapporten, med tittelen «Detecting and Countering Misuse of AI: September 2026», dekker aktivitet som selskapets trusselavdeling avverget mellom desember 2025 og august 2026. Aktiviteten var fordelt på syv skadekategorier, inkludert cyberoperasjoner, biologisk misbruk, overvåking, påvirkningsoperasjoner og utvikling av konvensjonelle våpen. Modellene Claude Haiku, Sonnet og Opus ble alle utnyttet, men selskapet opplyser at ingen av tilfellene involverte de nyere modellene Claude Fable eller Mythos.techxplore+1

Forskning på biologiske våpen avdekket

Blant de mest urovekkende funnene var forsøk på å bruke Claude til forskning som kan bidra til utvikling av biologiske våpen. I ett tilfelle ble en plattform for virologer brukt til å utføre «gain-of-function»-forskning på chikungunyaviruset. Forespørslene ble rutet gjennom amerikansk infrastruktur for å omgå regionale blokkeringer, og det ble brukt tjenester uten datalagring for å skjule innholdet. I et annet tilfelle brukte en forsker Claude fra en region uten støtte for å planlegge tilpasning av høypatogen fugleinfluensa til pattedyr. Et tredje tilfelle handlet om utforming av en søknad om forskningsmidler for levende ortopoxvirus: virusfamilien som inkluderer kopper: ved et laboratorium Anthropic beskriver som statstilknyttet.theweek+1

«Det har lenge vært en bekymring at KI-modeller en dag vil bli så avanserte at de kan bidra til å gjøre eksisterende patogener farligere, eller skape helt nye», uttaler selskapet. Anthropic opplyser at deres nyeste modeller nå har strengere sikkerhetsbarrierer som begrenser tilgangen til biologiske forskningsspørsmål med flerbrukspotensial.theweek

Cyberoperasjoner blir mer autonome

Rapporten dokumenterer også et skifte i hvordan trusselaktører bruker KI til cyberangrep, der teknologien går fra å være en assistent til å bli en koordinator. I ett tilfelle automatiserte en aktør med koblinger til den russiske gruppen Midnight Blizzard nesten alle stadier av en datainnbruddskampanje. Målene var ukrainske myndighetsorganer, europeiske diplomatiske stasjoner og leverandørkjeder for droneteknologi. Aktøren brukte Claude til å bygge infrastruktur for phishing, modifisere skadevare for å unngå oppdagelse og hente ut hundrevis av gigabyte med stjålne data.anthropic

En annen gruppe økonomisk motiverte angripere med tilknytning til ShinyHunters-kollektivet brukte Claude til å fremskynde massivt datatyveri. De stjal millioner av betalingskortopplysninger og passasjerdata fra flere ofre. Anthropic påpeker at KI har «visket ut gapet i arbeidskraft og verktøy» mellom statsstøttede operasjoner og enkeltstående hackere, noe som betyr at avanserte angrep ikke lenger krever avanserte angripere.anthropic

Tidspunktet vekker oppsikt

Rapporten ble offentliggjort to dager etter at en Anthropic-forsker sa opp sin stilling offentlig. Vedkommende hevdet at selskapet og dets konkurrenter ikke opptrer ansvarlig i utviklingen av kunstig intelligens, ifølge BBC. «Det er i slike tilfeller vi må utforske de etiske sidene», sier Kishan R, en KI-forsker basert i Noida i India. «Hvordan avgjør selskaper som Anthropic og xAI hva som er sikker bruk av modellene deres? Dette er et demokratisk spørsmål, ikke et bedriftsinternt».bbc+1