Anthropic kertoo estäneensä biologisiin aseisiin liittyvää tekoälyn väärinkäyttöä

Anthropic julkaisi torstaina tähän asti yksityiskohtaisimman uhka-arvioraporttinsa. Siitä käy ilmi, että valtiolliset hakkerit, rikollisryhmät ja biologisiin aseisiin liittyvää tutkimusta tekevät tahot ovat käyttäneet yhtiön tekoälymalleja viimeisen yhdeksän kuukauden aikana. Paljastus korostaa sitä, miten nopeasti tekoäly muovaa sekä kyberrikollisuuden että bioturvallisuusriskien kenttää.

Raportti otsikolla ”Detecting and Countering Misuse of AI: September 2026” kattaa toiminnan, jota yhtiön uhkatiedustelutiimi torjui joulukuun 2025 ja elokuun 2026 välisenä aikana seitsemässä eri haittaluokassa. Näitä olivat muun muassa kyberoperaatiot, biologinen väärinkäyttö, valvonta, vaikuttamiskampanjat ja tavanomaisten aseiden kehittäminen. Claude Haiku-, Sonnet- ja Opus-malleja hyödynnettiin kaikissa tapauksissa, vaikka yhtiön mukaan mikään tapauksista ei koskenut sen uudempia Claude Fable- tai Mythos-luokan malleja.techxplore+1

Biologisten aseiden tutkimus herätti hälytyksen

Yhdeksi huolestuttavimmista havainnoista Anthropic nimesi yritykset käyttää Claudea tutkimukseen, joka voisi tukea biologisten aseiden kehittämistä. Eräässä tapauksessa virologeille suunnatulla alustalla tehtiin chikungunya-viruksen toiminnallisuuden parantamiseen (gain-of-function) tähtäävää tutkimusta. Kyselyt reititettiin Yhdysvaltojen infrastruktuurin kautta aluerajoitusten kiertämiseksi, ja sisällön piilottamiseen käytettiin palveluita, jotka eivät tallenna tietoja. Toisessa tapauksessa tutkija käytti Claudea alueelta, jossa palvelu ei ole tuettu, suunnitellakseen erittäin vaarallisen lintuinfluenssan muuntamista nisäkkäisiin soveltuvaksi. Kolmannessa tapauksessa laadittiin apurahahakemusta elävien ortopoksivirusten, eli isorokon sukulaisvirusten, tutkimukseen laboratoriossa, jota Anthropic kuvaili valtiolliseksi toimijaksi.theweek+1

”On jo pitkään oltu huolissaan siitä, että tekoälymallit saattavat jonain päivänä saavuttaa kyvykkyystason, jolla ne voivat auttaa tekemään olemassa olevista taudinaiheuttajista vaarallisempia tai luomaan täysin uusia”, yhtiö totesi. Anthropic kertoi, että sen uusimmat mallit sisältävät nyt tiukempia suojatoimia, jotka rajoittavat pääsyä kaksikäyttötuotteisiin liittyviin biologisiin tutkimuskyselyihin.theweek

Kyberoperaatiot muuttuvat yhä itsenäisemmiksi

Raportissa dokumentoitiin myös muutos siinä, miten uhkatekijät käyttävät tekoälyä kyberhyökkäyksissä. Siinä kuvailtiin siirtymää avustavasta tekoälystä koordinoivaan tekoälyyn. Eräässä tapauksessa Venäjän valtioon kytkeytyvään Midnight Blizzard -ryhmään liitetty toimija automatisoi lähes kaikki vaiheet tunkeutumiskampanjoissa, joiden kohteena olivat Ukrainan valtionelimet, Euroopan diplomaattiset edustustot ja drooniteknologian toimitusketjut. Toimija käytti Claudea tietojenkalasteluinfrastruktuurin rakentamiseen, haittaohjelmien muokkaamiseen havaitsemisen välttämiseksi ja satojen gigatavujen varastetun datan siirtämiseen.anthropic

Toinen, taloudellista hyötyä tavoitteleva ShinyHunters-kollektiiviin kytkeytyvä hyökkääjäryhmä käytti Claudea massiivisten tietomurtojen nopeuttamiseen ja varasti miljoonia maksukorttitietoja sekä matkustajatietoja useilta eri uhreilta. Anthropic huomautti, että tekoäly on ”kuromassa umpeen työmäärä- ja työkalueroja” valtiollisten operaatioiden ja yksittäisten hakkerien välillä, mikä tarkoittaa, etteivät kehittyneet hyökkäykset vaadi enää kehittyneitä hyökkääjiä.anthropic

Julkaisun ajoitus herättää kysymyksiä

Raportti julkaistiin kaksi päivää sen jälkeen, kun Anthropicin tutkija erosi julkisesti tehtävästään väittäen BBC:n mukaan, että yhtiö ja sen kilpailijat eivät toimi vastuullisesti tekoälyn kehittämisessä. ”Juuri tällaisten tapausten kohdalla meidän on pohdittava asiaan liittyvää etiikkaa”, sanoi Intian Noidassa työskentelevä tekoälytutkija Kishan R. ”Miten Anthropicin ja xAI:n kaltaiset yritykset määrittelevät, mikä on niiden tekoälymallien turvallista käyttöä? Tämä on demokraattinen eikä yritystason kysymys”.bbc+1