Anthropic segist hafa stöðvað misnotkun gervigreindar í lífvopnarannsóknum

Gervigreindarfyrirtækið Anthropic birti á fimmtudag sína ítarlegustu skýrslu um ógnargreiningu til þessa. Þar kemur fram að tölvuþrjótar á vegum ríkisstjórna, glæpahópar og rannsakendur sem vinna að verkefnum tengdum lífvopnum hafi notað gervigreindarlíkön fyrirtækisins á síðustu níu mánuðum. Þessi uppljóstrun sýnir hversu hratt gervigreind er að breyta landslaginu í bæði netglæpum og líföryggisógnum.

Skýrslan, sem ber heitið „Detecting and Countering Misuse of AI: September 2026“, fjallar um starfsemi sem ógnargreiningerteymi fyrirtækisins stöðvaði á tímabilinu desember 2025 til ágúst 2026 í sjö flokkum skaðlegrar hegðunar, þar á meðal nethernaði, misnotkun í lífvísindum, eftirliti, áróðursherferðum og þróun hefðbundinna vopna. Líklönin Claude Haiku, Sonnet og Opus voru öll misnotuð, en fyrirtækið tók fram að ekkert málanna tengdist nýrri líkönunum Claude Fable eða Mythos.techxplore+1

Lífvopnarannsóknir stöðvaðar

Meðal alvarlegustu niðurstaðna skýrslunnar er að Anthropic greindi tilraunir til að nota Claude við rannsóknir sem gætu nýst við þróun lífvopna. Í einu tilfelli var um að ræða vettvang fyrir veirufræðinga sem stunduðu rannsóknir á virkniaukningu (e. gain-of-function) á chikungunya-veirunni. Fyrirspurnum var beint í gegnum innviði í Bandaríkjunum til að sniðganga svæðisbundnar lokanir og notaðar voru þjónustur sem eyða gögnum jafnóðum til að fela slóðina. Í öðru tilfelli notaði rannsakandi Claude frá svæði þar sem þjónustan er ekki í boði til að skipuleggja rannsóknir á því hvernig bráðsmitandi fuglaflensa gæti aðlagast spendýrum. Þriðja málið varðaði einstakling sem samdi styrkumsókn fyrir rannsóknir á lifandi orthopox-veirum, sem er sú veiruætt sem bólusótt tilheyrir, á rannsóknarstofu sem Anthropic sagði tengjast ríkisvaldi.theweek+1

„Það hefur lengi verið áhyggjuefni að gervigreindarlíkön gætu einn daginn orðið svo öflug að þau gætu hjálpað til við að gera núverandi sýkla hættulegri, eða jafnvel búið til alveg nýja,“ sagði í yfirlýsingu fyrirtækisins. Anthropic segir að nýjustu líkön þess innihaldi nú strangari öryggisvarnir sem takmarka aðgang að fyrirspurnum um tvíþættar lífvísindarannsóknir.theweek

Netárásir verða sjálfvirkari

Í skýrslunni er einnig lýst breytingu á því hvernig tölvuþrjótar nota gervigreind í netárásum, þar sem hlutverk herra hefur þróast úr því að vera aðstoðartól yfir í að stýra aðgerðum. Í einu tilfelli tókst geranda, sem tengist rússneska hópnum Midnight Blizzard, að sjálfvirknivæða nánast öll stig innbrotsherferða sem beindust gegn úkraínskum ríkisstofnunum, evrópskum sendiráðum og birgðakeðjum fyrir drónatækni. Gerandinn notaði Claude til að byggja upp innviði fyrir vefveiðar, breyta spilliforritum til að forðast greiningu og flytja út mörg hundruð gígabæt af stolnum gögnum.anthropic

Annar hópur tölvuþrjóta, sem drifinn er áfram af fjárhagslegum hagsmunum og tengist ShinyHunters-hópnum, notaði Claude til að flýta fyrir stórfelldum gagnastuldi og stálu þeir milljónum greiðslukortaupplýsinga og farþegagagna frá mörgum fórnarlömbum. Anthropic benti á að gervigreind hafi „brúað bilið í vinnuafli og tækjabúnaði“ á milli ríkisrekinna aðgerða og einstakra tölvuþrjóta, sem þýðir að flóknar árásir krefjast ekki lengur tæknilega háþróaðra gerenda.anthropic

Tímasetningin vekur athygli

Skýrslan var gefin út tveimur dögum eftir að rannsakandi hjá Anthropic sagði opinberlega upp störfum og fullyrti að fyrirtækið og keppinautar þess sýndu ekki ábyrgð við þróun gervigreindar, að sögn BBC. „Það er í tilfellum sem þessum sem við þurfum að skoða siðferðislegu hliðina,“ sagði Kishan R, gervigreindarrannsakandi í Noida á Indlandi. „Hvernig ákveða fyrirtæki eins og Anthropic og xAI hvað telst örugg notkun á gervigreindarlíkönum þeirra? Þetta er lýðræðisleg spurning en ekki ákvörðun sem á að vera í höndum fyrirtækja“.bbc+1