Anthropic segir stjórnvöld hafa notað Claude í vopnaþróun og eftirlit

Anthropic birti ítarlegustu ógnarskýrslu sína á fimmtudag og greindi frá því að ríkisstyrktir aðilar frá Kína, Rússlandi, Íran, Malí og Jemen, ásamt glæpsamlegum tölvuþrjótahópum, hafi nýtt sér Claude gervigreindarlíkön fyrirtækisins fyrir netárásir, vopnaþróun, fjöldaeftirlit og áróðursherferðir á síðustu átta mánuðum.

Skýrslan, sem nær yfir virkni sem greindist á milli desember 2025 og ágúst 2026, skjalfestir hvernig andstæðingar komust framhjá landfræðilegum takmörkunum með því að nota VPN og sviksamlega reikninga til að fá aðgang að Claude í tilgangi sem spannar allt frá hönnun stýrðra eldflauga til sjálfvirkni eftirlits með andófsmönnum.axios+1

Vopn og hernaðarbúnaður

Meðal óhugnanlegustu niðurstaðna sagði Anthropic að fyrirtækið hefði stöðvað hóp ógnaraðila í norðurhluta Jemen sem notaði Claude í þremur vopnaþróunaráætlunum, þar á meðal fyrir stýrða eldflaug, fjölþrepa stýriflaug og svifflaug. Í einu tilviki var Claude notað til að hjálpa við þróun leiðsöguhugbúnaðar fyrir eldflaug sem var síðar prófuð, þó fyrirtækið segi enga sönnun vera fyrir því að virkt vopn hafi verið tekið í notkun.timesnownews+1

Í öðru tilviki reyndi rússneskur aðili að nota Claude til að smíða hugbúnað fyrir sjálfvirka drónasveim sem gæti framkvæmt sjálfsmorðsárásir. Anthropic greindi alls sex tilvik sem tengdust hefðbundinni vopnaþróun, upplýsingaöflun eða innkaupum.politico+1

Eftirlit á iðnaðarskala

Stjórnvöld í Kína, Íran og Malí notuðu Claude til að gera eftirlitsaðgerðir sjálfvirkar sem áður kröfðust heilla teyma greiningaraðila. Í Kína minnkaði trúmálaskrifstofa starfsemi sína niður í eina skrifstofu sem notaði gervigreind til að framleiða þúsundir rannsókna í hverjum mánuði, greindi færslur á samfélagsmiðlum með tilliti til pólitískrar viðkvæmni og valdi skotmörk fyrir þvinguð yfirheyrslur. Í Malí smíðaði einn ráðgjafi vettvang fyrir fjöldaeftirlit sem gat fylgst með samskiptum hjá öllum farsímafyrirtækjum landsins. Íranskir aðilar þróuðu skaðlega Firefox-viðbót til að safna notendaupplýsingum af samfélagsmiðlum og byggðu kerfi sem greindi yfir 155.000 tíst.timesnownews+2

Öryggisráðstafanir og takmarkanir

Anthropic sagðist hafa lokað öllum reikningum sem tengdust þessari starfsemi og tilkynnt tilvikin til viðeigandi stjórnvalda og samstarfsaðila í iðnaði. Ekkert tilvikanna tengdist öflugustu líkönum fyrirtækisins; öll notuðu Claude Haiku, Sonnet eða Opus. Jacob Klein, yfirmaður ógnargreiningar hjá Anthropic, sagði við Axios að gervigreind geri eftirlit ríkja „ódýrara og skilvirkara“ frekar en að breyta því hverjum stjórnvöld beina spjótum sínum að.axios+1

Samt sem áður þýðir það ekki endilega endalok ógnarinnar að loka fyrir aðgang að Claude. Í Malí tóku stjórnvöld einfaldlega upp eftirlitsvettvang sinn með opnum hugbúnaðarlíkönum eftir að Anthropic greip inn í. „Valdníðsluríki nota gervigreind til eftirlits, kúgunar og áróðurs í dag,“ sagði Klein. „Þetta er ekki lengur tilgáta.“axios