Forstjóri Anthropic kallar eftir hægari þróun gervigreindar eftir misnotkun á Claude

Anthropic birti 154 blaðsíðna hótunarskýrslu þann 10. september þar sem greint var frá því hvernig andstæðingar nýttu Claude gervigreindarlíkön fyrirtækisins til drónahernaðar, rannsókna á lífefnavopnum, netnjósna, eftirlits og fjársvika yfir átta mánaða tímabil. Niðurstöðurnar komu beint á undan kalli Dario Amodei, forstjóra, á laugardaginn um að gervigreindariðnaðurinn þurfi að hægja á sér.anthropic+1

Frá sjálfsmorðsdrónum til lífefnavopna

Skýrslan, sem nær yfir starfsemi sem var stöðvuð á milli desember 2025 og ágúst 2026, skjalfestir rússneskan verktakahóp sem notaði Claude Code til að þróa hugbúnað fyrir sverm af sjálfsmorðsdrónum sem geta valið sér mannleg skotmörk og gefið út sprengiskipanir án eftirlits manna. Anthropic rakti hópinn, sem kallaði verkefni sitt DronDoc, til níu reikninga tengdum svæðisbundnum rússneskum háskóla. Hópurinn hélt því fram að hann fengi fjármögnun frá rússnesku rannsóknarstofnuninni Advanced Research Foundation, þótt Anthropic gæti ekki staðfest það.dronexl

Meðal alvarlegustu dæmanna: aðgerð tengd Íran notaði Claude til að smíða handbækur um skotmörk sem fylgdust með sjóher Bandaríkjanna, vopnahópur í norðurhluta Jemen notaði Claude Code til að þróa leiðsöguhugbúnað fyrir flugskeyti og aðili tengdur Kína notaði líkanið til að bera kennsl á og elta uppi Úígúra í WhatsApp og Telegram hópum. Ráðgjafi í Malí smíðaði eftirlitskerfi fyrir síma sem gat fylgst með 25 milljónum SIM-korta.axios

Anthropic stöðvaði einnig fimm tilvik þar sem lífefni voru misnotuð, þar á meðal rannsakendur með ríkisstyrki sem reyndu að breyta vírus sem berst með moskítóflugum svo hann gæti breiðst út auðveldara. Þegar Claude neitaði að svara viðkvæmustu beiðnunum beindu rannsakendurnir þeim að samkeppnislíkani með veikari öryggisráðstöfunum.npr+1

Kall um að hægja á

Öll tilvik misnotkunar tengdust Haiku, Sonnet eða Opus líkönum Claude en ekkert tengdist nýrri Fable eða Mythos kerfum fyrirtækisins. Skýrslan leiddi einnig í ljós að sjö rannsóknarstofur í Kína, þar á meðal Alibaba, Moonshot og DeepSeek, stóðu fyrir árásum á Claude, þar sem Alibaba ↗ 0.68% var lýst sem "stærstu árásinni sem við höfum mælt".zmina+2

Niðurstöðurnar birtust þegar Amodei birti ritgerð á laugardaginn sem bar titilinn "We Must Pace the Frontier" þar sem hann hvatti gervigreindarfyrirtæki til að hægja strax á þróun getu sinna. "Við verðum að hægja á þeim hraða sem við bætum getu gervigreindarlíkana," skrifaði hann og hét því að Anthropic myndi skuldbinda sig "einliða" og hvatti stjórnvöld til að "gera kröfu um að önnur leiðandi fyrirtæki fari að dæminu".politico+2

Viðbrögð í Washington

Uppljóstranirnar hafa aukið þrýstinginn í Washington. Þverpólitískur hópur þingmanna hvetur Mike Johnson forseta þingsins til að fresta þinghléinu þar til þingið grípur til aðgerða varðandi öryggi gervigreindar, á meðan Bernie Sanders öldungadeildarþingmaður hefur kallað eftir því að ofurgervigreind verði bönnuð með öllu. NPR greindi frá því að Anthropic hafi deilt niðurstöðum sínum með yfirvöldum og samstarfsaðilum í iðnaðinum. Í kafla skýrslunnar um þróun er varað við því að gera eigi ráð fyrir að geta sú sem lýst er "sé aðgengileg öllum þeim sem hafa hvata til þess".axios+2