Anthropic segist hafa stöðvað tilraunir til rannsókna á lífvopnum með aðstoð gervigreindar

Anthropic birti á fimmtudag 154 blaðsíðna skýrslu um ógnir þar sem fram kemur að fyrirtækið hafi stöðvað fimm tilvik þar sem vísindamenn notuðu Claude gervigreindarlíkön sín fyrir líffræðilegar rannsóknir sem gætu stutt við þróun vopna, auk netárása, eftirlitsaðgerða og vinnu við hefðbundin vopn tengd Rússlandi, Kína, Íran og Jemen.yahoo+1

Skýrslan, sem nær yfir virkni sem greindist á milli desember 2025 og ágúst 2026, er það sem Washington Examiner lýsir sem fyrstu viðurkenningu gervigreindariðnaðarins á því að þróun lífvopna skarast við misnotkun á gervigreind. Anthropic sagðist ekki geta ákvarðað hvort vísindamennirnir hefðu illt í huga en valdi að grípa til aðgerða þar sem hugsanlegar afleiðingar væru of alvarlegar til að hunsa þær.nytimes+1

Tvíþætt vísindi og hernaðarrannsóknarstofa

Í ítarlegasta tilvikinu leitaði vísindamaður í maí aðstoðar Claude við að semja styrkumsókn fyrir rannsóknir á chikungunya-veirunni, sem er sjúkdómsvaldur sem berst með moskítóflugum og veldur langvarandi liðverkjum. Fyrirhuguð vinna miðaði að því að breyta veirunni þannig að hún yrði skaðlegri með endurteknum sýkingum í lifandi dýrum, og var ætlað að framkvæma hana í hernaðarrannsóknarstofnun. Annað tilvik sneri að vikum af skipulagningu með aðstoð Claude fyrir tilraunir á mjög sjúkdómsvaldandi fuglaflensu sem beindust að aðlögun að spendýrum. Þrjú viðbótartilvik vörðuðu orthopox-veirur, eiturefni og önnur eiturefni.interestingengineering+2

Jacob Klein, yfirmaður ógnargreiningar hjá Anthropic, sagði við The New York Times að greining sé í eðli sínu erfið. "Þú sérð ekki einhvern í teiknimyndastíl segja: 'Hey, ég vil smíða lífvopn til að drepa alla'," sagði hann. "Þetta er ótrúlega blæbrigðarík staða."nytimes

Anthropic benti á að eldri Claude-líkön sýndu takmarkaða getu til að aðstoða við flóknar líffræðilegar rannsóknir, en núverandi kerfi geta leyst flókin vísindaleg verkefni, sem er breyting sem fyrirtækið segir breyta áhættumati sínu.yahoo

Aðilar tengdir ríkjum á mörgum sviðum

Fyrir utan líffræðilegar ógnir, skjalfestir skýrslan grunaðan rússneskan njósnahóp sem notaði Claude til að gera netárásir sjálfvirkar gegn úkraínskum stjórnvöldum og evrópskum diplómatískum stofnunum. Aðilar sem tengjast stjórnvöldum í Kína og Íran notuðu Claude til að fylgjast með samfélögum í útlegð og andófsmönnum. Anthropic greindi einnig sex tilvik af þróun hefðbundinna vopna, þar á meðal hóp í Jemen sem prófaði stýrða eldflaug og sneri aftur til Claude innan nokkurra klukkustunda til að greina hvers vegna hún mistókst.qz+1

Viðvörun í iðnaðinum

Andrew Weber, fyrrverandi aðstoðarvarnarmálaráðherra Bandaríkjanna sem fór yfir skýrsluna fyrir birtingu, kallaði niðurstöðurnar "hrollvekjandi dæmi um hvernig ríkisstyrktir lífvopnahönnuðir nýta sér ört vaxandi getu" leiðandi gervigreindarlíkana. Hann hvatti til þess að Rússlandi, Kína og Norður-Kóreu yrði meinaður aðgangur að öflugustu kerfunum.yahoo+1

Anthropic lokaði öllum reikningum sem tengdust auðkenndri virkni, tók í sundur boðkerfi sem notuð voru til að komast framhjá svæðisbundnum aðgangsstýringum og deildi niðurstöðum sínum með stjórnvöldum og öðrum gervigreindarfyrirtækjum. Fyrirtækið upplýsti einnig að síur fyrir líffræðilega áhættu hefðu óvart verið óvirkar á umferð verktaka frá maí 2025 til apríl 2026, sem útsetti um 133 milljónir samskipta, þó að endurskoðun hafi ekki fundið neinar staðfestar vísbendingar um að það bil hafi auðveldað þróun lífvopna.interestingengineering+2