Gervistofur keppa að því að koma í veg fyrir að líkön aðstoði við hönnun lífefnavopna

Helstu gervigreindarfyrirtæki eru að efla viðleitni sína til að koma í veg fyrir að háþróuðustu líkön þeirra séu notuð til að hanna nýja vírusa eða lífefnavopn, þar sem stjórnendur og sérfræðingar í líföryggi vara við því að ein mistök gætu haft skelfilegar afleiðingar.

OpenAI, Anthropic og Google DeepMind Alphabet Inc. ↘ 1.11% eru að auka prófanir á líffræðilegri áhættu og aðgangsstýringar eftir því sem líkön þeirra verða færari á vísindasviðum, að því er Financial Times greindi frá á þriðjudag. Áhyggjuefnið er ekki að núverandi spjallmenni geti framleitt lífefnavopn að vild, heldur að næstu kynslóðar vísindalíkön gætu lækkað þröskuldinn fyrir fólk með skaðlegar fyrirætlanir.techbooky+1

Líkan sem er of öflugt fyrir opinn aðgang

Vandamálið hefur þegar neytt fyrirtæki til að taka ákvarðanir um vörur. Í innri prófunum kom í ljós að Claude Fable 5 frá Anthropic, sem kom út í júní, bauð væntanlegum lífefnavopnaframleiðanda "verulegan stuðning" eða getu "sem þeir gætu ekki fundið annars staðar," að sögn fyrirtækisins. Til að bregðast við því smíðaði Anthropic flokkunarkerfi sem beinir viðkvæmum líffræðilegum fyrirspurnum frá Fable 5 yfir á Opus 5, sem er eldra og minna öflugt líkan.thenextweb+1

Við útgáfu voru öryggisráðstafanirnar svo harðar að þær blokkuðu næstum allar líffræðitengdar spurningar, sem vakti mikla gagnrýni. Í ágúst endurskrifaði Anthropic reglur sínar með aðstoð sérfræðinga og fækkaði röngum líffræðitengdum viðvörunum um u.þ.b. 85 prósent. En tvíþætt notkunarsvið, þar á meðal veirufræði, eiturefnafræði og sameindahönnun, eru enn takmörkuð, þar sem Fable 5 vísar enn á Opus 5 fyrir þær fyrirspurnir.anthropic+2

Öflugasta líkan fyrirtækisins, Mythos 5, er aðeins aðgengilegt vottuðum samstarfsaðilum í gegnum Project Glasswing áætlunina, sem takmarkar aðgang við viðurkennd netöryggisteymi, ríkisstofnanir og rannsóknarstofnanir.coursiv

Iðnaðarátak fyrir öryggisráðstöfunum

Herðing stýringa fylgir víðtækri virkjun í iðnaðinum. Í júní undirrituðu forstjórar Anthropic, OpenAI og Microsoft ↘ 2.04% AI sameiginlegt bréf þar sem hvatt var til þess að þingið gerði skimun á pöntunum á tilbúnu DNA og RNA að skyldu, en hægt væri að nýta þær til að búa til lífefnavopn með aðstoð gervigreindar. Öryggisskýrsla iðnaðarins frá 2026 leiddi í ljós að nokkrar gervigreindarstofur höfðu bætt við takmörkunum eftir að hafa ekki getað útilokað að líkön þeirra gætu hjálpað byrjendum við að þróa efnavopn eða lífefnavopn.fortune+2

RAND Corporation lýsti í ágúst yfir lagskiptri varnarstefnu og komst að þeirri niðurstöðu að engin ein öryggisráðstöfun geti komið í veg fyrir líffræðilegar árásir með aðstoð gervigreindar, en að níu inngrip, samanlagt, gætu dregið verulega úr áhættunni. Bipartisan Commission on Biodefense hjá Atlantic Council hefur í fyrsta skipti skilgreint gervigreind sem formlegt tækniforgangsverkefni.rand+1

Tvíþættur vandi

Áskorunin fyrir eftirlitsaðila og fyrirtæki er sú að líffræði er í eðli sínu tvíþætt. Sömu gervigreindarkerfi og flýta fyrir uppgötvun lyfja og próteinrannsóknum geta einnig gert hættulega þekkingu auðveldari í framkvæmd. Eins og einn sérfræðingur í líföryggi sagði við Financial Times: "Það eina sem þarf er ein mistök" – viðvörun sem iðnaðurinn virðist taka alvarlega, jafnvel þótt hann eigi í erfiðleikum með að jafna á milli gagnsæis og öryggis.ft+1