AI-selskaper i kappløp for å hindre utvikling av biologiske våpen

Store selskaper innen kunstig intelligens intensiverer arbeidet med å hindre at deres mest avanserte modeller blir brukt til å designe nye virus eller biologiske våpen, ettersom ledere og eksperter på biosikkerhet advarer om at en enkelt svikt kan få katastrofale følger.

OpenAI, Anthropic og Google DeepMind Alphabet Inc. ↗ 0.84% utvider testingen av biologisk risiko og tilgangskontrollene etter hvert som modellene deres blir stadig mer kapable innen vitenskapelige felt, meldte Financial Times på tirsdag. Bekymringen er ikke at dagens offentlige chatroboter kan produsere biologiske våpen på kommando, men at neste generasjons vitenskapelige modeller kan senke terskelen for personer med skadelige hensikter.techbooky+1

En modell for kapabel for åpen tilgang

Problemet har allerede tvunget frem konkrete produktbeslutninger. Anthropics Claude Fable 5, som ble lansert i juni, viste seg i interne tester å tilby en potensiell produsent av biologiske våpen "betydelig drahjelp" – egenskaper "de ikke kunne finne andre steder", opplyste selskapet. Som svar bygde Anthropic et klassifiseringssystem som omdirigerer sensitive biologispørsmål bort fra Fable 5 til Opus 5, en eldre og mindre kapabel modell.thenextweb+1

Ved lansering var sikkerhetsmekanismene så aggressive at de blokkerte nesten alle biologirelaterte spørsmål, noe som vakte omfattende kritikk. I august skrev Anthropic om reglene for klassifisering med innspill fra eksperter, noe som reduserte biologirelaterte falske positiver med omtrent 85 prosent. Men områder med dobbel bruk, inkludert virologi, toksikologi og molekylær design, forblir begrensede, og Fable 5 faller fortsatt tilbake på Opus 5 for slike spørsmål.anthropic+2

Selskapets kraftigste modell, Mythos 5, er kun tilgjengelig for godkjente partnere gjennom programmet Project Glasswing, som begrenser tilgangen til godkjente cybersikkerhetsteam, myndighetsnære organisasjoner og forskningsinstitusjoner.coursiv

Bransjeomfattende press for sikkerhetstiltak

De strengere kontrollene følger en bredere mobilisering i bransjen. I juni signerte lederne for Anthropic, OpenAI og Microsoft ↘ 0.24% AI et felles brev der de oppfordret Kongressen til å påby kontroll av bestillinger av syntetisk DNA og RNA, som kan utnyttes til å skape biologiske våpen med AI-hjelp. En bransjerapport om sikkerhet fra 2026 viste at flere ledende AI-laboratorier hadde innført restriksjoner etter å ikke ha kunnet utelukke at modellene deres kunne hjelpe nybegynnere med å utvikle kjemiske eller biologiske våpen.fortune+2

RAND Corporation skisserte i august en lagdelt forsvarsstrategi, og konkluderte med at ingen enkeltstående sikkerhetstiltak kan forhindre biologiske angrep støttet av AI, men at ni tiltak til sammen kan redusere risikoen betraktelig. Atlantic Councils tverrpolitiske kommisjon for biosikkerhet har for første gang utpekt AI som en formell teknologisk prioritet.rand+1

Dilemmaet om dobbel bruk

Utfordringen for både regulatorer og selskaper er at biologi i sin natur har dobbel bruk. De samme AI-systemene som fremskynder legemiddelutvikling og proteinforskning, kan også gjøre farlig kunnskap lettere å sette sammen. Som en ekspert på biosikkerhet sa til Financial Times: "Alt som skal til er én tabbe" – en advarsel som bransjen ser ut til å ta på alvor, selv om den sliter med å balansere åpenhet med sikkerhet.ft+1