Tekoälylaboratoriot kiirehtivät estämään mallien käytön biologisten aseiden kehityksessä

Suuret tekoälyyritykset tehostavat toimiaan estääkseen kehittyneimpien malliensa käytön uusien virusten tai biologisten aseiden suunnittelussa, sillä johtajat ja bioturvallisuusasiantuntijat varoittavat, että yksikin virhe voi johtaa katastrofaalisiin seurauksiin.

OpenAI, Anthropic ja Alphabet Inc:n ↘ 1.10% Google DeepMind laajentavat biologisen riskin testausta ja pääsynvalvontaa, kun niiden mallien kyvykkyys tieteellisillä aloilla kasvaa, raportoi Financial Times tiistaina. Huolenaiheena ei ole se, että nykyiset julkiset chatbotit voisivat tuottaa biologisia aseita pyynnöstä, vaan se, että seuraavan sukupolven tieteelliset mallit voisivat madaltaa kynnystä haitallisia aikeita omaaville henkilöille.techbooky+1

Malli, joka on liian kyvykäs avoimeen käyttöön

Ongelma on jo johtanut konkreettisiin tuotepäätöksiin. Anthropicin kesäkuussa julkaistun Claude Fable 5 -mallin todettiin sisäisissä testeissä tarjoavan "merkittävää apua" biologisen aseen valmistajalle, tarjoten kyvykkyyksiä, joita "he eivät löytäisi mistään muualta", yhtiö kertoi. Vastauksena tähän Anthropic rakensi luokittelujärjestelmän, joka ohjaa arkaluontoiset biologiaa koskevat kyselyt Fable 5:stä Opus 5:een, joka on vanhempi ja vähemmän kyvykäs malli.thenextweb+1

Julkaisuhetkellä turvatoimet olivat niin tiukkoja, että ne estivät lähes kaikki biologiaan liittyvät kysymykset, mikä herätti laajaa kritiikkiä. Elokuussa Anthropic kirjoitti luokittelusääntönsä uudelleen asiantuntijoiden avustuksella, mikä vähensi biologiaan liittyviä vääriä hälytyksiä noin 85 prosenttia. Kaksikäyttökohteet, kuten virologia, toksikologia ja molekyylisuunnittelu, pysyvät kuitenkin rajoitettuina, ja Fable 5 käyttää edelleen Opus 5 -mallia näissä kyselyissä.anthropic+2

Yhtiön tehokkain malli, Mythos 5, on saatavilla vain valikoiduille kumppaneille Project Glasswing -ohjelman kautta, joka rajoittaa pääsyn hyväksytyille kyberturvallisuustiimeille, hallitusta lähellä oleville organisaatioille ja tutkimuslaitoksille.coursiv

Alan laajuinen pyrkimys turvatoimiin

Tiukentuvat kontrollit seuraavat laajempaa alan mobilisaatiota. Kesäkuussa Anthropicin, OpenAI:n ja Microsoftin ↘ 2.03% tekoälyjohtajat allekirjoittivat yhteiskirjeen, jossa vaadittiin kongressia säätämään pakolliseksi synteettisten DNA- ja RNA-tilausten seulonta, joita voitaisiin hyödyntää biologisten aseiden luomiseen tekoälyn avulla. Vuoden 2026 alan turvallisuusraportissa todettiin, että useat tekoälylaboratoriot olivat lisänneet rajoituksia sen jälkeen, kun ne eivät voineet sulkea pois mahdollisuutta, että niiden mallit voisivat auttaa aloittelijoita kehittämään kemiallisia tai biologisia aseita.fortune+2

RAND Corporation hahmotteli elokuussa kerroksellisen puolustusstrategian ja totesi, ettei mikään yksittäinen turvatoimi voi estää tekoälyavusteisia biologisia hyökkäyksiä, mutta yhdeksän toimenpiteen yhdistelmä voisi merkittävästi vähentää riskiä. Atlantic Councilin kaksipuolueinen bioturvallisuuskomissio on ensimmäistä kertaa nimennyt tekoälyn viralliseksi teknologiseksi painopisteeksi.rand+1

Kaksikäytön dilemma

Haasteena sekä sääntelijöille että yrityksille on se, että biologia on luonnostaan kaksikäyttöistä. Samat tekoälyjärjestelmät, jotka nopeuttavat lääkekehitystä ja proteiinitutkimusta, voivat myös helpottaa vaarallisen tiedon kokoamista. Kuten eräs bioturvallisuusasiantuntija totesi Financial Timesille, "yksikin virhe riittää" – varoitus, jonka ala näyttää ottavan vakavasti, vaikka se kamppailee avoimuuden ja turvallisuuden tasapainottamisessa.ft+1