DI laboratorijos siekia užkirsti kelią modelių naudojimui kuriant biologinius ginklus

Didžiosios dirbtinio intelekto bendrovės intensyvina pastangas užkirsti kelią savo pažangiausių modelių naudojimui kuriant naujus virusus ar biologinius ginklus, nes vadovai ir biosaugos ekspertai įspėja, kad viena klaida gali turėti katastrofiškų pasekmių.

OpenAI, Anthropic ir Google DeepMind Alphabet Inc. ↗ 0.84% plečia biologinės rizikos vertinimą ir prieigos kontrolę, nes jų modeliai tampa vis pajėgesni mokslo srityse, antradienį pranešė Financial Times. Susirūpinimą kelia ne tai, kad dabartiniai vieši pokalbių robotai gali pagal pareikalavimą pagaminti biologinius ginklus, o tai, kad naujos kartos moksliniai modeliai gali sumažinti kliūtis asmenims, turintiems piktų kėslų.techbooky+1

Modelis, per daug pajėgus viešai prieigai

Ši problema jau privertė priimti konkrečius produktų sprendimus. Birželio mėn. išleisto Anthropic modelio Claude Fable 5 vidinių bandymų metu nustatyta, kad jis potencialiam biologinio ginklo kūrėjui suteikia "reikšmingą pranašumą" – galimybes, "kurių jie niekur kitur negalėtų rasti," teigė bendrovė. Reaguodama į tai, Anthropic sukūrė klasifikavimo sistemą, kuri jautrias biologines užklausas nukreipia nuo Fable 5 į Opus 5 – senesnį ir mažiau pajėgų modelį.thenextweb+1

Išleidimo metu apsaugos priemonės buvo tokios griežtos, kad blokavo beveik visus su biologija susijusius klausimus, o tai sulaukė plačios kritikos. Rugpjūčio mėn. Anthropic perrašė savo klasifikavimo taisykles, pasitelkusi ekspertus, ir sumažino su biologija susijusių klaidingų teigiamų rezultatų skaičių maždaug 85 procentais. Tačiau dvejopo naudojimo sritys, įskaitant virusologiją, toksikologiją ir molekulinį dizainą, išlieka ribojamos, o Fable 5 šioms užklausoms vis dar naudoja Opus 5.anthropic+2

Galingiausias bendrovės modelis Mythos 5 yra prieinamas tik patikrintiems partneriams per Project Glasswing programą, kuri riboja prieigą patvirtintoms kibernetinio saugumo komandoms, su vyriausybe susijusioms organizacijoms ir mokslinių tyrimų institucijoms.coursiv

Visos pramonės pastangos dėl apsaugos priemonių

Griežtesnė kontrolė atitinka platesnę pramonės mobilizaciją. Birželio mėn. Anthropic, OpenAI ir Microsoft ↘ 0.24% AI vadovai pasirašė bendrą laišką, kuriame ragina Kongresą įpareigoti tikrinti sintetinių DNR ir RNR užsakymus, kuriais su DI pagalba būtų galima pasinaudoti kuriant biologinius ginklus. 2026 m. pramonės saugos ataskaitoje nustatyta, kad kelios pažangios DI laboratorijos įdiegė apribojimus, negalėdamos atmesti galimybės, kad jų modeliai gali padėti pradedantiesiems kurti cheminius ar biologinius ginklus.fortune+2

RAND Corporation rugpjūčio mėn. apibrėžė sluoksniuotą gynybos strategiją, padarydama išvadą, kad jokia viena apsaugos priemonė negali užkirsti kelio DI pagrįstoms biologinėms atakoms, tačiau devynios kartu taikomos intervencijos galėtų reikšmingai sumažinti riziką. Atlantic Council dvišalė biosaugos komisija pirmą kartą DI įvardijo kaip oficialų technologinį prioritetą.rand+1

Dvejopo naudojimo dilema

Reguliuotojams ir bendrovėms iššūkis kyla dėl to, kad biologija iš prigimties yra dvejopo naudojimo sritis. Tos pačios DI sistemos, kurios spartina vaistų atradimą ir baltymų tyrimus, taip pat gali palengvinti pavojingų žinių surinkimą. Kaip vienas biosaugos ekspertas sakė Financial Times: "Užteks vienos klaidos" – tai įspėjimas, į kurį pramonė, atrodo, žiūri rimtai, net ir kovodama su balanso tarp atvirumo ir saugumo paieškomis.ft+1