„Financial Times“: „Meta“ ir „Google“ dirbtinio intelekto saugos filtrai apeinami per kelias minutes

Programinės įrangos įrankiai, kurie pašalina saugos apsaugas iš „Meta“ ↗ 0.83% ir „Google Alphabet Inc.“ ↗ 0.78% sukurtų DI modelių, gali apeiti apsaugos priemones per kelias minutes, teigiama sekmadienį „Financial Times“ paskelbtame tyrime. Modifikuotos sistemos reagavo į užklausas, susijusias su biologiniais ginklais, kenkėjiškos programinės įrangos kūrimu ir vaikų išnaudojimu, o tai kelia naujų abejonių dėl savanoriškų saugos priemonių tinkamumo visoje DI pramonėje.

Bandymai atskleidžia menką apsaugą

„Financial Times“, bendradarbiaudamas su DI saugos grupe „Alice“, atliko bandymus, kurie parodė, kad viešai prieinami įrankių rinkiniai gali per trumpą laiką pašalinti saugos filtrus iš plačiai naudojamų modelių. Įrankių rinkiniai išnaudoja tokius metodus kaip lengvas derinimas, priešiškų instrukcijų duomenų rinkiniai ir automatizuotos užklausų transformacijos, kurios perrašo arba apeina įdiegtas apsaugas nereikalaudamos visiško modelio perkvalifikavimo. Remiantis pranešimais, šie įrankiai jau naudojami kuriant tūkstančius pakeistų modelių versijų, kurios apeina paslaugų teikėjų nustatytus apribojimus.ft+2

Šios išvados pasirodė augant akademiniams įrodymams apie struktūrinius DI saugos suderinimo trūkumus. Vasario mėn. žurnale „Nature Communications“ paskelbtame tyrime nustatyta, kad dideli argumentavimo modeliai gali būti naudojami kaip autonominiai „jailbreak“ agentai, pasiekiantys 97 procentų sėkmės rodiklį įvairiuose modelių deriniuose be žmogaus priežiūros. Atskirai, ICLR 2026 konferencijoje pristatytame darbe pademonstruotas metodas, vadinamas „Head-Masked Nullspace Steering“, kuris pasiekė iki 99 procentų „jailbreak“ sėkmės, nutildant specifines dėmesio sritis, atsakingas už saugos atsisakymus.nature+1

Atviro svorio modeliai didina riziką

Tyrimas pabrėžia įtampą, kylančią dėl atviro svorio DI strategijos, kurią propaguoja „Meta“ „Llama“ serija ir „Google“ „Gemma“ asortimentas. Nors atviri svoriai paspartina tyrimus ir kūrėjų pritaikymą, jie taip pat leidžia pašaliniams asmenims modifikuoti arba perpakuoti modelius su pakeistais saugos standartais. Kibernetinio saugumo analitikai įspėjo, kad daugelis DI saugos apsaugų egzistuoja tik paviršiniame lygmenyje, o vartotojams gavus prieigą prie modelio svorių, apribojimai gali būti pašalinti naudojant laisvai platinamus įrankius.nai500+1

„The New York Times“ anksčiau šį mėnesį pranešė, kad DI saugos kontrolė visoje pramonėje išlieka iš esmės neveiksminga, pažymėdama, kad kibernetinio saugumo įmonės „LayerX“ tyrėjai be didelių pastangų apeina „Claude“ apsaugos priemones.nytimes

Reguliavimo ir rinkos pasekmės

Reguliavimo institucijos Vašingtone, Briuselyje ir Londone signalizavo, kad savanoriškų DI kūrėjų įsipareigojimų nepakaks. JAV jau turi vykdomosios valdžios įsakymų sistemas ir NIST gaires, kurias būtų galima panaudoti vykdymui užtikrinti, o ES DI aktas numato baudas už sistemines saugos nesėkmes. Tikėtina, kad šios išvados sustiprins raginimus nustatyti privalomus standartus, reglamentuojančius tiek uždaro, tiek atviro svorio DI sistemas, o tai gali sulėtinti įmonių pritaikymą, nes pirkimų komandos reikalauja stipresnių techninių garantijų ir nepriklausomų audito sekų.nai500