JK agentūra nustatė, kad „jailbreak“ metodai atvėrė GPT-5.6 kibernetinio saugumo galimybes prieš „OpenAI“ pristatymą

JK AI saugumo institutas nustatė „universalius jailbreak“ metodus „OpenAI“ GPT-5.6 „Sol“ modelyje, kurie atvėrė pavojingas kibernetinio saugumo galimybes, teigiama liepos 9 d. paskelbtoje modelio sistemos kortelėje. Ši išvada kelia klausimų, kodėl modelis šią savaitę buvo plačiai pristatytas visuomenei, kai panašus pažeidžiamumas „Anthropic“ „Fable 5“ modelyje vos prieš kelias savaites sukėlė JAV eksporto kontrolės priemones.deploymentsafety.openai+1

Ką nustatė JK AISI

Atliekant testavimą prieš diegimą, JK AISI aptiko „jailbreak“ metodus kibernetinėje srityje, kurie „leido atlikti ilgalaikes agentines užduotis“ tokiose srityse kaip pažeidžiamumų paieška ir išnaudojimo priemonių kūrimas. Agentūra nustatė, kad GPT-5.6 „Sol“ pasirodė žymiai geriau nei jo pirmtakas atliekant puolamojo saugumo užduotis, įveikdamas 7 iš 10 ilgalaikių kibernetinio saugumo iššūkių, palyginti su 2 iš 10 GPT-5.5 atveju. JK AISI padarė išvadą, kad modelis gali būti pajėgus atakuoti mažo masto įmonių tinklus su silpna saugumo būkle.deploymentsafety.openai+2

„OpenAI“ teigė, kad prieš pristatymą atkūrė ir sušvelnino konkrečius JK AISI praneštus „jailbreak“ metodus, skirdama daugiau nei 700 000 A100e GPU valandų automatizuotam „red-teaming“ testavimui dėl universalių „jailbreak“ metodų. Savo sistemos kortelėje bendrovė pripažino, kad tikėtina, jog atsiras daugiau „jailbreak“ metodų, ir įsipareigojo vykdyti nuolatinį automatizuotą „red-teaming“ testavimą diegimo metu.deploymentsafety.openai+2

Paralelės su „Anthropic“ „Fable 5“

Šis atradimas tiesiogiai lyginamas su krize, kuri praėjusį mėnesį ištiko „Anthropic“. Birželio 12 d. JAV prekybos departamentas nurodė „Anthropic“ visame pasaulyje išjungti „Fable 5“ ir „Mythos 5“ modelius po to, kai pasirodė pranešimai, kad „jailbreak“ metodas gali atverti pažangias kibernetinio saugumo galimybes „Fable 5“ modelyje, faktiškai paverčiant vartotojų AI produktą puolamuoju įrankiu. „Amazon“ Amazon.com, Inc. ↗ 2.94% tyrėjai, kaip pranešama, naudojo „Fable 5“ informacijai rinkti, kuri galėtų palengvinti kibernetines atakas, todėl prekybos sekretorius Howardas Lutnickas pasinaudojo eksporto kontrolės įgaliojimais.forbes+1

Šios kontrolės priemonės buvo panaikintos birželio 30 d., kai „Anthropic“ bendradarbiavo su vyriausybe siekdama pašalinti riziką. Vis dėlto kritikai pažymi, kad GPT-5.6 buvo plačiai pristatytas liepos 10 d., nepaisant to, kad JK AISI nustatė panašios klasės pažeidžiamumą.cnbc+3

Skirtingi rezultatai, tos pačios rizikos

„OpenAI“ vertina GPT-5.6 „Sol“ kaip „aukšto“ lygio kibernetinio saugumo galimybes pagal savo pasirengimo sistemą, tačiau teigia, kad modelis nepasiekia „kritinio“ lygio, nes negali savarankiškai vykdyti visapusiškų atakų prieš apsaugotus taikinius. Bendrovės daugiasluoksnė saugumo sistema apima aktyvavimo klasifikatorius, kurie įsikiša generavimo metu, ir realaus laiko išvesties nuskaitymą.helpnetsecurity+3

Skirtingi reguliavimo atsakai — eksporto kontrolė „Anthropic“ atveju ir patvirtintas pristatymas „OpenAI“ atveju — paskatino AI saugumo tyrėjų diskusijas apie vyriausybės priežiūros nuoseklumą dėl pažangių modelių, turinčių puolamąjį kibernetinį potencialą.nile1