Tyrinėtojai apeina „GitHub Copilot“ saugumą naudodami darbo eigos lygio „jailbreak“

Pastarosiomis savaitėmis atlikti tyrimai atskleidė naujų didžiųjų kalbos modelių saugos sistemų pažeidžiamumų, o tai paskatino skubius dirbtinio intelekto bendrovių veiksmus ir, vienu atveju, beprecedentį vyriausybės įsikišimą. Šie atradimai pabrėžia tai, ką federaliniai mokslininkai dabar vadina matematiniu tikrumu: joks fiksuotas apsaugos priemonių rinkinys negali užblokuoti kiekvienos priešiškos atakos.

Darbo eigos „jailbreak“ ir „Nullspace“ valdymas

Alano Turingo instituto tyrinėtojai trečiadienį atskleidė „darbo eigos lygio jailbreak“, kuris įveikia „GitHub Copilot“ Microsoft Corporation ↗ 0.27% saugos filtrus, paskirstydamas žalingas užklausas per nekenksmingai atrodančių kodavimo veiksmų seką. Tiesioginiame pokalbyje asistentas atmetė beveik visus 816 žalingų raginimų; paskirstyti per darbo eigą, jis įvykdė kiekvieną iš jų. Ši išvada išryškina akląją zoną raginimų testavime, kuris šiuo metu yra pramonės standartas.thenextweb

Atskirai, ICLR 2026 pristatytame pranešime buvo pristatytas „Head-Masked Nullspace Steering“ (HMNS) – metodas, kuris nutildo vidines „saugos galvutes“ modelio dėmesio sluoksniuose ir įterpia instrukcijas į jų akląją zoną. Šis metodas pasiekė 96–99 % atakų sėkmės rodiklį etaloniniuose testuose ir išliko veiksmingas prieš esamas gynybos priemones, tokias kaip „SafeDecoding“.reddit+2

NIST skelbia, kad tobulas saugumas neįmanomas

Birželio 9 d. Nacionalinis standartų ir technologijų institutas (NIST) paskelbė vyresniojo mokslininko Apostol Vassilev recenzuotą įrodymą, kuriame teigiama, kad jokia baigtinė apsaugos sistema negali būti universaliai atspari adaptyviems priešiškiems raginimams. „Čia taikoma Gėdelio logika“, – sakė Vassilev. „Niekada negalite teigti, kad esate atsparūs visoms priešiškų raginimų atakoms“. NIST rekomendavo pereiti prie nuolatinio „red-teaming“, reguliarių atnaujinimų ir veiklos atsparumo, o ne vertinti saugumą kaip baigtinę funkciją.nist+1

Bendrovės skuba reaguoti

Praktinės pasekmės pasireiškė greitai. Po to, kai „Amazon“ tyrinėtojai „nulaužė“ „Anthropic“ „Claude Fable 5“ netrukus po jo pristatymo birželio 9 d., JAV prekybos departamentas įvedė eksporto kontrolę, kuri privertė „Anthropic“ beveik trims savaitėms visame pasaulyje išjungti modelį. „Anthropic“ liepos 1 d. iš naujo įdiegė „Fable 5“ su nauju saugos klasifikatoriumi, kuris, jų teigimu, blokuoja praneštą metodą daugiau nei 99 % atvejų.thehackernews+2

„OpenAI“ susidūrė su savo iššūkiais balandžio mėn., kai JK dirbtinio intelekto saugos institutas per šešias valandas trukusį ekspertų „red-teaming“ rado universalų „jailbreak“ GPT-5.5 modeliui. Šią savaitę išleistame bendrovės GPT-5.6 modelyje yra, kaip jie vadina, „tvirčiausios“ apsaugos priemonės, įskaitant klasifikatorių, skirtą aptikti „jailbreak“ bandymus, ir gynybinės strategijos. „Google Alphabet Inc.“ ↘ 0.69% atskirai pašalino 18 „Chrome“ plėtinių, susijusių su pokalbių robotų „jailbreak“ rizika, po to, kai juos pažymėjo „Palo Alto Networks“.aisi+4

Besiformuojantis tyrinėtojų sutarimas yra aiškus: „jailbreak“ yra nuolatinė dirbtinio intelekto sistemų savybė, o ne klaida, kurią bus galima ištaisyti.resilientcyber