Výzkumníci obcházejí zabezpečení GitHub Copilot pomocí jailbreaku na úrovni pracovního postupu

Konvergence výzkumných zjištění v posledních týdnech odhalila nové zranitelnosti v bezpečnostních systémech hlavních jazykových modelů, což vyvolalo nouzové reakce ze strany společností zabývajících se umělou inteligencí a v jednom případě i bezprecedentní vládní zásah. Tato zjištění podtrhují to, co federální vědci nyní nazývají matematickou jistotou: žádná pevná sada ochranných prvků nemůže zablokovat každý nepřátelský útok.

Jailbreaky pracovních postupů a řízení nulového prostoru

Výzkumníci z Alan Turing Institute ve středu odhalili „jailbreak na úrovni pracovního postupu“, který poráží bezpečnostní filtry Microsoft Corporation ↗ 0.27% v GitHub Copilot tím, že šíří škodlivé požadavky napříč sekvencí neškodně vypadajících kroků kódování. V přímém chatu asistent odmítl téměř všech 816 škodlivých výzev; rozprostřené v pracovním postupu však dokončil každou z nich. Zjištění zdůrazňuje slepou skvrnu v testování bezpečnosti výzvu po výzvě, což je současný průmyslový standard.thenextweb

Samostatně byla na konferenci ICLR 2026 představena technika Head-Masked Nullspace Steering (HMNS), která umlčuje vnitřní „bezpečnostní hlavy“ v pozornostních vrstvách modelu a vkládá instrukce do jejich slepého bodu. Metoda dosáhla úspěšnosti útoku mezi 96 % a 99 % v benchmarcích a zůstala účinná proti stávajícím obranám, jako je SafeDecoding.reddit+2

NIST prohlašuje dokonalou bezpečnost za nemožnou

9. června publikoval Národní institut standardů a technologie (NIST) recenzovaný důkaz od hlavního vědce Apostola Vassileva, který tvrdí, že žádný konečný systém ochrany nemůže být univerzálně robustní proti adaptivním nepřátelským výzvám. „Platí zde Gödelova logika,“ řekl Vassilev. „Nikdy nemůžete tvrdit, že jste robustní proti všem útokům nepřátelských výzev.“ NIST doporučil přechod na kontinuální red-teaming, pravidelné aktualizace a operační odolnost namísto zacházení s bezpečností jako s hotovou funkcí.nist+1

Společnosti se snaží reagovat

Praktické důsledky se dostavily rychle. Poté, co výzkumníci z Amazonu provedli jailbreak modelu Claude Fable 5 společnosti Anthropic krátce po jeho uvedení 9. června, americké ministerstvo obchodu uvalilo vývozní kontroly, které donutily Anthropic model globálně deaktivovat na téměř tři týdny. Anthropic znovu nasadil Fable 5 1. července s novým bezpečnostním klasifikátorem, o kterém tvrdí, že blokuje hlášenou techniku ve více než 99 % pokusů.thehackernews+2

OpenAI čelila vlastnímu zúčtování v dubnu, kdy britský institut pro bezpečnost AI našel univerzální jailbreak pro GPT-5.5 během šesti hodin expertního red-teamingu. Model GPT-5.6, který společnost vydala tento týden, obsahuje to, co nazývá svými „nejrobustnějšími“ bezpečnostními prvky, s klasifikátorem pro detekci pokusů o jailbreak a strategiemi hloubkové obrany. Google Alphabet Inc. ↘ 0.69% samostatně odstranil 18 rozšíření pro Chrome spojených s riziky jailbreaku chatbotů poté, co na ně upozornila společnost Palo Alto Networks.aisi+4

Rodící se konsenzus mezi výzkumníky je jasný: jailbreaky jsou trvalou součástí systémů AI, nikoliv chybou, kterou lze opravit.resilientcyber