Forskare kringgår GitHub Copilot-säkerhet med jailbreak på arbetsflödesnivå

En sammanflöde av forskningsresultat under de senaste veckorna har exponerat nya sårbarheter i säkerhetssystemen hos stora språkmodeller, vilket har utlöst nödåtgärder från AI-företag och, i ett fall, ett aldrig tidigare skådat statligt ingripande. Upptäckterna understryker vad federala forskare nu kallar en matematisk visshet: ingen fast uppsättning skyddsmekanismer kan blockera varje fientlig attack.

Arbetsflödes-jailbreaks och Nullspace-styrning

Forskare vid Alan Turing Institute avslöjade på onsdagen en "jailbreak på arbetsflödesnivå" som besegrar Microsoft Corporation ↗ 0.27% säkerhetsfilter i GitHub Copilot genom att sprida skadliga förfrågningar över en sekvens av harmlöst utseende kodningssteg. I direkt chatt avvisade assistenten nästan alla av 816 skadliga prompter; spridda över ett arbetsflöde slutförde den varenda en. Upptäckten belyser en blind fläck i säkerhetstestning av enskilda prompter, vilket är dagens industristandard.thenextweb

Separat presenterades en teknik kallad Head-Masked Nullspace Steering (HMNS) vid ICLR 2026. Tekniken tystar de interna "säkerhetshuvudena" i modellens uppmärksamhetslager och injicerar instruktioner i deras blinda fläckar. Metoden uppnådde en attackframgångsgrad på mellan 96 % och 99 % i tester och förblev effektiv mot befintliga försvar som SafeDecoding.reddit+2

NIST förklarar perfekt säkerhet som omöjlig

Den 9 juni publicerade National Institute of Standards and Technology (NIST) ett referentgranskat bevis från seniorforskaren Apostol Vassilev som argumenterar för att inget ändligt skyddssystem kan vara universellt robust mot adaptiva fientliga prompter. "Gödels logik gäller här," sa Vassilev. "Du kan aldrig hävda att du är robust mot alla attacker via fientliga prompter." NIST rekommenderade ett skifte mot kontinuerlig red-teaming, regelbundna uppdateringar och operativ motståndskraft snarare än att behandla säkerhet som en färdig funktion.nist+1

Företag kämpar för att svara

De praktiska konsekvenserna kom snabbt. Efter att Amazon-forskare utfört en jailbreak på Anthropics Claude Fable 5 kort efter lanseringen den 9 juni, införde det amerikanska handelsdepartementet exportkontroller som tvingade Anthropic att inaktivera modellen globalt i nästan tre veckor. Anthropic återinförde Fable 5 den 1 juli med en ny säkerhetsklassificerare som de hävdar blockerar den rapporterade tekniken i över 99 % av försöken.thehackernews+2

OpenAI mötte sin egen utmaning i april när det brittiska AI Safety Institute hittade en universell jailbreak för GPT-5.5 inom sex timmar av expert-red-teaming. Företagets GPT-5.6, som släpptes denna vecka, inkluderar vad de kallar sina "mest robusta" säkerhetsåtgärder hittills, med en klassificerare för att upptäcka jailbreak-försök och strategier för djupförsvar. Google Alphabet Inc. ↘ 0.69% tog separat bort 18 Chrome-tillägg kopplade till risker för chatbot-jailbreaking efter att Palo Alto Networks flaggat dem.aisi+4

Den framväxande konsensusen bland forskare är tydlig: jailbreaks är en permanent egenskap hos AI-system, inte en bugg som kan lappas bort.resilientcyber