Forskere omgår GitHub Copilot-sikkerhet med jailbreak på arbeidsflytnivå

En samling av forskningsfunn de siste ukene har avdekket nye sårbarheter i sikkerhetssystemene til store språkmodeller, noe som har utløst nødreaksjoner fra AI-selskaper og, i ett tilfelle, en enestående statlig inngripen. Funnene understreker det føderale forskere nå kaller en matematisk visshet: ingen fastsatt mengde sikkerhetsmekanismer kan blokkere ethvert fiendtlig angrep.

Arbeidsflyt-jailbreaks og Nullspace-styring

Forskere ved Alan Turing Institute avslørte på onsdag en «jailbreak på arbeidsflytnivå» som overvinner Microsoft Corporation ↗ 0.27% sine sikkerhetsfiltre i GitHub Copilot ved å spre skadelige forespørsler over en sekvens av ufarlige kodingssteg. I direkte chat avviste assistenten nesten alle av 816 skadelige forespørsler; spredt over en arbeidsflyt fullførte den hver eneste en. Funnet fremhever en blind flekk i sikkerhetstesting av enkelte forespørsler, som er dagens industristandard.thenextweb

Separat ble en teknikk kalt Head-Masked Nullspace Steering (HMNS) presentert på ICLR 2026. Teknikken demper de interne «sikkerhetshodene» i modellens oppmerksomhetslag og injiserer instruksjoner i deres blindsoner. Metoden oppnådde angrepssuksessrater mellom 96 % og 99 % i tester og forble effektiv mot eksisterende forsvar som SafeDecoding.reddit+2

NIST erklærer perfekt sikkerhet som umulig

Den 9. juni publiserte National Institute of Standards and Technology (NIST) et fagfellevurdert bevis fra seniorforsker Apostol Vassilev som argumenterer for at ingen endelig sikkerhetsmekanisme kan være universelt robust mot adaptive fiendtlige forespørsler. «Gödels logikk gjelder her,» sa Vassilev. «Du kan aldri hevde at du er robust mot alle angrep via fiendtlige forespørsler.» NIST anbefalte et skifte mot kontinuerlig red-teaming, regelmessige oppdateringer og operasjonell motstandskraft fremfor å behandle sikkerhet som en ferdig funksjon.nist+1

Selskaper kjemper for å svare

De praktiske konsekvensene kom raskt. Etter at Amazon-forskere utførte en jailbreak på Anthropics Claude Fable 5 kort tid etter lanseringen 9. juni, innførte det amerikanske handelsdepartementet eksportkontroller som tvang Anthropic til å deaktivere modellen globalt i nesten tre uker. Anthropic gjeninnførte Fable 5 den 1. juli med en ny sikkerhetsklassifiserer som de hevder blokkerer den rapporterte teknikken i over 99 % av forsøkene.thehackernews+2

OpenAI møtte sin egen utfordring i april da det britiske AI Safety Institute fant en universell jailbreak for GPT-5.5 i løpet av seks timer med ekspert-red-teaming. Selskapets GPT-5.6, utgitt denne uken, inkluderer det de kaller sine «mest robuste» sikkerhetstiltak hittil, med en klassifiserer for å oppdage jailbreak-forsøk og strategier for dybdeforsvar. Google Alphabet Inc. ↘ 0.69% fjernet separat 18 Chrome-utvidelser knyttet til risikoer for chatbot-jailbreaking etter at Palo Alto Networks flagget dem.aisi+4

Den fremvoksende konsensusen blant forskere er klar: jailbreaks er en permanent egenskap ved AI-systemer, ikke en feil som kan lappes bort.resilientcyber