Rannsakendur sniðganga öryggi GitHub Copilot með jailbreak á vinnuflæðisstigi

Samruni rannsóknarniðurstaðna undanfarnar vikur hefur afhjúpað nýja veikleika í öryggiskerfum helstu tungumálalíkana, sem hefur kallað á neyðarviðbrögð frá gervigreindarfyrirtækjum og, í einu tilviki, fordæmalaus afskipti stjórnvalda. Uppgötvanirnar undirstrika það sem vísindamenn kalla nú stærðfræðilega vissu: ekkert fast sett af öryggisráðstöfunum getur lokað á allar fjandsamlegar árásir.

Jailbreak á vinnuflæði og stýring á núllrúmi

Rannsakendur við Alan Turing Institute greindu frá því á miðvikudaginn um "jailbreak á vinnuflæðisstigi" sem sigrar öryggissíur Microsoft Corporation ↗ 0.27% í GitHub Copilot með því að dreifa skaðlegum beiðnum yfir röð af saklausum kóðunarskrefum. Í beinu spjalli hafnaði aðstoðarmaðurinn næstum öllum 816 skaðlegu beiðnunum; dreift yfir vinnuflæði kláraði hann þær allar. Niðurstaðan undirstrikar blinda bletti í öryggisprófunum fyrir hverja beiðni, sem er núverandi iðnaðarstaðall.thenextweb

Sérstaklega var kynnt á ICLR 2026 tækni sem kallast Head-Masked Nullspace Steering, eða HMNS, sem þaggar niður í innri "öryggishöfðum" í athyglislögum líkansins og sprautar leiðbeiningum inn í blinda blettinn. Aðferðin náði árangri í árásum á milli 96% og 99% í viðmiðunarprófum og hélst áhrifarík gegn núverandi vörnum eins og SafeDecoding.reddit+2

NIST lýsir fullkomið öryggi ómögulegt

Þann 9. júní birti National Institute of Standards and Technology sönnun sem var ritrýnd af yfirvísindamanninum Apostol Vassilev þar sem haldið var fram að ekkert endanlegt öryggiskerfi geti verið alhliða öflugt gegn aðlögunarhæfum fjandsamlegum beiðnum. "Rökfræði Gödels á við hér," sagði Vassilev. "Þú getur aldrei fullyrt að þú sért öruggur gegn öllum fjandsamlegum beiðniárásum". NIST mælti með breytingu yfir í stöðuga rauðteymisvinnu, reglulegar uppfærslur og rekstrarþol frekar en að meðhöndla öryggi sem fullgerðan eiginleika.nist+1

Fyrirtæki keppast við að bregðast við

Raunverulegar afleiðingar komu fljótt. Eftir að rannsakendur hjá Amazon gerðu jailbreak á Claude Fable 5 frá Anthropic stuttu eftir útgáfu þess 9. júní, setti viðskiptaráðuneyti Bandaríkjanna útflutningseftirlit sem neyddi Anthropic til að gera líkanið óvirkt á heimsvísu í næstum þrjár vikur. Anthropic endursetti Fable 5 þann 1. júlí með nýjum öryggisflokkara sem þeir segja að loki á greindu tæknina í yfir 99% tilvika.thehackernews+2

OpenAI stóð frammi fyrir eigin uppgjöri í apríl, þegar öryggisstofnun gervigreindar í Bretlandi fann alhliða jailbreak fyrir GPT-5.5 innan sex klukkustunda frá sérfræðirauðteymisvinnu. GPT-5.6 frá fyrirtækinu, sem kom út í vikunni, inniheldur það sem það kallar sínar "öflugustu" varnir hingað til, með flokkara til að greina jailbreak-tilraunir og djúpvarnarstefnur. Google Alphabet Inc. ↘ 0.69% fjarlægði sérstaklega 18 Chrome-viðbætur sem tengdust áhættu af jailbreak-spjallbotnum eftir að Palo Alto Networks flaggaði þeim.aisi+4

Samstaða rannsakenda er skýr: jailbreak eru varanlegur eiginleiki gervigreindarkerfa, ekki villa sem verður plástruð í burtu.resilientcyber