Tutkijat ohittavat GitHub Copilotin turvatoiminnot työnkulkutason jailbreakilla

Viime viikkojen tutkimustulosten yhteenliittymä on paljastanut uusia haavoittuvuuksia suurten kielimallien turvajärjestelmissä, mikä on johtanut tekoälyyritysten hätätoimiin ja yhdessä tapauksessa ennennäkemättömään hallituksen väliintuloon. Löydökset korostavat sitä, mitä liittovaltion tutkijat kutsuvat nyt matemaattiseksi varmuudeksi: mikään kiinteä suojajärjestelmä ei voi estää kaikkia vihamielisiä hyökkäyksiä.

Työnkulun jailbreakit ja nolla-avaruuden ohjaus

Alan Turing Instituten tutkijat paljastivat keskiviikkona "työnkulkutason jailbreakin", joka voittaa Microsoft Corporationin ↗ 0.27% GitHub Copilotin turvasuodattimet levittämällä haitalliset pyynnöt vaarattomilta näyttävien koodausvaiheiden sarjaan. Suorassa keskustelussa avustaja hylkäsi lähes kaikki 816 haitallista kehotetta; työnkulkuun jaettuna se suoritti ne kaikki. Löydös korostaa sokeaa pistettä kehotekohtaisessa turvallisuustestauksessa, joka on nykyinen alan standardi.thenextweb

Erillisesti ICLR 2026 -konferenssissa esitelty artikkeli esitteli nolla-avaruuden ohjauksen maskatuilla päillä (Head-Masked Nullspace Steering, HMNS), tekniikan, joka hiljentää mallin huomiokerrosten sisäiset "turvapäät" ja syöttää ohjeita niiden sokeaan pisteeseen. Menetelmä saavutti 96–99 prosentin hyökkäyksen onnistumisasteen vertailuarvoissa ja pysyi tehokkaana olemassa olevia puolustuksia, kuten SafeDecodingia, vastaan.reddit+2

NIST julistaa täydellisen turvallisuuden mahdottomaksi

9. kesäkuuta National Institute of Standards and Technology julkaisi vanhemman tutkijan Apostol Vassilevin vertaisarvioidun todistuksen, jonka mukaan mikään rajallinen suojajärjestelmä ei voi olla yleisesti vankka mukautuvia vihamielisiä kehotteita vastaan. "Gödelin logiikka pätee tässä", Vassilev sanoi. "Et voi koskaan väittää olevasi vankka kaikkia vihamielisiä kehotehyökkäyksiä vastaan". NIST suositteli siirtymistä jatkuvaan red-teamingiin, säännöllisiin päivityksiin ja operatiiviseen sietokykyyn sen sijaan, että turvallisuutta kohdeltaisiin valmiina ominaisuutena.nist+1

Yritykset kiirehtivät vastaamaan

Käytännön seuraukset tulivat nopeasti. Sen jälkeen kun Amazonin tutkijat tekivät jailbreakin Anthropicin Claude Fable 5:lle pian sen 9. kesäkuuta tapahtuneen julkaisun jälkeen, Yhdysvaltain kauppaministeriö asetti vientirajoituksia, jotka pakottivat Anthropicin poistamaan mallin käytöstä maailmanlaajuisesti lähes kolmeksi viikoksi. Anthropic otti Fable 5:n uudelleen käyttöön 1. heinäkuuta uudella turvallisuusluokittelijalla, jonka se sanoo estävän raportoidun tekniikan yli 99 prosentissa yrityksistä.thehackernews+2

OpenAI kohtasi oman tilintekonsa huhtikuussa, kun UK AI Safety Institute löysi yleisen jailbreakin GPT-5.5:lle kuuden tunnin asiantuntijoiden red-teamingin jälkeen. Yhtiön tällä viikolla julkaistu GPT-5.6 sisältää sen, mitä se kutsuu "vankimmiksi" suojauksikseen tähän mennessä, sisältäen luokittelijan jailbreak-yritysten havaitsemiseksi ja syvällisiä puolustusstrategioita. Google Alphabet Inc. ↘ 0.69% poisti erikseen 18 Chrome-laajennusta, jotka liittyivät chatbot-jailbreak-riskeihin, sen jälkeen kun Palo Alto Networks oli merkinnyt ne.aisi+4

Tutkijoiden keskuudessa vallitseva konsensus on suora: jailbreakit ovat tekoälyjärjestelmien pysyvä ominaisuus, eivät bugi, joka korjataan pois.resilientcyber