Britannian virasto löysi jailbreak-menetelmiä, jotka avasivat GPT-5.6:n kyberominaisuudet ennen OpenAI:n julkaisua

Yhdistyneen kuningaskunnan tekoälyturvallisuusinstituutti löysi OpenAI:n GPT-5.6 Sol -mallista "universaaleja jailbreak-menetelmiä", jotka avasivat hyökkääviä kyberominaisuuksia, kertoo mallin järjestelmäkortti.deploymentsafety.openai+1
OpenAI kertoo lieventäneensä kyseiset jailbreak-riskit ennen mallin laajaa julkaisua torstaina ja käyttäneensä yli 700 000 GPU-tuntia automatisoituun red-teaming-testaukseen.deploymentsafety.openai+1
Kriitikot kyseenalaistavat, miksi GPT-5.6 julkaistiin laajasti, vaikka vastaava virhe Anthropicin Fable 5 -mallissa johti Yhdysvaltojen vientikieltoon viime kuussa.nile1+1

Yhdistyneen kuningaskunnan tekoälyturvallisuusinstituutti (UK AISI) tunnisti OpenAI:n GPT-5.6 Sol -mallista "universaaleja jailbreak-menetelmiä", jotka avasivat vaarallisia kyberominaisuuksia, kertoo 9. heinäkuuta julkaistu järjestelmäkortti. Löydös herättää kysymyksiä siitä, miksi malli julkaistiin laajasti tällä viikolla, vaikka vastaava haavoittuvuus Anthropicin Fable 5 -mallissa johti Yhdysvaltojen vientikieltoihin vain viikkoja aiemmin.deploymentsafety.openai+1

Mitä UK AISI löysi

Käyttöönottoa edeltävissä testeissä UK AISI löysi kyberalueen jailbreak-menetelmiä, jotka "sallivat pitkäkestoisten agenttitehtävien suorittamisen" muun muassa haavoittuvuuksien etsimisessä ja hyökkäysten kehittämisessä. Virasto totesi, että GPT-5.6 Sol suoriutui huomattavasti edeltäjäänsä paremmin hyökkäävän tietoturvan tehtävissä, suorittaen 7 kymmenestä pitkän aikavälin kyberhaasteesta, kun GPT-5.5 suoriutui kahdesta. UK AISI päätteli, että malli saattaa kyetä hyökkäämään pienimuotoisiin yritysverkkoihin, joissa on heikko tietoturva.deploymentsafety.openai+2

OpenAI ilmoitti toistaneensa ja lieventäneensä UK AISI:n raportoimat jailbreak-menetelmät ennen julkaisua ja käyttäneensä yli 700 000 A100e GPU-tuntia universaalien jailbreak-menetelmien automatisoituun red-teaming-testaukseen. Yhtiö myönsi järjestelmäkortissaan, että uusia jailbreak-menetelmiä ilmaantuu todennäköisesti, ja sitoutui jatkuvaan automatisoituun red-teaming-testaukseen käyttöönoton aikana.deploymentsafety.openai+2

Yhtäläisyydet Anthropicin Fable 5 -malliin

Löydös vertautuu suoraan kriisiin, joka kohtasi Anthropicia viime kuussa. Yhdysvaltain kauppaministeriö määräsi 12. kesäkuuta Anthropicin poistamaan Fable 5- ja Mythos 5 -mallinsa käytöstä maailmanlaajuisesti, kun raportit kertoivat jailbreak-menetelmästä, joka voisi avata edistyneitä kyberturvallisuusominaisuuksia Fable 5 -mallissa, muuttaen kuluttajille suunnatun tekoälytuotteen hyökkäystyökaluksi. Amazon Amazon.com, Inc. -yhtiön tutkijoiden kerrotaan käyttäneen Fable 5 -mallia tiedon keräämiseen, joka voisi helpottaa kyberhyökkäyksiä, mikä sai kauppaministeri Howard Lutnickin vetoamaan vientivalvontavaltuuksiin.forbes+1

Kyseiset rajoitukset poistettiin 30. kesäkuuta, kun Anthropic työskenteli hallituksen kanssa riskien hallitsemiseksi. Kriitikot huomauttavat kuitenkin, että GPT-5.6 julkaistiin laajasti 10. heinäkuuta, vaikka UK AISI löysi vastaavan luokan haavoittuvuuden.cnbc+3

Eri lopputulokset, samat riskit

OpenAI luokittelee GPT-5.6 Solin kyberturvallisuusominaisuudet "korkeiksi" valmistautumiskehyksensä mukaisesti, mutta toteaa, ettei malli saavuta "kriittistä" tasoa, koska se ei kykene itsenäisesti suorittamaan päästä päähän -hyökkäyksiä suojattuja kohteita vastaan. Yhtiön monikerroksinen turvallisuusarkkitehtuuri sisältää aktivointiluokittelijoita, jotka puuttuvat toimintaan generoinnin aikana, sekä reaaliaikaisen tulosten skannauksen.helpnetsecurity+3

Erilaiset sääntelyvastaukset — vientikielto Anthropicille ja hyväksytty julkaisu OpenAI:lle — ovat herättäneet keskustelua tekoälyturvallisuuden tutkijoiden keskuudessa hallituksen valvonnan johdonmukaisuudesta hyökkäävään kyberkäyttöön kykenevien huippumallien kohdalla.nile1

Sources (28)