Britisk etat fant jailbreaks som låste opp GPT-5.6s cyberkapasiteter før OpenAIs lansering

Det britiske AI-sikkerhetsinstituttet (UK AISI) identifiserte "universelle jailbreaks" i OpenAIs GPT-5.6 Sol som låste opp farlige cyberkapasiteter, ifølge modellens systemkort publisert 9. juli. Funnet reiser spørsmål om hvorfor modellen fikk en bred offentlig lansering denne uken, mens en sammenlignbar sårbarhet i Anthropics Fable 5 utløste amerikanske eksportkontroller bare uker tidligere.deploymentsafety.openai+1

Hva UK AISI fant

I testing før utrulling oppdaget UK AISI jailbreaks innen cyberdomenet som "tillot fullføring av langvarige agentoppgaver" på områder som sårbarhetsoppdagelse og utvikling av utnyttelseskode. Etaten fant at GPT-5.6 Sol presterte merkbart bedre enn sin forgjenger på offensive sikkerhetsoppgaver, og fullførte 7 av 10 cyber-utfordringer med lang tidshorisont, sammenlignet med 2 av 10 for GPT-5.5. UK AISI konkluderte med at modellen kan være i stand til å angripe små bedriftsnettverk med svak sikkerhet.deploymentsafety.openai+2

OpenAI sa at de reproduserte og begrenset de spesifikke jailbreakene UK AISI rapporterte før lansering, ved å dedikere over 700 000 A100e GPU-timer til automatisert red-teaming for universelle jailbreaks. Selskapet erkjente i sitt systemkort at ytterligere jailbreaks sannsynligvis vil dukke opp, og forpliktet seg til kontinuerlig automatisert red-teaming under utrulling.deploymentsafety.openai+2

Paralleller med Anthropics Fable 5

Oppdagelsen trekker direkte sammenligninger til krisen som rammet Anthropic forrige måned. Den 12. juni beordret det amerikanske handelsdepartementet Anthropic til å deaktivere sine Fable 5- og Mythos 5-modeller globalt etter rapporter om at en jailbreak kunne låse opp avanserte cybersikkerhetskapasiteter i Fable 5, noe som i praksis gjorde et forbruker-AI-produkt til et offensivt verktøy. Forskere hos Amazon Amazon.com, Inc. ↘ 0.69% skal ha brukt Fable 5 til å samle informasjon som kunne legge til rette for cyberangrep, noe som fikk handelsminister Howard Lutnick til å påberope seg eksportkontrollmyndighet.forbes+1

Disse kontrollene ble opphevet 30. juni etter at Anthropic samarbeidet med myndighetene for å håndtere risikoen. Likevel påpeker kritikere at GPT-5.6 ble lansert bredt 10. juli til tross for at UK AISI fant en lignende type sårbarhet.cnbc+3

Ulike utfall, samme risiko

OpenAI vurderer GPT-5.6 Sol som "høy" kapasitet innen cybersikkerhet under sitt beredskapsrammeverk, men sier at modellen ikke når "kritisk" fordi den ikke autonomt kan utføre ende-til-ende-angrep mot herdede mål. Selskapets lagdelte sikkerhetsstabel inkluderer aktiveringsklassifiserere som griper inn under generering og sanntidsskanning av utdata.helpnetsecurity+3

De divergerende regulatoriske responsene — eksportkontroller for Anthropic, en godkjent lansering for OpenAI — har utløst debatt blant AI-sikkerhetsforskere om konsistens i myndighetenes tilsyn med frontlinjemodeller med offensivt cyberpotensial.nile1