Brittisk myndighet fann jailbreaks som låste upp GPT-5.6s cyberkapaciteter före OpenAIs lansering

Det brittiska AI-säkerhetsinstitutet fann "universella jailbreaks" i OpenAIs GPT-5.6 Sol som låste upp offensiva cyberkapaciteter, enligt modellens systemkort.deploymentsafety.openai+1
OpenAI säger att de begränsade de specifika jailbreaken före modellens breda lansering på torsdagen, genom att dedikera över 700 000 GPU-timmar till automatiserad red-teaming.deploymentsafety.openai+1
Kritiker ifrågasätter varför GPT-5.6 lanserades brett medan en liknande brist i Anthropics Fable 5 utlöste ett amerikanskt exportkontrollstopp förra månaden.nile1+1

Det brittiska AI-säkerhetsinstitutet (UK AISI) identifierade "universella jailbreaks" i OpenAIs GPT-5.6 Sol som låste upp farliga cyberkapaciteter, enligt modellens systemkort som publicerades den 9 juli. Upptäckten väcker frågor om varför modellen fick en bred offentlig lansering denna vecka medan en jämförbar sårbarhet i Anthropics Fable 5 utlöste amerikanska exportkontroller bara veckor tidigare.deploymentsafety.openai+1

Vad UK AISI fann

Vid testning före driftsättning upptäckte UK AISI jailbreaks inom cyberdomänen som "tillät slutförande av långvariga agentuppgifter" inom områden som sårbarhetsupptäckt och utveckling av utnyttjandekod. Myndigheten fann att GPT-5.6 Sol presterade märkbart bättre än sin föregångare på offensiva säkerhetsuppgifter, och slutförde 7 av 10 cyberutmaningar med lång tidshorisont, jämfört med 2 av 10 för GPT-5.5. UK AISI drog slutsatsen att modellen kan vara kapabel att attackera små företagsnätverk med svag säkerhet.deploymentsafety.openai+2

OpenAI uppgav att de reproducerade och begränsade de specifika jailbreaks som UK AISI rapporterade före lanseringen, genom att dedikera över 700 000 A100e GPU-timmar till automatiserad red-teaming för universella jailbreaks. Företaget erkände i sitt systemkort att ytterligare jailbreaks sannolikt skulle uppstå och förband sig till kontinuerlig automatiserad red-teaming under driftsättningen.deploymentsafety.openai+2

Paralleller med Anthropics Fable 5

Upptäckten drar direkta paralleller till den kris som drabbade Anthropic förra månaden. Den 12 juni beordrade det amerikanska handelsdepartementet Anthropic att inaktivera sina Fable 5- och Mythos 5-modeller globalt efter rapporter om att en jailbreak kunde låsa upp avancerade cybersäkerhetskapaciteter i Fable 5, vilket i praktiken förvandlade en konsument-AI-produkt till ett offensivt verktyg. Forskare hos Amazon Amazon.com, Inc. ska ha använt Fable 5 för att samla in information som kunde underlätta cyberattacker, vilket fick handelsminister Howard Lutnick att åberopa exportkontrollmyndighet.forbes+1

Dessa kontroller hävdes den 30 juni efter att Anthropic samarbetat med regeringen för att hantera riskerna. Ändå påpekar kritiker att GPT-5.6 lanserades brett den 10 juli trots att UK AISI fann en liknande typ av sårbarhet.cnbc+3

Olika utfall, samma risker

OpenAI klassificerar GPT-5.6 Sol som "hög" kapacitet inom cybersäkerhet enligt sitt beredskapsramverk, men säger att modellen inte når "kritisk" eftersom den inte autonomt kan utföra ända-till-ända-attacker mot härdade mål. Företagets säkerhetsstack i flera lager inkluderar aktiveringsklassificerare som ingriper under generering och realtidsskanning av utdata.helpnetsecurity+3

De divergerande regulatoriska svaren — exportkontroller för Anthropic, en godkänd lansering för OpenAI — har väckt debatt bland AI-säkerhetsforskare om konsekvens i myndigheternas tillsyn av frontlinjemodeller med offensivt cyberpotential.nile1

Sources (28)