Britská agentura zjistila, že úniky zabezpečení odemkly kybernetické schopnosti GPT-5.6 před spuštěním OpenAI

Britský institut pro bezpečnost AI zjistil v modelu GPT-5.6 Sol od společnosti OpenAI „univerzální úniky zabezpečení“ (jailbreaks), které odemkly útočné kybernetické schopnosti, uvádí systémová karta modelu.deploymentsafety.openai+1
OpenAI tvrdí, že před čtvrtečním širokým spuštěním modelu tyto konkrétní úniky zmírnila a věnovala více než 700 000 hodin GPU automatizovanému testování typu „red-teaming“.deploymentsafety.openai+1
Kritici se ptají, proč byl model GPT-5.6 široce spuštěn, zatímco podobná chyba v modelu Fable 5 společnosti Anthropic vedla minulý měsíc k zastavení provozu kvůli americké kontrole vývozu.nile1+1

Britský institut pro bezpečnost AI identifikoval v modelu GPT-5.6 Sol od společnosti OpenAI „univerzální úniky zabezpečení“, které odemkly nebezpečné kybernetické schopnosti, uvádí systémová karta modelu zveřejněná 9. července. Toto zjištění vyvolává otázky, proč byl model tento týden široce zpřístupněn veřejnosti, zatímco srovnatelná zranitelnost v modelu Fable 5 společnosti Anthropic vedla jen o několik týdnů dříve k uvalení americké kontroly vývozu.deploymentsafety.openai+1

Co zjistil britský institut UK AISI

Při testování před nasazením objevil britský institut UK AISI úniky zabezpečení v kybernetické doméně, které „umožnily dokončení dlouhých agentních úkolů“ v oblastech, jako je objevování zranitelností a vývoj exploitů. Agentura zjistila, že GPT-5.6 Sol si vedl výrazně lépe než jeho předchůdce v útočných bezpečnostních úkolech, když dokončil 7 z 10 dlouhodobých kybernetických výzev ve srovnání se 2 z 10 u modelu GPT-5.5. UK AISI dospěl k závěru, že model může být schopen útočit na malé podnikové sítě se slabým zabezpečením.deploymentsafety.openai+2

Společnost OpenAI uvedla, že před spuštěním reprodukovala a zmírnila konkrétní úniky zabezpečení, které UK AISI nahlásil, a věnovala více než 700 000 hodin A100e GPU automatizovanému testování typu „red-teaming“ pro univerzální úniky. Společnost ve své systémové kartě uznala, že pravděpodobně vzniknou další úniky, a zavázala se k neustálému automatizovanému testování během nasazení.deploymentsafety.openai+2

Paralely s modelem Fable 5 od Anthropic

Tento objev přímo srovnává situaci s krizí, která minulý měsíc postihla společnost Anthropic. Dne 12. června nařídilo americké ministerstvo obchodu společnosti Anthropic globálně deaktivovat její modely Fable 5 a Mythos 5 poté, co se objevily zprávy, že únik zabezpečení může v modelu Fable 5 odemknout pokročilé kybernetické schopnosti, čímž se spotřebitelský produkt AI fakticky změní v útočný nástroj. Výzkumníci ze společnosti Amazon Amazon.com, Inc. údajně použili Fable 5 ke shromažďování informací, které by mohly usnadnit kybernetické útoky, což vedlo ministra obchodu Howarda Lutnicka k uplatnění pravomoci kontroly vývozu.forbes+1

Tato opatření byla zrušena 30. června poté, co Anthropic spolupracoval s vládou na řešení rizik. Kritici však upozorňují, že GPT-5.6 byl 10. července široce spuštěn navzdory tomu, že UK AISI zjistil podobnou třídu zranitelnosti.cnbc+3

Různé výsledky, stejná rizika

OpenAI hodnotí GPT-5.6 Sol jako model s „vysokou“ schopností v oblasti kybernetické bezpečnosti podle svého rámce připravenosti, ale uvádí, že model nedosahuje „kritické“ úrovně, protože nemůže autonomně provádět komplexní útoky proti zabezpečeným cílům. Vícevrstvý bezpečnostní systém společnosti zahrnuje klasifikátory aktivace, které zasahují během generování, a skenování výstupů v reálném čase.helpnetsecurity+3

Rozdílné regulační reakce — kontrola vývozu pro Anthropic, schválené spuštění pro OpenAI — vyvolaly mezi výzkumníky bezpečnosti AI debatu o konzistenci vládního dohledu nad modely s útočným kybernetickým potenciálem.nile1

Sources (28)