Une agence britannique a découvert des jailbreaks débloquant les capacités cyber de GPT-5.6 avant le lancement d’OpenAI

L'Institut de sécurité de l'IA du Royaume-Uni a identifié des "jailbreaks universels" dans GPT-5.6 Sol d'OpenAI qui débloquaient des capacités cyber dangereuses, selon la fiche système du modèle publiée le 9 juillet. Cette découverte soulève des questions sur les raisons pour lesquelles le modèle a fait l'objet d'un lancement public large cette semaine alors qu'une vulnérabilité comparable dans Fable 5 d'Anthropic avait déclenché des contrôles à l'exportation américains quelques semaines plus tôt.deploymentsafety.openai+1

Ce que l'UK AISI a découvert

Lors des tests de pré-déploiement, l'UK AISI a découvert des jailbreaks dans le domaine cyber qui "permettaient l'exécution de tâches agentiques de longue durée" dans des domaines incluant la découverte de vulnérabilités et le développement d'exploits. L'agence a constaté que GPT-5.6 Sol était nettement plus performant que son prédécesseur sur les tâches de sécurité offensive, complétant 7 défis de cyber-portée à long terme sur 10, contre 2 sur 10 pour GPT-5.5. L'UK AISI a conclu que le modèle pourrait être capable d'attaquer des réseaux d'entreprise à petite échelle avec des postures de sécurité faibles.deploymentsafety.openai+2

OpenAI a déclaré avoir reproduit et atténué les jailbreaks spécifiques signalés par l'UK AISI avant le lancement, en consacrant plus de 700 000 heures de GPU A100e au red-teaming automatisé pour les jailbreaks universels. L'entreprise a reconnu dans sa fiche système que d'autres jailbreaks apparaîtraient probablement et s'est engagée à effectuer un red-teaming automatisé continu pendant le déploiement.deploymentsafety.openai+2

Parallèles avec Fable 5 d'Anthropic

La découverte établit des comparaisons directes avec la crise qui a englouti Anthropic le mois dernier. Le 12 juin, le département du Commerce des États-Unis a ordonné à Anthropic de désactiver ses modèles Fable 5 et Mythos 5 à l'échelle mondiale après l'apparition de rapports indiquant qu'un jailbreak pouvait débloquer des capacités de cybersécurité avancées dans Fable 5, transformant effectivement un produit d'IA grand public en un outil offensif. Des chercheurs d'Amazon Amazon.com, Inc. ↘ 0.69% auraient utilisé Fable 5 pour recueillir des informations susceptibles de faciliter des cyberattaques, incitant le secrétaire au Commerce Howard Lutnick à invoquer l'autorité de contrôle des exportations.forbes+1

Ces contrôles ont été levés le 30 juin après qu'Anthropic a travaillé avec le gouvernement pour remédier aux risques. Pourtant, les critiques notent que GPT-5.6 a été lancé largement le 10 juillet malgré le fait que l'UK AISI ait trouvé une classe similaire de vulnérabilité.cnbc+3

Résultats différents, mêmes risques

OpenAI classe GPT-5.6 Sol comme ayant une capacité "élevée" en cybersécurité dans le cadre de son cadre de préparation, mais affirme que le modèle n'atteint pas le niveau "critique" car il ne peut pas exécuter de manière autonome des attaques de bout en bout contre des cibles renforcées. La pile de sécurité multicouche de l'entreprise comprend des classificateurs d'activation qui interviennent pendant la génération et l'analyse des sorties en temps réel.helpnetsecurity+3

Les réponses réglementaires divergentes — contrôles à l'exportation pour Anthropic, lancement approuvé pour OpenAI — ont suscité un débat parmi les chercheurs en sécurité de l'IA sur la cohérence de la surveillance gouvernementale des modèles de pointe ayant un potentiel cyber offensif.nile1