Una agencia del Reino Unido descubrió jailbreaks que desbloqueaban capacidades cibernéticas en GPT-5.6 antes del lanzamiento de OpenAI

El Instituto de Seguridad de IA del Reino Unido identificó "jailbreaks universales" en GPT-5.6 Sol de OpenAI que desbloqueaban capacidades cibernéticas peligrosas, según la tarjeta de sistema del modelo publicada el 9 de julio. El hallazgo plantea dudas sobre por qué el modelo recibió un lanzamiento público amplio esta semana, mientras que una vulnerabilidad comparable en Fable 5 de Anthropic provocó controles de exportación de EE. UU. apenas unas semanas antes.deploymentsafety.openai+1

Lo que encontró el UK AISI

En las pruebas previas al despliegue, el UK AISI descubrió jailbreaks en el dominio cibernético que "permitían la finalización de tareas agénticas de formato largo" en áreas que incluyen el descubrimiento de vulnerabilidades y el desarrollo de exploits. La agencia descubrió que GPT-5.6 Sol tuvo un desempeño notablemente mejor que su predecesor en tareas de seguridad ofensiva, completando 7 de cada 10 desafíos de rango cibernético de largo alcance en comparación con 2 de cada 10 para GPT-5.5. El UK AISI concluyó que el modelo puede ser capaz de atacar redes empresariales a pequeña escala con posturas de seguridad débiles.deploymentsafety.openai+2

OpenAI dijo que reprodujo y mitigó los jailbreaks específicos que informó el UK AISI antes del lanzamiento, dedicando más de 700.000 horas de GPU A100e al red-teaming automatizado para jailbreaks universales. La compañía reconoció en su tarjeta de sistema que probablemente surgirían más jailbreaks y se comprometió a realizar un red-teaming automatizado continuo durante el despliegue.deploymentsafety.openai+2

Paralelos con Fable 5 de Anthropic

El descubrimiento establece comparaciones directas con la crisis que envolvió a Anthropic el mes pasado. El 12 de junio, el Departamento de Comercio de EE. UU. ordenó a Anthropic deshabilitar sus modelos Fable 5 y Mythos 5 a nivel mundial después de que surgieran informes de que un jailbreak podría desbloquear capacidades avanzadas de ciberseguridad en Fable 5, convirtiendo efectivamente un producto de IA de consumo en una herramienta ofensiva. Investigadores de Amazon Amazon.com, Inc. ↘ 0.69% supuestamente utilizaron Fable 5 para recopilar información que podría facilitar ciberataques, lo que llevó al Secretario de Comercio Howard Lutnick a invocar la autoridad de control de exportaciones.forbes+1

Esos controles se levantaron el 30 de junio después de que Anthropic trabajara con el gobierno para abordar los riesgos. Sin embargo, los críticos señalan que GPT-5.6 se lanzó ampliamente el 10 de julio a pesar de que el UK AISI encontró una clase similar de vulnerabilidad.cnbc+3

Diferentes resultados, mismos riesgos

OpenAI califica a GPT-5.6 Sol como de capacidad "Alta" en ciberseguridad bajo su Marco de Preparación, pero dice que el modelo no alcanza el nivel "Crítico" porque no puede ejecutar ataques de extremo a extremo de forma autónoma contra objetivos reforzados. La pila de seguridad en capas de la compañía incluye clasificadores de activación que intervienen durante la generación y el escaneo de salida en tiempo real.helpnetsecurity+3

Las respuestas regulatorias divergentes (controles de exportación para Anthropic, un lanzamiento aprobado para OpenAI) han provocado un debate entre los investigadores de seguridad de IA sobre la coherencia en la supervisión gubernamental de los modelos de frontera con potencial cibernético ofensivo.nile1