Investigadores evaden la seguridad de GitHub Copilot con un jailbreak a nivel de flujo de trabajo

Una confluencia de hallazgos de investigación en las últimas semanas ha expuesto nuevas vulnerabilidades en los sistemas de seguridad de los principales modelos de lenguaje, provocando respuestas de emergencia de las empresas de IA y, en un caso, una intervención gubernamental sin precedentes. Los descubrimientos subrayan lo que los científicos federales ahora llaman una certeza matemática: ningún conjunto fijo de protecciones puede bloquear todos los ataques adversarios.

Jailbreaks de flujo de trabajo y dirección de espacio nulo

Investigadores del Alan Turing Institute revelaron el miércoles un "jailbreak a nivel de flujo de trabajo" que derrota los filtros de seguridad de Microsoft Corporation ↗ 0.27% en GitHub Copilot al distribuir solicitudes dañinas a través de una secuencia de pasos de codificación que parecen inocuos. En un chat directo, el asistente rechazó casi todas las 816 solicitudes dañinas; distribuidas en un flujo de trabajo, las completó todas. El hallazgo destaca un punto ciego en las pruebas de seguridad solicitud por solicitud, el estándar actual de la industria.thenextweb

Por separado, un artículo presentado en ICLR 2026 introdujo la dirección de espacio nulo con máscara de cabezal, o HMNS, una técnica que silencia los "cabezales de seguridad" internos en las capas de atención de un modelo e inyecta instrucciones en su punto ciego. El método logró tasas de éxito de ataque de entre el 96% y el 99% en puntos de referencia y siguió siendo eficaz contra defensas existentes como SafeDecoding.reddit+2

El NIST declara que la seguridad perfecta es imposible

El 9 de junio, el Instituto Nacional de Estándares y Tecnología publicó una prueba revisada por pares del científico sénior Apostol Vassilev argumentando que ningún sistema de protección finito puede ser universalmente robusto contra solicitudes adversarias adaptativas. "La lógica de Gödel se aplica aquí", dijo Vassilev. "Nunca se puede afirmar que se es robusto contra todos los ataques de solicitudes adversarias". El NIST recomendó un cambio hacia el red-teaming continuo, actualizaciones periódicas y resiliencia operativa en lugar de tratar la seguridad como una característica terminada.nist+1

Las empresas se apresuran a responder

Las consecuencias prácticas llegaron rápidamente. Después de que investigadores de Amazon hicieran un jailbreak a Claude Fable 5 de Anthropic poco después de su lanzamiento el 9 de junio, el Departamento de Comercio de EE. UU. impuso controles de exportación que obligaron a Anthropic a desactivar el modelo a nivel mundial durante casi tres semanas. Anthropic volvió a desplegar Fable 5 el 1 de julio con un nuevo clasificador de seguridad que, según afirma, bloquea la técnica reportada en más del 99% de los intentos.thehackernews+2

OpenAI enfrentó su propio ajuste de cuentas en abril, cuando el Instituto de Seguridad de IA del Reino Unido encontró un jailbreak universal para GPT-5.5 a las seis horas de red-teaming experto. El GPT-5.6 de la compañía, lanzado esta semana, incluye lo que llama sus salvaguardas "más robustas" hasta la fecha, con un clasificador para detectar intentos de jailbreak y estrategias de defensa en profundidad. Google Alphabet Inc. ↘ 0.69% eliminó por separado 18 extensiones de Chrome vinculadas a riesgos de jailbreak de chatbots después de que Palo Alto Networks las marcara.aisi+4

El consenso emergente entre los investigadores es contundente: los jailbreaks son una característica permanente de los sistemas de IA, no un error que será eliminado mediante parches.resilientcyber