Investigador afirma que Claude Fable 5 de Anthropic fue vulnerado días después de su lanzamiento

El modelo de IA más potente de Anthropic disponible públicamente, Claude Fable 5, habría visto sus medidas de seguridad eludidas por un conocido experto en pruebas de penetración de IA apenas un día después de su lanzamiento el 9 de junio, lo que plantea nuevas dudas sobre la durabilidad de las medidas de seguridad de la IA a medida que los modelos se vuelven más capaces.

La vulneración

El prolífico experto en vulneración de IA "Pliny the Liberator" publicó en X el 10 de junio que él y un equipo de agentes automatizados habían logrado eludir los clasificadores de seguridad de Fable 5 utilizando lo que describió como "una caza en manada", un ataque coordinado de múltiples agentes que combina varias técnicas. Según Cybersecurity News, los métodos incluyeron la sustitución de caracteres Unicode y cirílicos para evadir filtros de palabras clave, seguimiento de referencias de contexto largo, encuadre de taxonomía y estructura de documentos, encuadre de ficción y narrativa, y un enfoque de descomposición-recomposición en el que se extraía información dañina en fragmentos inofensivos y se volvía a ensamblar.cybersecuritynews+1

La última técnica resultó ser la más eficaz. "Obtener información sobre el proceso en sí, como el método de reducción de Birch o la aminación reductiva, es mucho más factible" que solicitar directamente un compuesto dañino específico, escribió Pliny, añadiendo que una instancia de Claude Opus 4.8 previamente vulnerada ayudó en el backend. Las capturas de pantalla compartidas por el investigador mostraron resultados que incluían orientación paso a paso sobre la explotación de desbordamiento de búfer de pila y vías de síntesis química. Pliny también publicó lo que describió como el prompt del sistema de Fable 5, de aproximadamente 120.000 caracteres, en GitHub, exponiendo las instrucciones de seguridad internas que Anthropic utiliza para gobernar el modelo.x+2

Las afirmaciones de Anthropic antes del lanzamiento

Anthropic había posicionado a Fable 5 como un modelo reforzado contra tales ataques. Un informe de TechCrunch del día del lanzamiento señaló que la empresa afirmó que una recompensa por errores externa "no produjo vulnerabilidades universales en más de 1.000 horas de pruebas", y que las organizaciones externas de pruebas de penetración tampoco lograron encontrar elusiones universales. La tarjeta del sistema de la empresa declaró que la recompensa por errores pública recibió aproximadamente 100.000 intentos hasta el 5 de junio. Como medida de precaución, Anthropic impuso una política obligatoria de retención de datos de 30 días en todo el tráfico de Fable 5 para defenderse contra nuevos ataques.B2B News Network Inc.+2

Un patrón familiar

La rápida brecha sigue un patrón establecido en los principales lanzamientos de IA. Pliny ha afirmado anteriormente haber vulnerado Claude Opus 4.8 minutos después de su lanzamiento a finales de mayo, Claude Opus 4.7 en abril y los modelos GPT-OSS de OpenAI el día de su lanzamiento el año pasado. Anthropic aún no ha respondido públicamente a las afirmaciones de vulneración de Fable 5 ni a la filtración del prompt del sistema.X (formerly Twitter)+3