Anthropic presenta una escala de gravedad para el jailbreak de IA junto con Amazon, Microsoft y Google

Anthropic ha redistribuido globalmente su modelo Claude Fable 5 después de que el Departamento de Comercio de EE. UU. levantara los controles de exportación que mantuvieron al sistema de IA fuera de línea durante 19 días, y el miércoles publicó un nuevo marco industrial para calificar la gravedad de los jailbreaks de IA.

De la prohibición de exportación a la redistribución

El Departamento de Comercio impuso controles de exportación a Fable 5 y al modelo más capaz Mythos 5 el 12 de junio, después de que investigadores de Amazon Amazon.com, Inc. ↘ 2.16% descubrieran una técnica de jailbreak que convenció a Fable 5 para señalar vulnerabilidades de software y, en un caso, escribir código de demostración de exploits. La orden siguió a una llamada telefónica del CEO de Amazon, Andy Jassy, al Secretario del Tesoro, Scott Bessent, sobre el hallazgo.letsdatascience+1

El Secretario de Comercio, Howard Lutnick, retiró formalmente las restricciones en una carta fechada el 30 de junio, declarando que ya no se requería una licencia para la "exportación, reexportación o transferencia dentro del país" de ninguno de los modelos. A cambio, Anthropic acordó detectar y abordar los riesgos de seguridad de manera proactiva, ayudar a desarrollar estándares para futuros modelos e informar sobre actividades maliciosas al gobierno. Anthropic confirmó la restauración en X esa misma noche, y Fable 5 regresó a los usuarios a nivel mundial el 1 de julio en Claude.ai, Claude Code y Claude Cowork.thenextweb+3

Un enfoque escalonado para la ciberseguridad

El 2 de julio, Anthropic publicó documentación detallada sobre los clasificadores de seguridad de Fable 5, que clasifican las solicitudes de ciberseguridad en cuatro categorías en lugar de bloquear todas las consultas relacionadas con la seguridad. El desarrollo de ransomware, la entrega de malware y los ataques a infraestructuras críticas siempre están bloqueados, mientras que las pruebas de penetración y el desarrollo de exploits permanecen restringidos a la espera de mejores controles de autorización. Las tareas defensivas como la codificación segura, la gestión de parches y la educación en seguridad están permitidas por defecto.cybersecuritynews+1

Junto con la divulgación del clasificador, Anthropic lanzó un borrador inicial de su marco de Gravedad de Jailbreak Cibernético, desarrollado con socios como Amazon, Microsoft ↘ 0.65% y Google Alphabet Inc. ↘ 1.02% bajo la colaboración Glasswing. La escala CJS califica los jailbreaks de CJS-0 (Informativo) a CJS-4 (Crítico) a través de cuatro ejes: ganancia de capacidad, amplitud, facilidad de conversión en arma y capacidad de descubrimiento. Las puntuaciones pueden ser escaladas pero nunca reducidas. Anthropic ha abierto un canal de comentarios en [email protected] y lanzó un programa dedicado de recompensas por errores en HackerOne para investigadores.cyberpress+2

Acceso a suscripciones y lo que sigue

El lanzamiento conlleva una advertencia de precios. Los suscriptores Pro, Max, Team y algunos Enterprise pueden usar Fable 5 hasta el 50 por ciento de sus límites de uso semanal hasta el 7 de julio sin costo adicional. Después de esa fecha, cada token de Fable 5 cambiará a facturación de crédito de uso medido a tarifas API estándar —$10 por millón de tokens de entrada y $50 por millón de tokens de salida— hasta que la capacidad permita un regreso total a las suscripciones combinadas. El acceso al mercado en la nube a través de AWS, Google Cloud y Microsoft Foundry también se está restaurando.marktechpost+2