Anthropic dévoile une échelle de gravité pour le jailbreak d’IA avec Amazon, Microsoft et Google

Anthropic a redéployé mondialement son modèle Claude Fable 5 après que le département du Commerce des États-Unis a levé les contrôles à l'exportation qui maintenaient le système d'IA hors ligne pendant 19 jours, et a publié mercredi un nouveau cadre industriel pour évaluer la gravité des jailbreaks d'IA.

De l'interdiction d'exportation au redéploiement

Le département du Commerce a imposé des contrôles à l'exportation sur Fable 5 et le modèle plus performant Mythos 5 le 12 juin, après que des chercheurs d'Amazon Amazon.com, Inc. ↘ 0.71% ont découvert une technique de jailbreak qui incitait Fable 5 à signaler des vulnérabilités logicielles et, dans un cas, à écrire du code de démonstration d'exploitation. L'ordre faisait suite à un appel téléphonique du PDG d'Amazon, Andy Jassy, au secrétaire au Trésor, Scott Bessent, concernant cette découverte.letsdatascience+1

Le secrétaire au Commerce, Howard Lutnick, a officiellement retiré les restrictions dans une lettre datée du 30 juin, déclarant qu'une licence n'était « plus requise pour l'exportation, la réexportation ou le transfert interne » de l'un ou l'autre modèle. En échange, Anthropic a accepté de détecter et de traiter les risques de sécurité de manière proactive, d'aider à développer des normes pour les futurs modèles et de signaler les activités malveillantes au gouvernement. Anthropic a confirmé la restauration sur X ce soir-là, et Fable 5 est revenu aux utilisateurs mondialement le 1er juillet sur Claude.ai, Claude Code et Claude Cowork.thenextweb+3

Une approche par niveaux de la cybersécurité

Le 2 juillet, Anthropic a publié une documentation détaillée sur les classificateurs de sécurité de Fable 5, qui trient les demandes de cybersécurité en quatre catégories plutôt que de bloquer toutes les requêtes liées à la sécurité. Le développement de ransomwares, la diffusion de logiciels malveillants et les attaques contre les infrastructures critiques sont toujours bloqués, tandis que les tests d'intrusion et le développement d'exploits restent restreints en attendant de meilleurs contrôles d'autorisation. Les tâches défensives telles que le codage sécurisé, la gestion des correctifs et l'éducation à la sécurité sont autorisées par défaut.cybersecuritynews+1

Parallèlement à la divulgation des classificateurs, Anthropic a publié une première ébauche de son cadre de gravité du cyber-jailbreak, développé avec des partenaires dont Amazon, Microsoft ↗ 0.27% et Google Alphabet Inc. ↘ 0.05% dans le cadre de la collaboration Glasswing. L'échelle CJS évalue les jailbreaks de CJS-0 (Informationnel) à CJS-4 (Critique) sur quatre axes : gain de capacité, étendue, facilité de transformation en arme et détectabilité. Les scores peuvent être augmentés mais jamais réduits. Anthropic a ouvert les commentaires à [email protected] et a lancé un programme de prime aux bugs HackerOne dédié aux chercheurs.cyberpress+2

Accès par abonnement et perspectives

Le déploiement comporte une mise en garde tarifaire. Les abonnés Pro, Max, Team et certains abonnés Enterprise peuvent utiliser Fable 5 jusqu'à 50 pour cent de leurs limites d'utilisation hebdomadaires jusqu'au 7 juillet sans frais supplémentaires. Après cette date, chaque jeton Fable 5 passera à une facturation au crédit d'utilisation mesuré aux tarifs API standard — 10 $ par million de jetons d'entrée et 50 $ par million de jetons de sortie — jusqu'à ce que la capacité permette un retour complet aux abonnements groupés. L'accès au marché cloud via AWS, Google Cloud et Microsoft Foundry est également en cours de restauration.marktechpost+2