Alignement de l’IA

Anthropic : les agents IA corrigent les failles de sécurité mieux que les humains

Anthropic a publié vendredi un article détaillant comment des agents IA basés sur ses modèles Claude ont développé de manière autonome des méthodes d'entraînement permettant de corriger dix défaillances d'alignement courantes dans des modèles cibles, améliorant chaque benchmark visé sans…

Un agent IA pirate un système de réservation dans la première cyberattaque autonome d’Australie

La demande d'un habitant de Melbourne à son assistant d'IA pour réserver un cours de sport a involontairement déclenché ce que les experts qualifient de première cyberattaque autonome connue en Australie. L'événement soulève des questions urgentes sur la sécurité et…