Un député britannique réclame un traité sur l’IA après une alerte de sécurité chez Anthropic

Le député travailliste Darren Jones a appelé à un nouveau traité multinational régissant le développement de la superintelligence, en réaction directe à la démission du chercheur d'Anthropic Jacob Coxon et aux avertissements de sécurité qui ont suivi. Jones, ancien ministre ayant une longue expérience des politiques technologiques, a publié mercredi sur X que, bien qu'il n'ait "jamais pensé que nous devrions interdire l'innovation ou la recherche scientifique", il est désormais "clair que nous avons besoin d'un nouveau traité multinational pour le développement sûr et réglementé de la superintelligence".x+1

L'alerte chez Anthropic

L'intervention de Jones est survenue quelques heures après que Coxon, un chercheur en pré-entraînement de 27 ans ayant passé trois ans chez OpenAI et Anthropic, a annoncé sur X sa démission et son départ définitif de l'industrie de l'IA. "Aucune des deux entreprises n'agit de manière responsable", a écrit Coxon. "Elles courent tout droit vers une superintelligence auto-améliorée et jouent avec nos vies".cnbc+1

Cette démission a suscité une réponse publique frappante de la part d'Evan Hubinger, responsable de la science de l'alignement toujours en poste chez Anthropic. "Jacob a raison ici : nous croyons vraiment, sincèrement, que l'IA pourrait tuer tous les humains", a écrit Hubinger sur X. "Personnellement, je pense que le risque est supérieur à 10 % au cours de la prochaine décennie. Je crois qu'Anthropic fait de son mieux, mais nous n'avons pas encore de plan pour résoudre l'alignement de la superintelligence et nous ne sommes pas clairement sur la bonne voie".newsweek+1

Jones a répondu directement à la publication de Hubinger : "Si ce niveau de risque est réel, les laboratoires d'IA doivent au moins ralentir".x

Contexte politique

Jones a occupé les fonctions de Chancelier du duché de Lancastre et de Secrétaire en chef du Premier ministre sous Keir Starmer avant d'être écarté du cabinet par le nouveau Premier ministre Andy Burnham en juillet 2026. Désormais simple député, il reste l'une des voix les plus éminentes du Parlement sur la gouvernance technologique, ayant fondé le Forum interparlementaire sur les technologies émergentes.aiforgood.itu+2

Son appel s'inscrit dans un malaise croissant au sein de la communauté de recherche en IA. En février, le responsable de la recherche sur les garde-fous chez Anthropic, Mrinank Sharma, a démissionné en avertissant que "le monde est en péril". Et le 6 septembre, le scientifique en chef d'OpenAI, Jakub Pachocki, a écrit qu'aucune entreprise ne peut encore maintenir ses modèles les plus avancés sous un contrôle humain fiable.bbc+2

Quelle suite ?

Il reste à voir si l'appel de Jones trouvera un écho au Parlement. Le Royaume-Uni a accueilli le premier sommet mondial sur la sécurité de l'IA à Bletchley Park en 2023, mais une réglementation internationale contraignante s'est avérée difficile à obtenir. La démission d'un chercheur relativement junior pourrait normalement attirer peu d'attention, mais le soutien public de Hubinger à cette inquiétude, depuis l'intérieur de l'un des principaux laboratoires d'IA au monde, a donné à cet épisode un poids inhabituel.