Le PDG d’Anthropic appelle à ralentir l’IA après des révélations sur les abus de Claude

Anthropic a publié le 10 septembre un rapport de 154 pages sur le renseignement des menaces, détaillant comment des adversaires ont exploité ses modèles d'IA Claude pour la guerre par drones, la recherche sur les armes biologiques, le cyberespionnage, la surveillance et la fraude sur une période de huit mois. Ces conclusions ont directement précédé l'appel lancé samedi par le PDG Dario Amodei pour que l'industrie de l'IA ralentisse la cadence.anthropic+1

Des drones kamikazes aux armes biologiques

Le rapport, couvrant les activités perturbées entre décembre 2025 et août 2026, documente une équipe indépendante russe ayant utilisé Claude Code pour développer un logiciel destiné à un essaim de drones kamikazes en vue subjective, capables de sélectionner des cibles humaines et d'émettre des ordres de détonation sans intervention humaine. Anthropic a retracé le groupe, qui appelait son projet DronDoc, jusqu'à neuf comptes liés à une université régionale russe. L'équipe a affirmé être financée par la Fondation de recherche avancée de Russie, bien qu'Anthropic n'ait pas pu le vérifier.dronexl

Parmi les cas les plus alarmants : une opération liée à l'Iran a utilisé Claude pour créer des manuels de ciblage visant les forces navales américaines, une cellule d'armement dans le nord du Yémen a utilisé Claude Code pour développer un logiciel de guidage de missiles, et un acteur lié à la Chine a utilisé le modèle pour identifier et cibler des Ouïghours via des groupes WhatsApp et Telegram. Un consultant au Mali a construit un système de surveillance téléphonique national capable de surveiller 25 millions de cartes SIM.axios

Anthropic a également bloqué cinq cas d'utilisation malveillante à des fins biologiques, notamment des chercheurs bénéficiant d'une subvention d'État qui ont tenté de modifier un virus transmis par les moustiques pour qu'il se propage plus facilement. Lorsque Claude a refusé les demandes les plus sensibles, les chercheurs les ont redirigées vers un modèle concurrent doté de protections plus faibles.npr+1

Un appel au ralentissement

Tous les cas d'abus impliquaient les modèles Haiku, Sonnet ou Opus de Claude, aucun ne concernait ses systèmes plus récents de classe Fable ou Mythos. Le rapport a également révélé que sept laboratoires basés en Chine, dont Alibaba, Moonshot et DeepSeek, ont mené des campagnes de distillation contre Claude, celle d'Alibaba ↗ 0.68% étant décrite comme "la plus grande attaque par distillation que nous ayons jamais mesurée".zmina+2

Ces conclusions sont arrivées alors qu'Amodei publiait samedi un essai intitulé "We Must Pace the Frontier", appelant les entreprises d'IA à ralentir immédiatement le développement de leurs capacités. "Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA", a-t-il écrit, promettant qu'Anthropic s'engagerait "unilatéralement" et exhortant les gouvernements "à obliger les autres entreprises leaders à se conformer".politico+2

La réaction de Washington

Ces révélations ont intensifié la pression à Washington. Un groupe bipartisan de législateurs de la Chambre exhorte le président Mike Johnson à annuler la pause parlementaire jusqu'à ce que le Congrès agisse sur la sécurité de l'IA, tandis que le sénateur Bernie Sanders a appelé à interdire purement et simplement la superintelligence. NPR a rapporté qu'Anthropic avait partagé ses conclusions avec les autorités et ses partenaires industriels. La section du rapport consacrée aux tendances avertit que les capacités décrites "doivent être considérées comme étant à la disposition de tout acteur motivé".axios+2