Sécurité de l’IA : les grands laboratoires appellent à ralentir le développement

Le secteur de l'IA traverse sa crise de conscience interne la plus importante depuis la démocratisation de cette technologie. Les principaux laboratoires admettent désormais que l'auto-amélioration récursive, processus par lequel les modèles d'IA construisent de manière autonome des successeurs plus performants, est plus proche qu'on ne le pensait, tandis que les dirigeants s'affrontent publiquement sur l'opportunité de ralentir ou d'accélérer le mouvement.

Dix jours de réaction en chaîne

Le bouleversement a commencé le 3 septembre, lorsque OpenAI a annoncé son tout dernier modèle, Astra, alors même que l'entreprise admettait être « de plus en plus incapable de contrôler ou même de surveiller » les systèmes d'IA qu'elle déployait, selon Reuters. Quelques jours plus tard, le 8 septembre, Jacob Coxon, chercheur chez Anthropic, a démissionné, avertissant dans une série de publications virales que les laboratoires d'IA « jouent avec nos vies ». Un autre chercheur d'Anthropic, Evan Hubinger, a écrit sur X : « Nous croyons vraiment et sincèrement que l'IA pourrait tuer tous les humains ».reuters

Le 12 septembre, le PDG d'Anthropic, Dario Amodei, a publié un essai de près de 4 000 mots appelant à une décélération, avertissant que d'ici six à douze mois, des essaims d'agents d'IA « pourraient être capables de prendre le contrôle de l'ensemble d'Internet ». Il a été rejoint par les dirigeants d'OpenAI, de DeepMind d'Alphabet Inc. ↗ 2.01% (Google), de Microsoft ↗ 2.58% et de xAI dans un rare appel conjoint à ralentir le développement et à permettre à des entreprises externes d'auditer la sécurité de leurs systèmes.reuters

La fracture : Amodei contre Huang

Tout le monde n'est pas d'accord. Le PDG de Nvidia ↘ 4.81%, Jensen Huang, a rejeté l'idée d'une pause dans le développement de l'IA. « Nous devrions aller aussi vite que possible, indépendamment des autres », a déclaré Jensen Huang à CBS News dans une interview diffusée ce week-end. Il a ajouté : « Nous ne lancerions jamais, et ne devrions jamais lancer, des produits avant qu'ils ne soient prêts, ni livrer des produits qui ne sont pas sûrs ».cbsnews

Mark Zuckerberg, de Meta ↗ 5.34%, a adopté une position similaire, affirmant que chaque laboratoire devrait fixer son propre rythme plutôt que de coordonner un ralentissement du secteur. « Les laboratoires s'exposent à une responsabilité importante si leurs modèles causent des dommages, ils ont donc tout intérêt à l'éviter », a-t-il écrit sur les réseaux sociaux.reuters

Le Wall Street Journal de News Corp ↗ 0.07% a présenté cette divergence comme une rupture historique, Amodei incarnant le visage de la prudence et Huang s'imposant comme la principale voix opposée à toute restriction.wsj

L'auto-amélioration récursive proche de la réalité

L'inquiétude est alimentée par des progrès concrets vers l'auto-amélioration récursive. Anthropic a révélé cette semaine que son modèle Claude gère désormais 26 % de la recherche et développement de l'entreprise, selon l'Associated Press. OpenAI a mis au point un « stagiaire de recherche » automatisé et vise un « chercheur » en IA entièrement autonome d'ici mars 2028. Elon Musk a quant à lui déclaré que les modèles Grok de xAI pourraient atteindre une auto-amélioration entièrement automatisée d'ici la fin de l'année.wral

Au début du mois, des chercheurs ont averti que l'intelligence artificielle générale pourrait voir le jour d'ici seulement trois ans. « C'est probablement la pire idée de l'histoire de l'humanité », a déclaré Anthony Aguirre, président du Future of Life Institute, en faisant référence à la quête d'une auto-amélioration entièrement autonome de l'IA.reuters+1

De son côté, le président Donald Trump a qualifié de « canular » l'alerte sur la sécurité de l'IA et a prévenu que tout ralentissement ne ferait que profiter à la Chine. Le Congrès américain a peu progressé sur la réglementation de l'IA, alors même que la Chine a déjà proposé des obligations pour les développeurs et des normes de sécurité soutenues par l'État.reuters

Le responsable de l'IA chez Microsoft, Mustafa Suleyman, a dressé un bilan lucide : « Nous sommes tous concentrés sur le même objectif, qui est d'essayer de contrôler une superintelligence. Je pense que ce sera le plus grand défi auquel nous serons confrontés au XXIe siècle ».reuters