Le PDG d’OpenAI, Sam Altman, devant le Conseil de sécurité de l’ONU pour parler des risques de l’IA

OpenAI a publié lundi une proposition exhortant les États-Unis à mener un effort international visant à développer des normes techniques et de sécurité mondiales pour l'IA avancée, avertissant que l'inaction pourrait laisser le pays assister à la mise en place d'un "système fragmenté, inégal et conflictuel autour de lui".thenextweb+1

La proposition, qui se concentre sur les modèles d'IA de pointe et l'auto-amélioration récursive — un processus où les systèmes d'IA prennent une responsabilité croissante dans le développement de leurs successeurs — intervient lors d'une semaine de diplomatie intense sur l'IA aux Nations Unies et entre Washington et Pékin.

Des normes, pas des licences

Le plan d'OpenAI appelle à des cadres communs pour mesurer les capacités de l'IA, évaluer l'ampleur de la recherche autonome au sein des entreprises et établir des protocoles de signalement d'incidents partagés avec des niveaux de gravité communs. L'entreprise a proposé de canaliser cet effort via le Center for AI Standards and Innovation du département du Commerce des États-Unis et le réseau croissant d'instituts nationaux de sécurité de l'IA dans des pays comme le Royaume-Uni, le Japon, la France et le Canada.dig+1

L'entreprise a souligné que ces normes "ne seraient pas des licences, des examens préalables obligatoires ou des exigences d'approbation pour les modèles d'IA", laissant chaque gouvernement décider de la manière de les intégrer dans son droit national. OpenAI a également appelé à des canaux de communication sécurisés entre les gouvernements et les opérateurs d'infrastructures critiques pour partager les menaces émergentes, ajoutant qu'un dialogue entre les États-Unis et la Chine "serait une étape positive".thenextweb+2

"L'auto-amélioration récursive totalement autonome n'existe pas aujourd'hui, et nous ne devrions pas la poursuivre tant qu'elle ne pourra pas être réalisée en toute sécurité", a écrit l'entreprise.thenextweb

Une semaine chargée pour la diplomatie de l'IA

La proposition arrive dans un contexte de forte activité. Le secrétaire au Trésor, Scott Bessent, a déclaré ce week-end que les États-Unis et la Chine avaient convenu de créer un dialogue bilatéral sur l'IA, et Washington a proposé à Pékin un mécanisme de notification des incidents liés à l'IA. Lundi, le président Donald Trump a écrit sur Truth Social qu'il privilégiait une régulation légère de l'IA, ajoutant : "Celui qui gagne la course à l'IA, GAGNE !". Par ailleurs, M. Bessent a précisé que l'administration n'accorderait pas aux laboratoires d'IA de pointe de protection contre la responsabilité civile.foxbaltimore+1

Mardi, lors de l'Assemblée générale de l'ONU, le secrétaire général António Guterres a mis en garde contre les dangers de l'IA et a appelé à la coopération mondiale. Peu après, M. Trump a rejeté l'idée, la qualifiant de "plan mondialiste", et a déclaré que les États-Unis renommaient l'IA "super intelligence", selon Bloomberg.thenextweb

Altman devant le Conseil de sécurité

Sam Altman doit informer le Conseil de sécurité de l'ONU mercredi après-midi aux côtés du PDG d'Anthropic, Dario Amodei, du chercheur en IA Yoshua Bengio et du PDG de Hugging Face, Clément Delangue. Il s'agit de la première session du Conseil axée sur les risques de sécurité liés à l'IA de plus en plus performante. Des représentants d'OpenAI ont indiqué qu'Altman se positionnerait comme un "centriste pragmatique", promouvant des normes de sécurité partagées sans concentrer le pouvoir entre les mains de quelques entreprises.thenextweb

Plus tard cette semaine, Altman assistera à un dîner d'État à la Maison Blanche en l'honneur du président chinois Xi Jinping, soulignant à quel point l'IA est devenue centrale dans les relations entre les États-Unis et la Chine.foxbaltimore+1