Altman et Amodei devant le Conseil de sécurité de l’ONU ce mercredi pour parler d’IA

Les PDG d'Anthropic, Dario Amodei, et d'OpenAI, Sam Altman, doivent s'adresser au Conseil de sécurité des Nations unies ce mercredi lors d'une session consacrée à l'avenir de l'intelligence artificielle, alors que cette technologie domine les discussions lors de l'Assemblée générale annuelle de l'ONU à New York.

Une session cruciale au Conseil

La réunion, organisée par la France, qui assure la présidence tournante du conseil de 15 membres, comprendra également des interventions de Yoshua Bengio, coprésident du panel de l'ONU sur l'IA, et du PDG de Hugging Face, Clément Delangue, selon Bloomberg. Amodei devrait participer à distance. Un porte-parole d'OpenAI a déclaré à Reuters que les remarques d'Altman se concentreraient sur "les mesures prises par OpenAI pour garantir que l'IA soit sûre et profite aux populations mondiales, ainsi que sur la nécessité d'une coordination internationale et de normes de sécurité partagées".thenextweb+3

Il s'agit seulement de la deuxième fois que le Conseil de sécurité se penche sur l'IA depuis juillet 2023, date à laquelle la Chine avait averti que la technologie ne devait pas devenir un "cheval fou". Selon une note conceptuelle française, la réunion abordera l'utilisation malveillante de l'IA et le risque de perte de contrôle des modèles avancés.ctvnews+1

Coopération, concurrence et tensions antitrust

Ce briefing intervient dans un contexte de débat intense sur la manière dont les laboratoires d'IA rivaux doivent collaborer en matière de sécurité. The Information a rapporté le 21 septembre qu'OpenAI et Anthropic avaient négocié un accord juridiquement contraignant plus tôt cette année pour évaluer mutuellement les vulnérabilités de leurs modèles. Selon les termes du projet, chaque entreprise accéderait aux API commerciales de l'autre tout en s'engageant à ne pas conserver les données.news.sbs+1

Cette volonté de coopération a déjà attiré l'attention des autorités. Le 12 septembre, Amodei a publié un essai exhortant les entreprises d'IA à ralentir le rythme de développement et appelant à des évaluateurs indépendants au sein des laboratoires de pointe. Après qu'Altman et Elon Musk aient publiquement soutenu la proposition, des abonnés ont déposé une action collective antitrust le 19 septembre devant le tribunal fédéral de Californie, alléguant qu'Anthropic, OpenAI, SpaceXAI et Google d'Alphabet ↘ 3.58% ont violé la loi Sherman en se coordonnant pour limiter les progrès de l'IA.apnews+2

Trump rebaptise l'IA à l'Assemblée générale

Quelques heures avant la session du Conseil de sécurité, le président Trump a profité de son discours de mardi devant l'Assemblée générale pour déclarer que les États-Unis remplaceraient "intelligence artificielle" par "super intelligence" dans tous les documents gouvernementaux. "L'utilisation du mot artificiel donne l'impression que l'intelligence est fausse", a déclaré Trump aux dirigeants mondiaux. "Ce n'est pas faux. C'est en fait incroyable". Trump a également rejeté les efforts internationaux de régulation, affirmant qu'il ne "freinerait pas la croissance de quelque chose qui sera plus grand que la révolution industrielle".breitbart+1

Ces deux événements, le changement de nom par Trump et le briefing du Conseil de sécurité, soulignent le fossé grandissant entre la position dérégulatrice de Washington et la volonté des dirigeants de l'IA et des gouvernements alliés d'établir des garde-fous coordonnés.