DeepSeek informera le Conseil de sécurité de l’ONU sur les risques liés à l’IA

La startup chinoise d'intelligence artificielle DeepSeek figurera parmi les entreprises qui informeront le Conseil de sécurité des Nations unies sur les risques posés par l'IA, a rapporté Reuters mardi, lors d'une apparition rare d'une entreprise technologique chinoise devant l'un des forums les plus importants au monde pour la sécurité internationale.reuters

Le Conseil de sécurité, composé de 15 membres, doit se réunir le mercredi 23 septembre pour discuter de l'IA et de la sécurité internationale, alors que les dirigeants mondiaux se rassemblent à New York pour l'Assemblée générale annuelle de l'ONU. Le PDG d'OpenAI, Sam Altman, prévoit d'intervenir lors de la réunion, où les diplomates attendent également la participation de hauts représentants d'Anthropic. DeepSeek et d'autres entreprises chinoises d'IA, dont Moonshot, ont été invitées à faire des déclarations, bien que le fondateur de DeepSeek, Liang Wenfeng, ne prévoie pas d'y assister, selon une source ayant précisé que les plans restaient incertains.cnn+1

Le débat sur le ralentissement de l'IA divise Washington et Pékin

La réunion intervient quelques semaines après que plusieurs leaders de l'industrie de l'IA ont appelé à un ralentissement coordonné du développement de systèmes d'IA de plus en plus puissants, avertissant qu'ils pourraient bientôt s'améliorer d'eux-mêmes et échapper au contrôle humain. Le Secrétaire général de l'ONU, Antonio Guterres, a averti la semaine dernière les dirigeants mondiaux que l'IA en progression rapide posait des risques qui ne pouvaient être ignorés, ce qui le met en porte-à-faux avec le président Donald Trump, qui a soutenu que les garde-fous existants étaient suffisants.straitstimes+1

Les médias d'État chinois ont rejeté les appels à un ralentissement de l'IA, les qualifiant de "manuel de la Guerre froide" visant à préserver la domination de Washington dans les technologies de pointe. Contrairement aux dirigeants des laboratoires américains, les chefs des principaux développeurs de modèles chinois ont rarement articulé publiquement la possibilité que des systèmes d'IA de plus en plus capables puissent tromper les humains ou échapper au contrôle.reuters

Les discussions sur la sécurité de l'IA entre les États-Unis et la Chine prennent de l'ampleur

La session du Conseil de sécurité intervient dans un contexte d'activité diplomatique plus large sur l'IA. De hauts responsables américains et chinois ont convenu de poursuivre les discussions sur la sécurité de l'IA, a déclaré dimanche le secrétaire au Trésor, Scott Bessent, après avoir rencontré le vice-Premier ministre chinois, He Lifeng, à New York. Bessent a indiqué que Washington avait proposé un mécanisme de notification pour les incidents liés à l'IA suffisamment graves pour soulever des préoccupations de sécurité nationale.bbc

L'administration Trump organise également un événement de haut niveau distinct sur l'IA en marge de l'Assemblée générale mercredi, selon CNN. La réunion du Conseil de sécurité et l'événement organisé par les États-Unis servent de prélude à la rencontre prévue entre Trump et le président chinois, Xi Jinping, plus tard cette semaine à Washington, où l'IA devrait être un sujet central.thehill+1

Le Conseil de sécurité s'est réuni pour la première fois sur les risques liés à l'IA en 2023, lorsque la Chine a averti que la technologie ne devait pas devenir un "cheval fou" et que les États-Unis ont mis en garde contre son utilisation pour censurer ou réprimer les populations.reuters