IA: les leaders divisés sur un ralentissement du développement avant le Conseil de sécurité de l’ONU

Le PDG d'OpenAI, Sam Altman, informera le Conseil de sécurité des Nations Unies mercredi lors de l'Assemblée générale de l'ONU à New York, alors qu'une fracture croissante parmi les leaders de l'industrie de l'IA sur le rythme de développement s'invite sur la scène mondiale.reuters+1

La session, convoquée par la France dans le cadre de sa présidence tournante et présidée par le ministre français des Affaires étrangères Jean-Noël Barrot, intervient quelques semaines après que le PDG d'Anthropic, Dario Amodei, a publié un essai intitulé "We Must Pace the Frontier" qui a remodelé le débat sur la sécurité de l'IA. Les remarques d'Altman devraient se concentrer sur la coordination internationale et les normes de sécurité partagées, a déclaré un porte-parole d'OpenAI à Reuters.finance.yahoo+3

Un plan en trois étapes pour ralentir l'IA

L'essai d'Amodei du 12 septembre soutient que les progrès de l'IA se sont accélérés "beaucoup plus rapidement" depuis l'été 2026, portés par la capacité croissante de l'IA à construire la prochaine génération de systèmes. Il a proposé un plan en trois étapes : intégrer des évaluateurs tiers indépendants dans chaque laboratoire de pointe, coordonner les normes de sécurité entre les entreprises d'IA des nations démocratiques et, à terme, établir une coordination mondiale incluant la Chine.bnnbloomberg+2

Altman a approuvé la proposition sur X, écrivant : "Je suis d'accord avec Dario sur le fait que nous devons ralentir la frontière", et s'est engagé à ce qu'OpenAI accorde aux évaluateurs indépendants un accès similaire à celui des employés et publie des rapports sur les comportements inattendus de l'IA. Elon Musk a également soutenu Amodei, publiant simplement : "Dario a raison".reuters+1

Mais le consensus est loin d'être universel. Le PDG de Meta ↗ 1.02%, Mark Zuckerberg, a fait valoir que la concurrence et la responsabilité donnent aux entreprises suffisamment d'incitations pour agir individuellement en matière de sécurité. Le PDG de Nvidia ↘ 1.47%, Jensen Huang, a écarté la nécessité de nouvelles réglementations, déclarant à CBS News qu'il y avait "0 % de chances" que 2030 apporte l'apocalypse et exhortant l'industrie à appliquer les lois existantes sur la responsabilité.bnnbloomberg

La pression mondiale monte

Le secrétaire général de l'ONU, António Guterres, a qualifié l'IA de l'une des "trois menaces existentielles" auxquelles le monde est confronté, aux côtés de la crise climatique et du creusement des inégalités. "Le monde ne peut pas se permettre une course vers le bas en matière de sécurité de l'IA", a-t-il déclaré la semaine dernière, qualifiant la coopération mondiale d'"indispensable" et avertissant que des pauses volontaires limitées à quelques pays ne fonctionneraient pas.news.un+2

Le roi Charles de Grande-Bretagne a reçu la semaine dernière des dirigeants de Nvidia, Google DeepMind Alphabet Inc. ↘ 3.58%, OpenAI et Anthropic à Dumfries House en Écosse, mettant en garde contre les "dangers existentiels" liés au fait que l'IA tombe entre de mauvaises mains. La Commission européenne a soutenu les appels à une pause, la présidente Ursula von der Leyen déclarant qu'elle inviterait les laboratoires de pointe à discuter des risques.reuters+2

Tous les gouvernements ne partagent pas cette inquiétude. Le président Donald Trump a écrit sur Truth Social que l'IA n'a besoin que d'"un PRÉSIDENT FORT ET INTELLIGENT (avec un QI élevé !)" et a averti que le doute sur le développement de l'IA profiterait à la Chine. Le journal chinois Global Times a accusé Amodei de tenter de "freiner le développement de l'IA en Chine par des barrières technologiques et des monopoles réglementaires".bnnbloomberg

La réunion du Conseil de sécurité de mercredi, la deuxième session consacrée aux risques de l'IA depuis 2023, testera si le chœur croissant en faveur de la prudence peut se traduire par autre chose que de la rhétorique.tbsnews+1