Le roi Charles III réunit des leaders de l’IA en Écosse face aux appels à ralentir

Le roi Charles III réunira cette semaine une trentaine des dirigeants les plus éminents de l'intelligence artificielle à Dumfries House, dans l'Ayrshire en Écosse, pour demander comment cette technologie peut être développée "pour le bien de l'humanité". Ce rassemblement intervient alors que les avertissements au sein même de l'industrie de l'IA atteignent un paroxysme, le PDG d'Anthropic, Dario Amodei, ayant appelé samedi à un ralentissement délibéré du développement des modèles de pointe.

Une réunion royale

L'événement, rapporté pour la première fois par Politico, réunira des dirigeants de Nvidia ↗ 2.87%, Anthropic, Google Alphabet Inc. ↗ 2.00% DeepMind et OpenAI au siège de The King's Foundation, une organisation caritative fondée par Charles en 1990. Le directeur général de Nvidia, Jensen Huang, le fondateur de Google DeepMind, Demis Hassabis, le président et PDG d'IonQ ↘ 2.66%, Niccolo de Masi, et Paolo Benanti, conseiller du Pape sur l'éthique de l'IA, figurent parmi les participants attendus.politico+2

La Ditchley Foundation supervise le sommet et a rédigé une charte pour les leaders de l'IA. Cette charte inclurait un "ensemble de principes partagés" visant à "guider l'application future de l'IA, non pas simplement comme un moteur de capacité et d'efficacité, mais comme un outil qui défend la dignité humaine et contribue à l'épanouissement des personnes et de la planète", selon le Sunday Times, tel que rapporté par le Daily Mail et The Independent.dailymail+1

Une source royale a déclaré au Sunday Times : "Le Roi est là pour réunir, écouter et encourager ces discussions, et pour poser la question : 'Comment développer l'IA pour le bien de l'humanité ?'"independent+1

Alarme dans l'industrie

Le timing est notable. Samedi, Amodei a publié un essai intitulé "We Must Pace the Frontier", arguant que l'IA a "progressé beaucoup plus rapidement" depuis cet été et que les mesures de sécurité n'ont pas suivi. Il a proposé un plan en trois étapes : intégrer des évaluateurs tiers ayant un accès de niveau employé au sein des entreprises d'IA, coordonner des normes de sécurité communes et poursuivre une meilleure coordination mondiale.economictimes+1

Hassabis a soutenu cet appel sur X, écrivant que "l'essai de Dario indique la bonne voie à suivre". L'ancien Premier ministre britannique Rishi Sunak, désormais conseiller chez Anthropic, a déclaré que "lorsque les laboratoires eux-mêmes demandent des limitations de vitesse, les gouvernements devraient écouter". Le sénateur Bernie Sanders est allé plus loin, appelant à "une PAUSE sur le développement de l'IA avancée et à une interdiction de la superintelligence artificielle".economictimes

Un modèle d'engagement

Le sommet en Écosse n'est pas la première incursion de Charles dans la diplomatie de l'IA. Lors d'une visite à Washington en avril, le Roi a rencontré des dirigeants technologiques, dont le fondateur d'Amazon Amazon.com, Inc. ↘ 1.74%, Jeff Bezos, ainsi que des dirigeants d'Apple ↗ 2.04% et de Nvidia. Mais le rassemblement de Dumfries House revêt une urgence accrue, intervenant quelques jours après que le chercheur Jacob Coxon a publiquement démissionné de l'industrie, craignant que les entreprises ne soient "en course pour construire des systèmes qu'elles ne pourront pas contrôler".politico+1

La question de savoir si un ensemble de principes parrainés par la royauté peut tempérer une course technologique mondiale reste ouverte. Comme l'a souligné la source royale : "Il sait que cela affectera tout le monde dans la société. Il veut poser la question : 'Serait-il utile d'avoir un ensemble de principes ?' Son sentiment est que ce n'est pas une chose facile à faire, mais cela ne signifie pas que nous ne devrions pas essayer."dailymail