Le roi Charles rassemble les leaders de la tech en Écosse autour de la sécurité de l’IA

Le roi Charles III rencontre ce jeudi des dirigeants de grandes entreprises d'intelligence artificielle à Dumfries House, dans l'Ayrshire en Écosse, alors que le secteur est confronté à des craintes croissantes selon lesquelles un développement incontrôlé de l'IA pourrait mettre l'humanité en danger.

Des dirigeants de Nvidia ↗ 0.82%, Google Alphabet Inc. ↘ 0.61% DeepMind, OpenAI, Anthropic et d'autres sociétés se réunissent au siège de la King's Foundation pour ce que le palais de Buckingham a décrit comme une discussion visant à déterminer « si un ensemble de principes communs peut être élaboré » pour guider l'avenir de l'IA. La rencontre, organised avec le concours de la Fondation Ditchley, une organisation à but non lucratif britannique, ne devrait pas donner lieu à des accords contraignants.nytimes+2

Un appel royal à la retenue

« Les décisions prises en cette période fondatrice façonneront le monde dont hériteront les générations futures », déclarera le roi lors d'un discours d'ouverture transmis au préalable par le palais. « La tâche qui vous incombe n'est pas seulement de faire progresser la technologie, mais de veiller à ce qu'elle reste fermement au service de l'humanité, de la communauté et du monde naturel. »nytimes

Parmi la trentaine de participants figurent le PDG de Nvidia, Jensen Huang, le président de Google DeepMind, Demis Hassabis, la directrice financière d'OpenAI, Sarah Friar, et Kanishka Narayan, ministre britannique de l'IA. Anthropic a refusé de révéler le nom de son représentant, et la présence de Paolo Benanti, conseiller du Vatican pour l'IA, est également attendue.politico+2

Des divisions étalées au grand jour

Ce sommet constitue le premier rassemblement international de grandes entreprises de l'IA depuis que le PDG d'Anthropic, Dario Amodei, a publié un long essai appelant à un ralentissement coordonné du développement de l'IA, avertissant que de nouveaux progrès sans garde-fous pourraient conduire à une catastrophe. Le PDG d'OpenAI, Sam Altman, Elon Musk et Hassabis ont approuvé la démarche d'Amodei.abcnews

Mais l'industrie reste divisée. Le PDG de Meta ↗ 0.46%, Mark Zuckerberg, s'y est opposé, soutenant que chaque entreprise doit assurer sa sécurité de manière indépendante et qu'une « responsabilité juridique importante » constitue déjà une incitation suffisante. Huang a également critiqué les appels au ralentissement, affirmant que « les forces du marché sont déjà là : nous n'avons pas besoin de nouvelles lois ». Le président de Microsoft ↘ 1.37%, Satya Nadella, a exprimé son soutien à un rythme mesuré, tout en avertissant que la gouvernance de la sécurité « ne peut pas être contrôlée par une poignée d'entités ».abcnews

Des tensions géopolitiques en arrière-plan

Cette réunion intervient dans un contexte de tensions géopolitiques plus larges autour de la régulation de l'IA. Le président Trump a balayé lundi les avertissements concernant la menace de l'IA, les qualifiant de « conspiration malsaine » et écrivant sur Truth Social que « celui qui gagne l'IA gagne tout ». Des parlementaires démocrates ont exhorté le Congrès à adopter une législation encadrant l'IA, tandis que le président de la Chambre des représentants, Mike Johnson, a prévenu qu'une réglementation précipitée signifierait que les États-Unis « perdraient la course face à la Chine ».cbsnews

La dynamique sino-américaine ajoute une touche de complexité supplémentaire. Bien que le président chinois Xi Jinping ait mis en garde contre les risques de « perte de contrôle » de l'IA, Pékin a rejeté les appels à ralentir son développement, y voyant une tentative de Washington « d'asseoir sa dominance technologique », selon Leia Wang, chercheuse au Carnegie Endowment for Peace. Trump doit de nouveau rencontrer Xi à Washington le 24 septembre, réunion au cours de laquelle la sécurité de l'IA devrait être abordée.cbsnews

« Ceux qui, dans notre monde, attachent de la valeur à notre humanité et à sa dimension morale essentielle attendent avec impatience l'assurance que nous ne perdrons pas le contrôle de notre destin », déclarera le roi devant les dirigeants réunis jeudi.nytimes