La responsable tech de l’UE appelle à des règles mondiales sur l’IA après des alertes sur l’extinction

La vice-présidente exécutive de la Commission européenne, Henna Virkkunen, a appelé vendredi à des règles mondiales sur l'intelligence artificielle, quelques jours après que des chercheurs de laboratoires d'IA de premier plan ont publiquement averti que cette technologie pourrait provoquer l'extinction de l'humanité d'ici une décennie.

"Il est très important que nous poursuivions maintenant la coopération internationale, car je constate que des règles mondiales sont réellement nécessaires", a déclaré Virkkunen en marge d'une conférence sur la sécurité des enfants en ligne à Dublin, selon Politico Europe.politico

Les avertissements des chercheurs font monter les enchères

La pression pour une coordination internationale fait suite à une série extraordinaire d'avertissements publics de la part d'initiés de l'IA. Jacob Coxon, un ancien ingénieur ayant passé trois ans à travailler sur la recherche de pré-entraînement chez OpenAI et Anthropic, a démissionné d'Anthropic mardi et a posté sur X que "aucune des deux entreprises n'agit de manière responsable".axios+1

"Ils foncent tout droit vers une superintelligence auto-améliorée et jouent avec nos vies", a écrit Coxon. "Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie".nypost+1

Evan Hubinger, responsable de la science de l'alignement chez Anthropic, a répondu publiquement qu'il "pense personnellement que c'est >10% au cours de la prochaine décennie", ajoutant que l'entreprise "n'a pas encore de plan pour résoudre l'alignement de la superintelligence". Samuel Marks, responsable de la surveillance évolutive chez Anthropic, a fait écho à ces préoccupations, déclarant qu'"en général, plus l'employé est haut placé, plus il est inquiet".bbc+1

Ces avertissements ont suscité des appels de la part d'au moins 22 responsables américains en exercice en faveur d'une réglementation, d'auditions au Congrès et, dans certains cas, d'une pause dans le développement, selon l'Agence Anadolu.aa

L'UE présente l'AI Act comme modèle

Virkkunen a noté que l'UE dispose déjà d'une législation obligeant les entreprises, y compris Anthropic et OpenAI, à évaluer et à atténuer le risque de perte de contrôle sur les modèles d'IA, mais que de telles exigences n'existent pas au niveau mondial. L'AI Act de l'UE est entré en vigueur en août 2024 et est devenu largement applicable en août 2026.ua+2

L'appel à une coordination internationale s'inscrit dans le cadre d'efforts diplomatiques européens plus larges. En juin, la présidente de la Commission, Ursula von der Leyen, a appelé à une coopération UE-États-Unis sur l'IA lors du sommet du G7 en France, tandis que le ministre allemand des Affaires numériques, Carsten Wildberger, a plaidé pour un organisme international de sécurité de l'IA calqué sur l'Agence internationale de l'énergie atomique.ua

L'ambassadeur des États-Unis auprès de l'UE, Andrew Puzder, a signalé son soutien à un partenariat transatlantique sur l'IA, mais a mis en garde contre des réglementations qui pourraient affaiblir la capacité des entreprises américaines à rivaliser avec la Chine.ua