Anthropic, OpenAI et Google discutent de la création d’un organisme de normalisation pour l’IA

Les trois principaux développeurs d'intelligence artificielle de pointe, Anthropic, OpenAI et Google Alphabet Inc. ↗ 1.53% DeepMind, mènent des discussions en coulisses sur la formation d'un organisme commun de normalisation industrielle pour l'IA, selon un rapport de The Information publié dimanche. Les pourparlers sont en cours depuis au moins juillet, précédant l'appel public lancé samedi par le PDG d'Anthropic, Dario Amodei, pour que l'industrie ralentisse le développement de l'IA.theinformation+1

Une volonté de protocoles de sécurité partagés

L'organisation proposée établirait des protocoles partagés pour les tests techniques et l'audit pré-lancement des modèles d'IA de pointe. Sam Altman, Demis Hassabis et Amodei ont chacun appelé publiquement à une collaboration menée par les États-Unis sur les normes de sécurité de l'IA, incluant des forums internationaux pour les tests et l'analyse des risques.cryptobriefing+1

Les trois laboratoires sont toujours en désaccord sur des points clés. Anthropic a penché vers un partenariat gouvernemental, son responsable de l'équipe rouge ayant publiquement plaidé en juillet 2026 pour des normes développées aux côtés d'organismes gouvernementaux. OpenAI a mis l'accent sur des règles industrielles volontaires, publiant un article de blog en septembre s'engageant à faire progresser les normes indépendamment de l'intervention gouvernementale. Les discussions s'appuient sur une coordination antérieure via le Frontier Model Forum, un consortium qui inclut également Microsoft ↗ 0.65%.aiweekly+1

L'essai d'Amodei prépare le terrain

L'essai d'environ 3 800 mots d'Amodei, publié samedi, a servi de toile de fond publique aux discussions privées. Il a averti que l'IA pourrait être capable, d'ici six à 12 mois, de diriger des essaims automatisés capables de "prendre le contrôle de tout Internet", parmi d'autres risques. "Je crois que si le ralentissement nous permettait de gagner ne serait-ce qu'une année ou deux avant que les modèles n'atteignent des niveaux de capacité critiques, et que nous utilisions ce temps pour faire progresser l'alignement, nous pourrions considérablement réduire le risque que quelque chose tourne très mal", a écrit Amodei.latimes

Son plan en trois étapes appelle à intégrer des évaluateurs indépendants au sein des laboratoires d'IA, à coordonner des normes de sécurité communes entre les entreprises des pays démocratiques et à poursuivre une coordination mondiale, y compris avec les gouvernements autoritaires. Anthropic s'est déjà engagé unilatéralement sur la première étape, offrant aux évaluateurs tiers des bureaux dans ses locaux, des badges d'accès et des ordinateurs portables de l'entreprise.techcrunch+2

La question de la Chine

L'élément le plus controversé de la proposition pourrait être la coordination internationale. Amodei a reconnu dimanche que la Chine représente le "dilemme le plus difficile" : le risque que le ralentissement du développement américain donne simplement un avantage aux concurrents qui ne suivent pas les mêmes règles. L'indice de sécurité de l'IA du Future of Life Institute de l'été 2026 a souligné des préoccupations plus larges concernant le bilan de sécurité de l'industrie, classant Anthropic en tête des trois entreprises avec un C+, suivi par OpenAI avec un C et Google DeepMind avec un C.cnbc+1