OpenAI, Anthropic et Microsoft signent le pacte de sécurité pour l’IA à Paris

Six gouvernements et dix entreprises spécialisées dans l'IA, dont Anthropic, OpenAI et Microsoft, ont signé lundi 9 novembre l'Appel de Paris pour la sécurité et la sûreté de l'IA. La déclaration les engage à procéder à des évaluations partagées des modèles de pointe, à mettre en place des systèmes d'alerte précoce en cas d'incident et à renforcer la responsabilité des développeurs, selon le palais de l'Élysée. Les pays signataires sont Bahreïn, le Canada, la Finlande, la France, la Norvège et les Pays-Bas. Les autres entreprises signataires sont Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI et Synthesia. La déclaration n'est pas contraignante et reste ouverte à de nouvelles adhésions, précise le texte.elysee.fr+1

Un rassemblement convoqué par Macron

Le président français Emmanuel Macron a réuni une cinquantaine de participants par visioconférence, parmi lesquels des dirigeants mondiaux, des chercheurs et des responsables de laboratoires d'IA, a rapporté l'agence dpa. Des dirigeants du Royaume-Uni, du Japon et de la Sierra Leone ont pris part aux discussions mais ne figurent pas parmi les signataires. Le secrétaire au Trésor américain Scott Bessent et des représentants des Nations unies et de l'OCDE ont également participé, tout comme Sam Altman d'OpenAI, Dario Amodei d'Anthropic et le président de Microsoft Brad Smith, a rapporté Logistik Heute en citant dpa. Macron a déclaré que les participants s'étaient engagés à évaluer les risques des modèles les plus avancés de manière indépendante et publique, à partager plus efficacement les alertes sur les incidents graves et à responsabiliser les développeurs, selon dpa. Des groupes de la société civile ont également signé, notamment LawZero de Yoshua Bengio, SaferAI, AI Safety Connect et le think tank français Ifri, a indiqué l'Élysée.dpa-international.com+2

Trois engagements

Le premier engagement porte sur un cadre commun pour évaluer et gérer les risques liés aux modèles de pointe. Il se concentre sur les utilisations malveillantes dans les domaines cyber et NRBC (nucléaire, radiologique, biologique et chimique), ainsi que sur les risques liés à l'autonomie croissante, au manque d'alignement et à la perte de contrôle. Les signataires ont convenu de publier les conclusions non sensibles de leurs évaluations dans un format standardisé au sein d'un répertoire public partagé, selon la déclaration.presidentti.fi

Le deuxième concerne la responsabilité. Les développeurs s'engagent à divulguer les capacités, les limites et les risques connus des modèles, et à soutenir l'évaluation par des tiers indépendants lorsque cela est approprié. Ils s'engagent également à construire des mécanismes de sécurité capables de suspendre ou d'arrêter les modèles sous leur contrôle, y compris pendant la phase d'entraînement et l'usage interne. Les décideurs politiques, de leur côté, se sont engagés à clarifier les responsabilités en cas de dommages à grande échelle causés par l'IA, y compris les préjudices transfrontaliers, indique le texte.presidentti.fi

Le troisième appelle à des systèmes d'alerte rapide et à un meilleur partage d'informations sur les incidents graves de cybersécurité et de contrôle de l'IA. Il engage également les gouvernements à proposer des canaux sécurisés pour les lanceurs d'alerte, selon l'Élysée.elysee.fr

Un contexte sécuritaire tendu

La déclaration intervient une semaine après une cyberattaque présumée, le 2 novembre, qui a mis hors service les systèmes de réfrigération de supermarchés dans 11 pays européens, a rapporté Türkiye Today. Le même rapport note que la société de cybersécurité Wiz a qualifié octobre de "Black October" après qu'au moins neuf plateformes de développement d'IA ont révélé des incidents de sécurité. Il ajoute que les autorités n'ont pas établi si les attaques étaient liées ou si l'IA avait joué un rôle dans chaque cas.turkiyetoday.com

L'Élysée a précisé que la charte vise à nourrir les débats législatifs nationaux et européens, a rapporté Pollar.pollar.news