Accenture et Anthropic investissent 1 milliard chacune dans la sécurité de l’IA

Accenture ↘ 4.73% et Anthropic ont annoncé vendredi un partenariat visant à constituer une équipe d'évaluateurs intégrés qui travailleront au sein d'Anthropic pour évaluer la sécurité de ses modèles d'IA de pointe, chaque entreprise s'engageant à investir au moins 1 milliard de dollars sur cinq ans dans des initiatives de sécurité de l'IA.investing+1

Cet accord marque l'un des plus importants engagements d'entreprise en matière d'évaluation de la sécurité de l'IA et introduit une structure inédite dans laquelle des évaluateurs externes bénéficient d'un accès de niveau employé aux opérations internes d'un développeur d'IA.

Fonctionnement de l'évaluation intégrée

Contrairement aux auditeurs externes traditionnels, les évaluateurs intégrés travailleront dans les bureaux d'Anthropic avec des badges d'accès, des ordinateurs portables de l'entreprise et des autorisations comparables à celles des équipes internes d'évaluation des risques, selon l'annonce. Cet accès permet aux évaluateurs d'observer les modèles pendant leur entraînement, de suivre les décisions régissant la construction et le déploiement des modèles, et de discuter directement avec les employés.unite

Le travail sera dirigé par Faculty, une société spécialisée en IA acquise par Accenture qui possède une expérience dans le test de modèles pour des laboratoires d'IA de premier plan et dans la création de systèmes pour des clients gouvernementaux et de défense, notamment le système d'alerte précoce du service national de santé britannique pendant la pandémie de COVID-19.finance.yahoo

"La sécurité exige à la fois une expertise technique approfondie et une compréhension claire de la manière dont l'IA est utilisée dans le monde réel", a déclaré Julie Sweet, présidente-directrice générale d'Accenture. "L'évaluation intégrée est un domaine émergent et nous sommes impatients de collaborer avec Anthropic pour contribuer à accélérer le développement des évaluateurs intégrés".finance.yahoo

Transparence et droits de publication

Selon les termes décrits dans un essai de septembre 2026 par le PDG d'Anthropic, Dario Amodei, intitulé "We Must Pace the Frontier", les examinateurs externes auront le droit de publier des conclusions sur les niveaux de risque, les incidents et les pratiques sans contrôle éditorial de la part d'Anthropic. L'entreprise conserve une capacité limitée à caviarder des documents sensibles pour la sécurité ou protégés par le secret professionnel, mais ne peut pas supprimer des conclusions défavorables. Les examinateurs peuvent divulguer publiquement si un caviardage a supprimé un élément essentiel à leurs conclusions.unite

Dans cet essai, Amodei a présenté un plan en trois étapes : évaluateurs intégrés, coordination entre les entreprises d'IA de pointe dans les pays démocratiques, et coordination mondiale, et a appelé les gouvernements à exiger des autres laboratoires de pointe qu'ils adoptent des mesures similaires. "Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA", a-t-il écrit.unite

Un accord non exclusif

Le partenariat n'est pas exclusif. Anthropic a déclaré qu'elle prévoyait d'annoncer d'autres évaluateurs dans les semaines à venir et qu'elle était en dialogue avec METR et d'autres organisations à but non lucratif pour piloter des éléments de l'évaluation intégrée. L'accord prolonge une relation plus large formée en décembre 2025, lorsque les deux entreprises ont lancé l'Accenture Anthropic Business Group et ont commencé à former environ 30 000 professionnels d'Accenture aux modèles Claude d'Anthropic.unite

L'action d'Accenture a progressé lors des premiers échanges après l'annonce.seekingalpha