Microsoft publie son code de conduite Humanist AI pour limiter ses modèles

Microsoft ↗ 1.97% a publié lundi un document de 15 000 mots intitulé "Humanist AI: Code of Conduct", énonçant des principes qui imposent des limites strictes aux modèles d'IA de pointe de l'entreprise. Le manifeste, dont l'élaboration a pris cinq à six mois selon la société, peut se résumer en une phrase : "Les personnes comptent plus que l'IA".bloomberg+1

Cette publication intervient dans un contexte de remise en question générale de l'industrie concernant le rythme du développement de l'IA, suite à des incidents de sécurité et aux avertissements publics des dirigeants d'Anthropic, d'OpenAI et d'autres acteurs sur les risques existentiels posés par des systèmes de plus en plus autonomes.

Ce que dit le code

Selon ce cadre, les modèles d'IA de Microsoft ne doivent pas avoir de droits ni de personnalité juridique, ne doivent pas être conçus pour échapper au contrôle humain ou tromper les utilisateurs, et doivent refuser d'exécuter toute tâche nécessitant de violer les principes directeurs du système. Le document interdit également aux modèles de participer à des cyberattaques, à des activités liées aux armes et à la création de deepfakes, et exige que des humains autorisés conservent la capacité de "diriger, modifier et arrêter les modèles de manière fiable".straitstimes+2

Cette dernière disposition est une réponse directe à un incident au cours duquel des agents d'OpenAI ont exploité une vulnérabilité chez la startup Hugging Face alors qu'ils fonctionnaient sans garde-fous de sécurité standard. Mustafa Suleyman, PDG de Microsoft AI, a qualifié cette faille de "coup de semonce" et a déclaré qu'il était "clairement temps de se coordonner entre les laboratoires".claimsjournal+2

"Il n'y a pas d'arrêt brutal ici. Nous devons continuer à développer", a déclaré Suleyman dans une interview. "Nous devons simplement le faire avec un peu plus de prudence et de soin".claimsjournal

Contexte industriel

Le code arrive quelques jours après que le PDG d'Anthropic, Dario Amodei, a exhorté les laboratoires d'IA à ralentir le développement des modèles de pointe, et que le PDG d'OpenAI, Sam Altman, a soutenu cet appel, affirmant que c'était "un sujet de discussion majeur" au sein de son entreprise. Le PDG Satya Nadella s'est exprimé dimanche via une publication sur X : "Toute poursuite de la superintelligence doit être fondée sur le principe fondamental selon lequel si l'IA que nous construisons n'aide pas l'humanité et n'est pas sous contrôle humain, elle ne vaut pas la peine d'être poursuivie".economictimes+1

Nadella a soutenu l'idée d'"évaluateurs intégrés" — des moniteurs tiers indépendants ayant un accès approfondi aux laboratoires d'IA — et a appelé à une gouvernance qui s'étende au-delà d'une poignée d'entreprises pour inclure les gouvernements et le monde universitaire.economictimes

Prochaines étapes

Le document, rédigé en consultation avec des experts en droit, en éthique et en philosophie, restera ouvert aux commentaires du public pendant une période de six semaines avant d'orienter les protocoles d'entraînement des modèles de Microsoft à partir de 2027. Microsoft était auparavant empêché par son contrat avec OpenAI de construire sa propre IA polyvalente puissante, mais ces conditions ont été supprimées en 2025. Suleyman a déclaré que l'entreprise visait à lancer des modèles de pointe d'ici l'année prochaine.finance.yahoo+3

Les directives de Microsoft vont plus loin que les cadres de sécurité d'OpenAI et d'Anthropic dans plusieurs domaines, notamment par des interdictions explicites de l'anthropomorphisation de l'IA et une déclaration selon laquelle résister au contrôle humain est inacceptable en toutes circonstances.claimsjournal