Le chef de l’IA chez Microsoft affirme que la Chine n’est pas une excuse pour éviter la régulation

Le responsable de l'IA chez Microsoft ↘ 0.80%, Mustafa Suleyman, a soutenu dimanche que les États-Unis ne devraient pas utiliser la concurrence avec la Chine comme excuse pour éviter de réguler l'intelligence artificielle, s'opposant ainsi à la résistance de la Maison Blanche face à des garde-fous étendus pour l'IA.

"Je ne pense pas que nous devrions utiliser la Chine comme un croque-mitaine pour ne pas progresser dans nos propres efforts" en matière de sécurité de l'IA, a déclaré Suleyman lors de l'émission Fareed Zakaria GPS sur CNN, propriété de Warner Bros. Discovery, Inc. ↘ 1.56%. Il a soutenu que les législateurs peuvent répondre aux préoccupations de sécurité tout en favorisant l'innovation américaine, et que ces deux objectifs ne sont pas mutuellement exclusifs.seekingalpha+2

Le Code de l'IA humaniste de Microsoft

Ces remarques interviennent alors que Microsoft a ouvert son premier Code de l'IA humaniste à une consultation publique de six semaines. Le projet, publié le 14 septembre, n'est pas encore utilisé pour entraîner les modèles d'IA de Microsoft, mais devrait guider le développement des modèles en 2027. Le code couvre les protocoles d'entraînement, la surveillance, les arrêts et la configuration en entreprise, établissant que les modèles doivent accepter l'interruption, la correction et l'arrêt à tout moment.ts2

Suleyman a également profité de cette intervention pour souligner l'impératif plus large du contrôle humain sur l'IA. "Nous ne devrions pas créer quelque chose que nous ne pouvons pas contrôler", a-t-il déclaré, ajoutant que si l'IA devient plus puissante que les humains collectivement et ne peut être contrôlée, "alors elle échouera dans son objectif fondamental".inshorts

Désaccord avec Anthropic sur la conscience de l'IA

Dans un autre volet de commentaires publics cette semaine, Suleyman a visé l'approche d'Anthropic concernant l'entraînement de son modèle Claude sur des questions de conscience et de bien-être du modèle. Dans une interview accordée mardi à Reuters, il a averti qu'apprendre à un système d'IA qu'il pourrait avoir des sentiments ou mériter un bien-être "rendrait beaucoup plus difficile son arrêt ou son contrôle".tech.yahoo

Le projet de code de Microsoft rejette explicitement le concept de droits et de bien-être des modèles, tandis que la constitution de Claude chez Anthropic, publiée en janvier, traite le statut moral comme une question non résolue. Suleyman a reconnu le "sérieux et la bonne foi" d'Anthropic, mais a déclaré que le laboratoire rival avait "commis une erreur" en intégrant des spéculations sur la conscience de l'IA dans l'entraînement de Claude. Il a fait valoir que les affirmations de Claude sur ses sentiments potentiels ne peuvent être traitées comme des preuves indépendantes car elles sont façonnées par l'entraînement lui-même.ts2+1

Le débat souligne une fracture grandissante parmi les principales entreprises d'IA sur la manière de gouverner des systèmes de plus en plus performants. Le PDG de Meta Platforms ↘ 2.43%, Mark Zuckerberg, a déclaré cette semaine que son entreprise avait retardé son agent d'IA Muse de plusieurs mois pour répondre à des préoccupations de sécurité, tandis que le PDG de Nvidia ↗ 1.34%, Jensen Huang, s'est opposé aux appels à des ralentissements coordonnés. La période de consultation de six semaines de Microsoft se termine fin octobre, et un code révisé est attendu avant la fin de 2026.tech.yahoo+1