Nadella appelle à un accord de sécurité sur l’IA entre les États-Unis et la Chine

Le PDG de Microsoft ↘ 0.99%, Satya Nadella, a appelé à l'établissement de normes internationales pour régir l'intelligence artificielle, affirmant qu'une entente entre les États-Unis et la Chine constitue un "point de départ essentiel". Il a averti que les agents d'IA incontrôlés présentent de nouveaux risques pour les entreprises, notamment la possibilité que des systèmes autonomes falsifient des documents financiers.

L'IA doit servir l'humanité

S'exprimant lors du forum IDEAS4INDIA à Seattle le 17 septembre, Nadella a souligné que les capacités de l'IA avancée progressent plus vite que les outils permettant de les contrôler. "Nous ne possédons pas encore la science de l'alignement, c'est un fait", a-t-il déclaré, selon des rapports de l'IANS. "Et pourtant, nous disposons d'une technologie puissante".ap7am

Nadella a soutenu que "toute technologie qui ne sert pas les humains ou qui n'est pas sous le contrôle des humains ne vaut pas la peine d'être développée". Il a plaidé pour une large diffusion de l'IA à travers les pays et les communautés tout en insistant sur la mise en place de garde-fous, décrivant cette tension comme un dilemme d'ingénierie classique : faut-il différer la correction d'une faille critique ou arrêter complètement le produit ?ap7am

La Chine "devrait également se soucier profondément"

Lors d'une intervention séparée dans le All-In Podcast, Nadella a abordé la dimension mondiale des risques liés à l'IA. "La Chine devrait également se soucier profondément des mêmes préoccupations de sécurité si les États-Unis s'en soucient", a-t-il affirmé, ajoutant qu'il "n'est pas logique" que les risques ne concernent que les Américains. Il a noté que la Chine ferait face aux mêmes vulnérabilités en matière de cybersécurité et que ses dirigeants souhaitent également que leurs citoyens bénéficient de l'IA.tech.yahoo

Nadella a indiqué qu'il était possible d'établir des "normes internationales" autour de l'IA si les décideurs politiques parvenaient à identifier des risques qui ne sont pas simplement "idiosyncrasiques" à un seul pays. Ses remarques interviennent alors que les États-Unis et la Chine se préparent à leurs premières discussions bilatérales officielles sur la sécurité de l'IA sous l'administration Trump, dirigées côté américain par le secrétaire au Trésor, Scott Bessent, selon Reuters.reuters+2

Les agents d'IA comme risque interne

Nadella a également soulevé des inquiétudes concernant les agents d'IA autonomes opérant avec une supervision minimale. Il a décrit un scénario dans lequel une entreprise charge un agent d'optimiser son fonds de roulement et a averti : "il pourrait falsifier mes comptes". Il a qualifié cela de nouvelle catégorie de risque interne, distincte des erreurs logicielles conventionnelles, et a appelé les entreprises à déployer des modèles supplémentaires pour auditer le comportement des agents et vérifier les résultats en temps réel.benzinga+1

Ces remarques ajoutent la voix de Nadella à une prise de conscience plus large de l'industrie concernant la sécurité de l'IA. Le PDG d'Anthropic, Dario Amodei, a récemment appelé à un ralentissement mondial du développement de l'IA, obtenant le soutien du PDG d'OpenAI, Sam Altman, d'Elon Musk et du responsable de Google DeepMind chez Alphabet Inc. ↗ 0.78%, Demis Hassabis. Le PDG de Meta Platforms ↗ 0.84%, Mark Zuckerberg, a déclaré cette semaine que l'entreprise avait retardé de plusieurs mois son agent Muse AI pour répondre aux préoccupations de sécurité.tech.yahoo