Fei-Fei Li appelle à une surveillance indépendante de la sécurité de l’IA

Fei-Fei Li, pionnière de l'IA et cofondatrice de World Labs, a appelé mardi à une surveillance accrue de l'intelligence artificielle par des entités indépendantes et du secteur public, arguant que les évaluations de sécurité des systèmes de plus en plus performants ne devraient pas être laissées aux seules entreprises qui les conçoivent.bloomberg

S'exprimant sur Bloomberg TV, Li a déclaré que si les chercheurs au sein des entreprises d'IA peuvent mesurer la puissance et les attributs de sécurité des modèles individuels, cela ne remplace pas des normes plus larges élaborées par les gouvernements, l'industrie et les institutions universitaires. Elle a soutenu que les références indépendantes, le milieu universitaire, le gouvernement et l'industrie ont tous un rôle à jouer dans l'évaluation de systèmes de plus en plus puissants.bloomberg+1

Un message cohérent dans un paysage en mutation

Les remarques de Li s'alignent sur une position qu'elle a défendue au cours de l'année écoulée. Lors de la conférence Ai4 à Las Vegas en août, elle est apparue aux côtés de Geoffrey Hinton et Andrew Ng lors d'un débat sur les risques liés à l'IA, où elle a plaidé pour une réglementation sectorielle et un investissement public plutôt que pour des restrictions générales spécifiques à l'IA. Elle a également exhorté les décideurs politiques à mettre à jour les cadres réglementaires existants dans les domaines de la santé, des transports, de la finance et de l'éducation pour tenir compte de l'IA, plutôt que de tenter de "remettre le génie dans la bouteille".forbes+1

Lors d'un témoignage devant le Comité sénatorial de la sécurité intérieure et des affaires gouvernementales plus tôt ce mois-ci, Li a insisté sur la nécessité de démystifier l'IA, de protéger son utilisation par des mesures de confidentialité et d'équité, et d'investir dans la recherche publique sur l'IA.hai.stanford

Un débat plus large sur l'autorégulation

Son appel intervient à un moment où l'on s'interroge de plus en plus sur la capacité de l'industrie de l'IA à s'autoréguler. La semaine dernière, Forbes a rapporté que la proposition d'autorégulation du PDG d'Anthropic, Dario Amodei, selon laquelle les entreprises choisiraient leurs propres évaluateurs externes, a été critiquée pour son insuffisance. Les critiques ont comparé cette idée au fait de permettre aux compagnies aériennes de choisir leurs propres inspecteurs de sécurité.forbes

Parallèlement, les exigences de la loi européenne sur l'IA pour les systèmes à haut risque entreront pleinement en vigueur en août 2026, et plusieurs États américains ont introduit une législation exigeant des audits indépendants des systèmes d'IA. L'initiative NIST AI Agent Standards, lancée plus tôt cette année, développe également des normes pour les agents d'IA autonomes qui fonctionnent sans surveillance humaine continue.gunder+2

Li, qui est PDG de World Labs et codirectrice de l'Institut pour l'IA centrée sur l'humain de Stanford, a présenté la question comme celle de garantir que les humains gardent le contrôle de la trajectoire de l'IA. "L'avenir de l'IA concerne les humains", a-t-elle déclaré lors de l'interview sur Bloomberg.bloomberg