Fei-Fei Li pide una supervisión independiente para la seguridad de la IA

Fei-Fei Li, pionera en IA y cofundadora de World Labs, pidió el martes una mayor supervisión de la inteligencia artificial por parte de entidades independientes y del sector público, argumentando que las evaluaciones de seguridad de sistemas cada vez más capaces no deben dejarse únicamente en manos de las empresas que los crean.bloomberg

En declaraciones a Bloomberg TV, Li señaló que, si bien los investigadores dentro de las empresas de IA pueden medir la potencia y los atributos de seguridad de los modelos individuales, eso no sustituye a los estándares más amplios desarrollados por gobiernos, la industria y las instituciones académicas. Sostuvo que los puntos de referencia independientes, la academia, el gobierno y la industria tienen un papel que desempeñar en la evaluación de sistemas cada vez más potentes.bloomberg+1

Un mensaje coherente en un panorama cambiante

Las declaraciones de Li se alinean con una postura que ha mantenido durante el último año. En la conferencia Ai4 en Las Vegas en agosto, apareció junto a Geoffrey Hinton y Andrew Ng en un debate sobre los riesgos de la IA, donde abogó por una regulación específica por sector y una inversión pública en lugar de restricciones generales específicas para la IA. También ha instado a los legisladores a actualizar los marcos regulatorios existentes en salud, transporte, finanzas y educación para tener en cuenta la IA, en lugar de intentar "volver a meter al genio en la botella".forbes+1

En su testimonio ante el Comité de Seguridad Nacional y Asuntos Gubernamentales del Senado a principios de este mes, Li presionó para desmitificar la IA, salvaguardar su uso con medidas de privacidad y equidad, e invertir en investigación pública de IA.hai.stanford

Un debate más amplio sobre la autorregulación

Su llamado llega en un momento de creciente escrutinio sobre si la industria de la IA puede vigilarse a sí misma. La semana pasada, Forbes informó que la propuesta de autorregulación del CEO de Anthropic, Dario Amodei, en la que las empresas seleccionarían a sus propios evaluadores externos, recibió críticas por no ser suficiente. Los críticos compararon la idea con permitir que las aerolíneas elijan a sus propios inspectores de seguridad.forbes

Mientras tanto, los requisitos para sistemas de alto riesgo de la Ley de IA de la UE entrarán en vigor en agosto de 2026, y varios estados de EE. UU. han introducido leyes que exigen auditorías independientes de los sistemas de IA. La Iniciativa de Estándares de Agentes de IA del NIST, lanzada a principios de este año, también está desarrollando estándares para agentes de IA autónomos que operan sin supervisión humana continua.gunder+2

Li, quien se desempeña como CEO de World Labs y codirige el Instituto de IA Centrada en el Humano de Stanford, enmarcó el problema como una cuestión de garantizar que los humanos mantengan el control de la trayectoria de la IA. "El futuro de la IA trata sobre los humanos", dijo en la entrevista de Bloomberg.bloomberg