Hassabis impulsó un plan de supervisión de IA antes de dejar DeepMind

En las semanas previas a que Alphabet ↘ 0.18% anunciara una profunda reestructuración de liderazgo en Google DeepMind el 5 de agosto, Demis Hassabis trabajaba discretamente en algo más allá del desarrollo de modelos: una propuesta para un organismo independiente que supervisara la inteligencia artificial de frontera, según The Wall Street Journal News Corp ↗ 0.03%.wsj

Hassabis contactó a directores de laboratorios de IA rivales y funcionarios de la administración Trump, incluido el Secretario del Tesoro Scott Bessent, para crear una organización de estándares liderada por EE. UU. y financiada por la industria, siguiendo el modelo de la Autoridad Reguladora de la Industria Financiera (FINRA), el organismo privado que supervisa a los corredores de bolsa de Wall Street. La propuesta exige que una junta de expertos técnicos independientes revise los modelos de IA de frontera hasta 30 días antes de su lanzamiento público, siendo el organismo responsable ante el gobierno federal pero operado de forma privada.claimsjournal+3

La propuesta

Hassabis publicó su marco de trabajo el 14 de julio, proponiendo lo que denominó un "Organismo de Estándares de IA de Frontera". El plan contempla que los laboratorios de frontera envíen voluntariamente sus modelos más potentes para pruebas de seguridad antes del lanzamiento, siendo los propios laboratorios quienes financien la organización, reflejando cómo la FINRA es financiada por los corredores de bolsa que regula. Según Fortune, Bessent ayudó a desarrollar la propuesta, que estaba siendo revisada por la jefa de gabinete de la Casa Blanca, Susie Wiles.digitalapplied+3

The Washington Post describió la iniciativa como una forma de "autorregulación de la IA" con una "invitación silenciosa para que el gobierno eventualmente haga más". Bloomberg informó en julio que la administración Trump estaba considerando activamente el plan después de que líderes de Silicon Valley se quejaran de la naturaleza improvisada de las recientes medidas de EE. UU. para gestionar sistemas de IA de vanguardia.washingtonpost+1

La reestructuración de liderazgo

El 5 de agosto, Alphabet anunció que Hassabis dejaría su cargo de CEO de Google DeepMind para convertirse en presidente de la unidad y científico jefe de Alphabet, un cambio que lo aleja de la gestión diaria hacia la estrategia de AGI y la investigación científica. Koray Kavukcuoglu, director de tecnología de DeepMind, asumió las operaciones diarias como vicepresidente senior reportando directamente al CEO Sundar Pichai.axios+2

La reestructuración también vio al veterano ingeniero Jeff Dean y a varios otros líderes prominentes de IA, incluidos Sanjay Ghemawat, Oriol Vinyals y Quoc Le, abandonar Google para lanzar una startup llamada Discovery Loop.reuters+1

Seguridad en medio de la competencia

El momento en que Hassabis impulsó su iniciativa regulatoria, junto con su alejamiento de las operaciones, plantea dudas sobre si ambos desarrollos están conectados. En conversaciones con colegas, Hassabis comparó la organización que imaginaba con el Organismo Internacional de Energía Atómica, presentándola como un cuerpo colaborativo en lugar de un regulador punitivo. Su nuevo rol como científico jefe de Alphabet y presidente de DeepMind lo posiciona para seguir abogando por el organismo de estándares sin las demandas operativas de dirigir uno de los laboratorios de IA más grandes del mundo.cnbc+1