Exinvestigadores de DeepMind lanzan una ONG para mantener a los humanos en la supervisión de la IA

Un grupo de exinvestigadores de Google Alphabet Inc. ↘ 0.36% DeepMind ha lanzado una organización sin fines de lucro llamada Sampura Research, dedicada a garantizar que los humanos sigan siendo fundamentales en la supervisión de sistemas de IA cada vez más potentes. La organización con sede en Londres, anunciada formalmente el 24 de agosto, tiene como objetivo construir lo que denomina "jueces" más fuertes: sistemas híbridos humano-IA capaces de evaluar si los modelos se comportan de forma segura y según lo previsto.bloomberg+2

Un contrapunto a la supervisión de la IA por la propia IA

Sampura Research fue cofundada por Rishub Jain, Joshua Jacob y Alex Adams, quienes trabajaron anteriormente en Google DeepMind. Jain pasó siete años en el laboratorio, incluidos dos años centrados en la investigación de supervisión escalable y contribuciones a proyectos como AlphaFold. Jacob se desempeñó como colíder de ingeniería de datos humanos en DeepMind y trabajó anteriormente en Waymo.EdTech Innovation Hub+4

La organización sin fines de lucro se posiciona como un contrapunto al enfoque predominante de la industria de utilizar la IA para supervisar a la IA, un método que ofrece velocidad pero que, como argumenta Jain, todavía deja lagunas que el juicio humano puede ayudar a llenar. Según Bloomberg, Jain cree que las personas conservan un papel esencial en la verificación del comportamiento de los modelos, incluso a medida que los sistemas de IA se vuelven más capaces.Bloomberg Law+1

Construyendo la infraestructura para la supervisión

La agenda de investigación de Sampura se centra en el desarrollo de conjuntos de datos que midan la eficacia con la que los humanos y los sistemas de IA pueden verificar los resultados de los modelos, y luego utilizar esos puntos de referencia para mejorar los métodos de supervisión. La organización define a un "juez" como "un sistema humano, de IA o híbrido que evalúa la corrección y la alineación del comportamiento de una IA en una conversación o trayectoria de agente".sampura+1

Las líneas de trabajo planificadas incluyen conjuntos de datos de daños prospectivos, métodos para asignar subtareas entre personas e IA, y una plataforma de calificación humana de código abierto. El equipo está reclutando al menos a seis investigadores de IA experimentados en Londres, con salarios que oscilan entre 100.000 y 290.000 libras esterlinas.EdTech Innovation Hub+1

En medio de un ajuste de cuentas más amplio sobre seguridad

El lanzamiento se produce durante un período de mayor preocupación sobre la capacidad de supervisión de la IA. Un informe de Reuters señaló que las empresas de IA "todavía no pueden contener lo que han construido", mientras que la organización sin fines de lucro METR, que evalúa de forma independiente los modelos de frontera para OpenAI, Anthropic, Google y Meta ↗ 1.97%, ha tenido dificultades para contratar suficiente personal a pesar de ofrecer salarios superiores a los 500.000 dólares. A finales de julio, más de 1.100 profesionales de la IA firmaron una carta abierta instando al gobierno de EE. UU. a apoyar un mecanismo internacional para ralentizar el desarrollo de frontera cuando sea necesario.news.aibase.com+2

La salida de Jain fue parte de un éxodo de talento más amplio de DeepMind en junio de 2026, durante el cual el laboratorio perdió a cinco investigadores principales en seis días.kucoin.com