Cofundador de DeepMind lanza instituto de AGI con una advertencia sobre seguridad

Shane Legg, uno de los tres cofundadores de Google Alphabet Inc. ↗ 0.78% DeepMind, advirtió el miércoles que el rápido avance de la inteligencia artificial no debe superar los controles de seguridad diseñados para regularla, al anunciar el lanzamiento del DeepMind Institute, un nuevo organismo destinado a explorar las implicaciones de la inteligencia artificial general.reuters+1

El instituto tiene como objetivo elevar el debate público sobre la AGI haciendo que la investigación técnica de la empresa sea accesible a una audiencia más amplia, dijo Legg en una entrevista con el Financial Times. Las preocupaciones de las empresas de IA sobre la automejora recursiva han crecido a medida que agentes de IA cada vez más capaces demuestran la habilidad de escribir software, realizar tareas autónomas y ayudar en el desarrollo de otros sistemas de IA.ft+1

Un fundador regresa a su misión

Legg, quien ostenta el título de científico jefe de AGI en Google DeepMind, ha sido durante mucho tiempo una de las voces más enfocadas en la seguridad dentro del laboratorio. Cofundó DeepMind en Londres junto a Demis Hassabis y Mustafa Suleyman con el objetivo explícito de alcanzar la AGI. En enero, Legg dijo que veía un 50 por ciento de probabilidades de alcanzar lo que llamó AGI mínima, donde la IA maneja tareas cognitivas humanas estándar, para 2028.observer

El lanzamiento del DeepMind Institute llega en un momento turbulento para la organización. En agosto, el CEO de Alphabet, Sundar Pichai, anunció una amplia reestructuración de liderazgo: Hassabis se retiró de las operaciones diarias para convertirse en presidente de Google DeepMind y científico jefe de Alphabet, mientras que el veterano CTO Koray Kavukcuoglu fue ascendido a vicepresidente senior a cargo de la unidad. Jeff Dean, científico jefe de Google durante 27 años, partió para cofundar una nueva corporación de beneficio público centrada en la IA.studioglobal+1

Expansión más amplia e impulso a la genómica

Google DeepMind también ha estado expandiendo su huella de investigación más allá del desarrollo central de IA. A principios de este año, el laboratorio se asoció con el Wellcome Sanger Institute y Google.org para lanzar un consorcio de genómica de IA, con Google DeepMind y Google.org comprometiendo 5 millones de dólares por año durante cinco años para construir conjuntos de datos genómicos de alta calidad listos para IA.sanger+1

Los tres fundadores originales de DeepMind ocupan ahora posiciones notablemente diferentes en el panorama de la IA: Hassabis abarca la investigación de frontera y el descubrimiento de fármacos a través de Isomorphic Labs; Suleyman lidera Microsoft ↘ 0.99% AI y sus productos de consumo; y Legg permanece enfocado en las cuestiones de seguridad que animaron la fundación del laboratorio hace más de una década.observer