Excientífico de DeepMind advierte que la IA avanza demasiado rápido para ser controlada

Alex Turner, exinvestigador científico del equipo de alineación escalable de Google Alphabet Inc. ↗ 3.06% DeepMind, apareció en Bloomberg el lunes para argumentar que el ritmo de desarrollo de la IA ha superado la capacidad de los gobiernos, empresas y superpotencias rivales para gestionar sus riesgos. Sus declaraciones se producen en medio de una ola sin precedentes de llamados de altos ejecutivos de IA para frenar el avance vertiginoso del sector.

La creciente plataforma de un denunciante

Turner renunció a Google DeepMind en junio después de que la empresa firmara un acuerdo permitiendo al Pentágono usar su IA para trabajos clasificados, un pacto que, según él, carecía de restricciones vinculantes contra armas autónomas o vigilancia masiva. Desde entonces, se ha convertido en una de las voces más prominentes que advierten sobre la trayectoria de la IA. En una aparición en CNBC la semana pasada, dijo estar "preocupado por el riesgo de extinción" derivado de la tecnología.cnbc+2

En la entrevista del lunes con Bloomberg, Turner destacó la automejora recursiva, la capacidad de los sistemas de IA para mejorar sus propias capacidades, como un peligro central, advirtiendo que podría producir rápidamente una inteligencia más allá de la comprensión humana. También señaló el seguimiento de la potencia de cómputo como una palanca práctica para la regulación, argumentando que monitorear la vasta capacidad de procesamiento necesaria para entrenar modelos de frontera podría dar a los gobiernos una forma concreta de imponer límites. Turner reconoció que los recientes llamados de las grandes tecnológicas para reducir la velocidad pueden ser en parte sinceros y en parte un movimiento estratégico para consolidar ventajas.bloomberg

El coro de la industria se hace más fuerte

Las advertencias de Turner llegan durante una semana crucial para el debate sobre la seguridad de la IA. El sábado, el CEO de Anthropic, Dario Amodei, publicó un ensayo de 3,800 palabras titulado "Debemos marcar el ritmo de la frontera", instando a los laboratorios a frenar deliberadamente las ganancias de capacidad para que la investigación de alineación pueda seguir el ritmo. El CEO de OpenAI, Sam Altman, y Elon Musk respaldaron públicamente el mensaje. Demis Hassabis, quien dirige Google DeepMind, también expresó su acuerdo.cnbc+1

Amodei presentó un marco de tres pasos: integrar evaluadores independientes dentro de los laboratorios, coordinar estándares de seguridad entre naciones democráticas y, finalmente, extender esos acuerdos globalmente, incluyendo a China. Sin embargo, hasta el lunes, ningún laboratorio rival había igualado el compromiso concreto de Anthropic de otorgar a auditores externos acceso a nivel de empleado.shattered

El dilema de China

La dimensión geopolítica es enorme. El propio Amodei calificó a China como "el dilema más difícil" para cualquier propuesta de desaceleración, reconociendo el riesgo de que la moderación unilateral por parte de los laboratorios occidentales pueda ceder terreno ante Pekín. Turner, en un intercambio separado en redes sociales, respondió al zar de la IA de la administración Trump, David Sacks, quien descartó los llamados a leyes de ritmo como un intento de frenar la competencia. Turner escribió en un artículo de opinión en The Guardian publicado el domingo que la solución es "directa: evitar que las empresas permitan que la IA se automejore más allá de un nivel manejable de inteligencia".politomix+3