Líderes de la IA piden frenar su desarrollo por temor sobre la seguridad

La industria de la inteligencia artificial atraviesa su debate interno más trascendental desde que la tecnología saltó a la fama generalizada. Los principales laboratorios admiten que la automejora recursiva, el proceso mediante el cual los modelos de IA construyen de forma autónoma sucesores más capaces, está más cerca de lo que se creía, mientras los altos ejecutivos se enfrentan públicamente sobre si se debe desacelerar o acelerar el paso.

Una reacción en cadena de diez días

La agitación comenzó el 3 de septiembre, cuando OpenAI anunció su modelo más reciente, Astra, al mismo tiempo que la empresa admitía que era "cada vez más incapaz de controlar o incluso supervisar" los sistemas de IA que estaba lanzando, según Reuters. Días después, el 8 de septiembre, el investigador de Anthropic Jacob Coxon renunció, advirtiendo en una serie de publicaciones virales que los laboratorios de IA están "jugando con nuestras vidas". Otro investigador de Anthropic, Evan Hubinger, publicó en X: "Realmente creemos con total sinceridad que la IA podría matar a todos los seres humanos".reuters

Para el 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo de casi 4,000 palabras en el que pedía una desaceleración, advirtiendo que en un plazo de seis a doce meses, los enjambres de agentes de IA "podrían ser capaces de apoderarse de todo internet". A él se sumaron los líderes de OpenAI, DeepMind de Alphabet Inc. ↗ 0.78% (Google), Microsoft ↘ 0.99% y xAI en un inusual llamado conjunto para frenar el desarrollo y permitir que empresas externas auditen la seguridad de sus sistemas.reuters

La división: Amodei contra Huang

No todos están de acuerdo. El director ejecutivo de Nvidia ↗ 2.78%, Jensen Huang, descartó las sugerencias de que el desarrollo de la IA debería pausarse. "Deberíamos ir tan rápido como podamos, independientemente de los demás", declaró Huang a CBS News en una entrevista que se emitirá este fin de semana. Y añadió: "Nunca jamás lanzaríamos, ni deberíamos lanzar, productos antes de que estén listos, ni entregar productos que no sean seguros".cbsnews

Mark Zuckerberg, de Meta ↗ 0.84%, adoptó una postura similar, argumentando que cada laboratorio debería marcar su propio ritmo en lugar de coordinar una desaceleración de la industria. "Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daños, por lo que tienen un fuerte incentivo para evitarlo", escribió en una publicación en redes sociales.reuters

El Wall Street Journal, de News Corp ↘ 0.03%, describió esta división como una ruptura decisiva, con Amodei perfilándose como el rostro de la precaución y Huang como la voz principal contra las restricciones.wsj

La automejora recursiva se acerca a la realidad

Lo que alimenta la alarma es el progreso concreto hacia la automejora recursiva. Anthropic reveló esta semana que su modelo Claude lidera ahora el 26% de la propia investigación y desarrollo de la empresa, según Associated Press. OpenAI ha desarrollado un "becario de investigación" automatizado y tiene como objetivo contar con un "investigador" de IA totalmente automatizado para marzo de 2028. Elon Musk ha señalado que los modelos Grok de xAI podrían alcanzar la automejora totalmente automatizada a finales de este año.wral

A principios de este mes, varios investigadores advirtieron que la inteligencia artificial general podría llegar en tan solo tres años. "Esta es probablemente la peor idea en la historia de la humanidad", afirmó Anthony Aguirre, presidente del Future of Life Institute, en referencia a la búsqueda de una automejora de la IA totalmente autónoma.reuters+1

Por su parte, el presidente Donald Trump calificó la alarma sobre la seguridad de la IA de "farsa" y advirtió que cualquier desaceleración solo beneficiaría a China. El Congreso ha avanzado poco en la regulación de la IA, a pesar de que China ya ha tomado medidas para proponer obligaciones a los desarrolladores y normas de seguridad respaldadas por el Estado.reuters

El jefe de IA de Microsoft, Mustafa Suleyman, ofreció un resumen aleccionador: "Todos estamos enfocados en el mismo objetivo, que es intentar controlar una superinteligencia. Creo que ese será el mayor desafío al que nos enfrentemos en el siglo XXI".reuters