Líderes de la IA divididos ante la sesión del Consejo de Seguridad de la ONU sobre el ritmo de desarrollo

El CEO de OpenAI, Sam Altman, informará al Consejo de Seguridad de las Naciones Unidas este miércoles durante la Asamblea General de la ONU en Nueva York, mientras una creciente brecha entre los líderes de la industria de la IA sobre el ritmo de desarrollo llega al escenario global.reuters+1

La sesión, convocada por Francia bajo su presidencia rotatoria y presidida por el ministro de Asuntos Exteriores francés, Jean-Noël Barrot, se produce semanas después de que el CEO de Anthropic, Dario Amodei, publicara un ensayo titulado "Debemos moderar la frontera", que ha reconfigurado el debate sobre la seguridad de la IA. Se espera que los comentarios de Altman se centren en la coordinación internacional y los estándares de seguridad compartidos, dijo un portavoz de OpenAI a Reuters.finance.yahoo+3

Un plan de tres pasos para frenar la IA

El ensayo de Amodei del 12 de septiembre argumentó que el progreso de la IA se ha acelerado "drásticamente más rápido" desde el verano de 2026, impulsado por la creciente capacidad de la IA para construir la próxima generación de sistemas. Propuso un plan de tres pasos: integrar evaluadores externos independientes en cada laboratorio de vanguardia, coordinar estándares de seguridad entre empresas de IA en naciones democráticas y, finalmente, establecer una coordinación global que incluya a China.bnnbloomberg+2

Altman respaldó la propuesta en X, escribiendo: "Estoy de acuerdo con Dario en que necesitamos moderar la frontera", y se comprometió a que OpenAI otorgue a los evaluadores independientes acceso similar al de un empleado y publique informes sobre comportamientos inesperados de la IA. Elon Musk también apoyó a Amodei, publicando simplemente: "Dario tiene razón".reuters+1

Pero el consenso está lejos de ser universal. El CEO de Meta ↗ 1.02%, Mark Zuckerberg, argumentó que la competencia y la responsabilidad brindan a las empresas incentivos suficientes para actuar individualmente en materia de seguridad. El CEO de Nvidia ↘ 1.47%, Jensen Huang, descartó la necesidad de nuevas regulaciones, diciendo a CBS News que había "0% de probabilidad" de que 2030 trajera el apocalipsis e instó a la industria a aplicar las leyes de responsabilidad existentes.bnnbloomberg

Aumenta la presión global

El secretario general de la ONU, António Guterres, ha calificado a la IA como una de las "tres amenazas existenciales" que enfrenta el mundo, junto con la crisis climática y las crecientes desigualdades. "El mundo no puede permitirse una carrera hacia el abismo en la seguridad de la IA", dijo la semana pasada, calificando la cooperación global como "indispensable" y advirtiendo que las pausas voluntarias limitadas a unos pocos países no funcionarían.news.un+2

El rey Carlos de Gran Bretaña recibió la semana pasada a ejecutivos de Nvidia, Google DeepMind Alphabet Inc. ↘ 3.58%, OpenAI y Anthropic en Dumfries House en Escocia, advirtiendo sobre los "peligros existenciales" de que la IA caiga en las manos equivocadas. La Comisión Europea respaldó los llamados a una pausa, y la presidenta Ursula von der Leyen dijo que invitaría a los laboratorios de vanguardia a discutir los riesgos.reuters+2

No todos los gobiernos comparten la alarma. El presidente Donald Trump escribió en Truth Social que la IA solo necesita "un PRESIDENTE FUERTE E INTELIGENTE (¡con alto coeficiente intelectual!)" y advirtió que las dudas sobre el desarrollo de la IA beneficiarían a China. El Global Times, respaldado por el estado chino, acusó a Amodei de intentar "frenar el desarrollo de la IA en China a través de barreras tecnológicas y monopolios regulatorios".bnnbloomberg

La reunión del Consejo de Seguridad del miércoles, la segunda sesión dedicada a los riesgos de la IA desde 2023, pondrá a prueba si el creciente coro de cautela puede traducirse en algo más que retórica.tbsnews+1