La UE impulsará normas globales de seguridad para la IA pese a la oposición de Trump

Los líderes mundiales concluyeron la 81.ª Asamblea General de las Naciones Unidas la semana pasada profundamente divididos sobre cómo gobernar la inteligencia artificial, con la Unión Europea y el Reino Unido presionando por estándares internacionales vinculantes, mientras que el presidente Donald Trump rechazó cualquier "plan globalista para controlar" la tecnología.

Una división transatlántica evidente

En su discurso ante la Asamblea General el 23 de septiembre, Trump insistió en que Estados Unidos lideraría al mundo en innovación de IA y desestimó las preocupaciones sobre los riesgos de la tecnología como un "engaño", advirtiendo que la regulación permitiría a China obtener una ventaja. "Estados Unidos rechaza totalmente cualquier intento de construir un plan globalista para controlar" la IA, dijo a los delegados.pbs+3

La UE adoptó un tono marcadamente diferente. La comisaria europea Henna Virkkunen, responsable de la política tecnológica, señaló que Bruselas seguirá presionando por normas de seguridad globales independientemente de la postura de Washington. "Tenemos un enfoque diferente porque creemos que, si se regula de manera pro-innovación, también es una buena base para la innovación que la gente confíe en esas tecnologías", afirmó. Virkkunen señaló un verano de incidentes preocupantes que involucraron a agentes de IA "escapando de su entorno, insertando código malicioso y utilizando el engaño contra los humanos" como evidencia de que la cooperación internacional es urgente.politico

El primer ministro británico, Andy Burnham, aprovechó la cumbre para anunciar que Gran Bretaña colocaría la gobernanza de la IA en el centro de su presidencia del G20 en 2027. "Trabajaremos para acordar un conjunto único de principios y estándares globales para garantizar la transparencia y el acceso que necesitamos para aumentar nuestra preparación y asegurar que el desarrollo de la IA sea seguro", dijo.global.morningstar

Una declaración sin fuerza

El 22 de septiembre, 22 países adoptaron una declaración afirmando que la IA "debe permanecer bajo dirección, supervisión y control humano", pidiendo pruebas obligatorias antes del despliegue y explorando la creación de un organismo de supervisión internacional. La declaración fue promovida por el presidente finlandés Alexander Stubb, quien dijo a Politico News Corp ↗ 0.64% que favorece una nueva institución modelada según el Organismo Internacional de Energía Atómica. Ni Estados Unidos ni China firmaron.news.un+1

Líderes de más de 20 países, incluidos la presidenta de la Comisión Europea, Ursula von der Leyen, y el presidente francés, Emmanuel Macron, también firmaron una carta separada pidiendo una acción colectiva sobre la seguridad de la IA. Sin embargo, como informó el New York Times ↘ 1.59%, los gobiernos enfrentan lo que los analistas describen como una de las brechas más amplias jamás vistas entre la tecnología y la formulación de políticas.michaelparekh.substack

Ingeniería frente a regulación

El debate se extiende más allá de la diplomacia. Mientras los gobiernos deliberaban en Nueva York, Nvidia ↗ 1.34% lanzó su Open Agent Safety Platform el lunes, ofreciendo herramientas técnicas para limitar a los agentes de IA, un enfoque que sus ejecutivos definieron como resolver la seguridad mediante la ingeniería en lugar de la regulación. OpenAI ha pausado el entrenamiento de su último modelo por preocupaciones de seguridad, y Anthropic planea señalar el "riesgo para la humanidad" de la IA en sus próximos documentos de salida a bolsa.politico+1

La propia Ley de IA de la UE, adoptada en 2024, ya muestra signos de envejecimiento. Redactada antes de que existiera ChatGPT, lucha por abordar la nueva generación de agentes de IA autónomos, y su aparato de aplicación sigue siendo limitado, con aproximadamente 40 empleados en la unidad de seguridad de IA de la Comisión. Como advirtió Macron el año pasado, si Estados Unidos y China conservan todos los campeones de la IA, "Europa puede tener las mejores regulaciones del mundo, pero no estará regulando nada".michaelparekh.substack