La jefa de tecnología de la UE pide reglas globales para la IA tras advertencias de extinción

La vicepresidenta ejecutiva de la Comisión Europea, Henna Virkkunen, pidió el viernes normas globales sobre inteligencia artificial, días después de que investigadores de laboratorios líderes de IA advirtieran públicamente que la tecnología podría causar la extinción humana en esta década.

"Es muy importante que continuemos ahora con la cooperación internacional, porque veo que las reglas globales son realmente necesarias", dijo Virkkunen al margen de una conferencia sobre seguridad infantil en línea en Dublín, según Politico Europe.politico

Las advertencias de los investigadores aumentan la tensión

El impulso por la coordinación internacional surge tras una serie extraordinaria de advertencias públicas de expertos en IA. Jacob Coxon, un exingeniero que trabajó tres años en investigación de preentrenamiento tanto en OpenAI como en Anthropic, renunció a Anthropic el martes y publicó en X que "ninguna de las dos empresas está actuando de manera responsable".axios+1

"Están corriendo directamente hacia una superinteligencia que se automejora y jugando con nuestras vidas", escribió Coxon. "Las personas que construyen la IA creen sinceramente que podría matarnos a todos antes de que termine la década".nypost+1

Evan Hubinger, líder de ciencia de alineación de Anthropic, respondió públicamente que él "personalmente piensa que hay más de un 10% de probabilidades en la próxima década", añadiendo que la empresa "todavía no tiene un plan para resolver la alineación de la superinteligencia". Samuel Marks, líder de supervisión escalable de Anthropic, se hizo eco de las preocupaciones, señalando que "en general, cuanto más alto es el cargo del empleado, más preocupado está".bbc+1

Las advertencias provocaron que al menos 22 funcionarios estadounidenses en ejercicio solicitaran regulación, audiencias en el Congreso y, en algunos casos, una pausa en el desarrollo, según la Agencia Anadolu.aa

La UE señala a la Ley de IA como modelo

Virkkunen señaló que la UE ya cuenta con legislación que exige a empresas, incluidas Anthropic y OpenAI, evaluar y mitigar el riesgo de perder el control sobre los modelos de IA, pero que tales requisitos no existen a nivel global. La Ley de IA de la UE entró en vigor en agosto de 2024 y se volvió ampliamente aplicable en agosto de 2026.ua+2

El llamado a la coordinación internacional se alinea con esfuerzos diplomáticos europeos más amplios. En junio, la presidenta de la Comisión, Ursula von der Leyen, instó a la cooperación entre la UE y EE. UU. en materia de IA en la cumbre del G7 en Francia, mientras que el ministro alemán de Asuntos Digitales, Carsten Wildberger, ha abogado por un organismo internacional de seguridad de la IA inspirado en el Organismo Internacional de Energía Atómica.ua

El embajador de EE. UU. ante la UE, Andrew Puzder, ha señalado su apoyo a una asociación transatlántica de IA, pero advirtió contra regulaciones que podrían debilitar la capacidad de las empresas estadounidenses para competir con China.ua