La UE exige a las empresas de IA demostrar su seguridad ante los llamamientos a frenar el sector

La Unión Europea advirtió el lunes a las empresas de inteligencia artificial que deben demostrar la seguridad de sus servicios antes de operar en el bloque, en un momento en que el debate sobre el ritmo de desarrollo de la IA se intensifica tras los llamamientos de altos ejecutivos del sector para frenar su avance.

El portavoz de la Comisión Europea, Thomas Regnier, declaró que el bloque apoya la innovación en IA pero que no "comprometerá nuestros estándares de seguridad", según la Agencia Anadolu. Las empresas deben probar que sus servicios son seguros para los ciudadanos de la UE, afirmó Regnier, reafirmando la postura del bloque a medida que entran en vigor disposiciones clave de la Ley de IA de la UE.jpost+1

Un fin de semana de alarmas sobre la seguridad de la IA

La declaración de la UE se produjo días después de que el CEO de Anthropic, Dario Amodei, publicara el sábado un ensayo de 3.800 palabras titulado "Debemos marcar el ritmo de la frontera", advirtiendo que sin una ralentización deliberada, la IA podría ser capaz en pocos meses de acciones que plantean riesgos graves, incluyendo dirigir enjambres de agentes que podrían comprometer la infraestructura crítica de Internet. Amodei pidió auditores independientes para verificar los estándares de seguridad en los principales laboratorios de IA e instó a las empresas a conceder a evaluadores externos un "acceso continuo, similar al de un empleado" para supervisar su trabajo.techxplore+2

El llamamiento obtuvo un rápido apoyo de otros ejecutivos destacados. El CEO de OpenAI, Sam Altman, coincidió en la necesidad de ralentizar los avances en modelos de frontera, mientras que Elon Musk respaldó la postura de Amodei en una publicación en X, y el presidente de Google DeepMind Alphabet Inc. ↘ 0.38%, Demis Hassabis, también expresó su acuerdo. El coro de preocupación hizo caer las acciones relacionadas con la IA antes de la campana de apertura del lunes, afectando especialmente a las empresas de chips y memoria.nytimes+2

Europa traza su propio camino en IA

Por otra parte, el lunes, una coalición de economistas y antiguos responsables políticos, entre ellos el premio Nobel Philippe Aghion y la excomisaria europea Margrethe Vestager, publicó una Estrategia de IA Transformativa advirtiendo que Europa corre el riesgo de sufrir una "marginación permanente" sin una acción inmediata.ieu-monitoring

La estrategia pide a los Estados miembros de la UE que aspiren a una cuota del 15 por ciento de la capacidad mundial de centros de datos de IA para 2030, frente al 5 por ciento actual, lo que requeriría una inversión estimada de 1,3 billones de euros y 45 gigavatios adicionales de energía. Clemens Fuest, presidente del Instituto ifo y coautor del informe, señaló que los desarrolladores europeos de modelos de IA "generan juntos menos del 2% de los ingresos de solo dos competidores estadounidenses".ieu-monitoring

La regulación se encuentra con la urgencia

Las obligaciones para los sistemas de alto riesgo de la Ley de IA de la UE se hicieron exigibles el 2 de agosto de 2026, exigiendo a los proveedores completar evaluaciones de conformidad, registrar los sistemas en una base de datos de la UE y activar la vigilancia poscomercialización. Las empresas se enfrentan a multas de hasta 35 millones de euros o el 7 por ciento de su facturación anual global por incumplimiento.cloudsecurityalliance+1

Vestager, coautora de la nueva estrategia, definió el momento con crudeza: "No debemos permitir que Europa se convierta en un campo de juego para potencias extranjeras".ieu-monitoring