El CEO de OpenAI, Sam Altman, informará al Consejo de Seguridad de la ONU sobre los riesgos de la IA

OpenAI publicó el lunes una propuesta instando a Estados Unidos a encabezar un esfuerzo internacional para desarrollar estándares técnicos y de seguridad globales para la IA avanzada, advirtiendo que la inacción podría dejar al país observando cómo "un sistema fragmentado, desigual y lleno de conflictos se consolida a su alrededor".thenextweb+1

La propuesta, que se centra en modelos de IA de frontera y en la auto-mejora recursiva —un proceso en el que los sistemas de IA asumen una responsabilidad creciente en el desarrollo de sus sucesores— llega durante una semana de intensa diplomacia sobre IA en las Naciones Unidas y entre Washington y Pekín.

Estándares, no licencias

El plan de OpenAI solicita marcos comunes para medir las capacidades de la IA, evaluar el nivel de investigación autónoma dentro de las empresas y establecer protocolos compartidos de notificación de incidentes con niveles de gravedad comunes. La empresa propuso canalizar este esfuerzo a través del Centro de Estándares e Innovación de IA del Departamento de Comercio de EE. UU. y la creciente red de institutos nacionales de seguridad de IA en países como el Reino Unido, Japón, Francia y Canadá.dig+1

La compañía enfatizó que los estándares "no serían licencias, revisiones previas obligatorias ni requisitos de aprobación para los modelos de IA", dejando que cada gobierno decida cómo incorporarlos a su legislación nacional. OpenAI también pidió canales de comunicación seguros entre gobiernos y operadores de infraestructura crítica para compartir amenazas emergentes, y señaló que un diálogo entre Estados Unidos y China "sería un paso positivo".thenextweb+2

"La RSI totalmente autónoma no existe hoy en día, y no deberíamos buscarla a menos y hasta que pueda hacerse de forma segura", escribió la empresa.thenextweb

Una semana intensa para la diplomacia de la IA

La propuesta llega en medio de una intensa actividad. El secretario del Tesoro, Scott Bessent, dijo durante el fin de semana que EE. UU. y China acordaron crear un diálogo bilateral sobre IA, y Washington propuso a Pekín un mecanismo de notificación de incidentes de IA. El lunes, el presidente Donald Trump escribió en Truth Social que favorece una regulación ligera de la IA, añadiendo: "¡Quien gane la IA, GANA!". Por otro lado, Bessent afirmó que la administración no otorgará protección contra responsabilidad civil a los laboratorios de IA de frontera.foxbaltimore+1

El martes, en la Asamblea General de la ONU, el secretario general António Guterres advirtió sobre los peligros de la IA y pidió cooperación global. Trump, hablando poco después, descartó la idea como un "esquema globalista" y dijo que EE. UU. estaba renombrando la IA como "superinteligencia", según Bloomberg.thenextweb

Altman se dirige al Consejo de Seguridad

Sam Altman informará al Consejo de Seguridad de la ONU el miércoles por la tarde junto al CEO de Anthropic, Dario Amodei, el investigador de IA Yoshua Bengio y el CEO de Hugging Face, Clément Delangue; es la primera sesión del consejo centrada en los riesgos de seguridad de la IA cada vez más capaz. Representantes de OpenAI dijeron que Altman se posicionará como un "centrista pragmático", promoviendo estándares de seguridad compartidos sin concentrar el poder en unas pocas empresas.thenextweb

Más adelante esta semana, Altman asistirá a una cena de Estado en la Casa Blanca para el presidente chino Xi Jinping, lo que subraya cuán central se ha vuelto la IA en las relaciones entre EE. UU. y China.foxbaltimore+1