Altman y Amodei informarán al Consejo de Seguridad de la ONU sobre IA este miércoles

Los CEOs de Anthropic, Dario Amodei, y de OpenAI, Sam Altman, informarán este miércoles al Consejo de Seguridad de las Naciones Unidas en una sesión dedicada al futuro de la inteligencia artificial, mientras la tecnología domina los debates en la Asamblea General de la ONU en Nueva York.

Una sesión de alto nivel

La reunión, organizada por Francia, que ocupa la presidencia rotatoria del consejo de 15 miembros, contará también con las intervenciones de Yoshua Bengio, copresidente del panel de IA de la ONU, y del CEO de Hugging Face, Clément Delangue, según Bloomberg. Se espera que Amodei participe de forma remota. Un portavoz de OpenAI confirmó a Reuters que los comentarios de Altman se centrarán en "los pasos que OpenAI está dando para garantizar que la IA sea segura y beneficie a las personas a nivel mundial, junto con la necesidad de coordinación internacional y estándares de seguridad compartidos".thenextweb+3

Esta es la segunda vez que el Consejo de Seguridad aborda la IA desde su primera discusión en julio de 2023, cuando China advirtió que no debía convertirse en un "caballo desbocado". Según una nota conceptual francesa, la reunión tratará sobre el uso malicioso de la IA y el riesgo de perder el control de modelos avanzados.ctvnews+1

Cooperación, competencia y tensión antimonopolio

La sesión se produce en medio de un intenso debate sobre cómo los laboratorios rivales deben colaborar en seguridad. The Information informó el 21 de septiembre que OpenAI y Anthropic negociaron un acuerdo vinculante este año para evaluar mutuamente las vulnerabilidades de sus modelos. Según los términos preliminares, cada empresa accedería a las API comerciales de la otra sin retener datos.news.sbs+1

Este impulso cooperativo ha atraído el escrutinio legal. El 12 de septiembre, Amodei publicó un ensayo instando a las empresas a reducir el ritmo de desarrollo y pidiendo evaluadores independientes. Tras el respaldo de Altman y Elon Musk, el 19 de septiembre se presentó una demanda colectiva antimonopolio en California, alegando que Anthropic, OpenAI, SpaceXAI y Google de Alphabet ↘ 3.58% violaron la Ley Sherman al coordinarse para limitar el progreso de la IA.apnews+2

Trump cambia la marca de la IA en la Asamblea General

Horas antes de la sesión, el presidente Trump utilizó su discurso del martes ante la Asamblea General para declarar que Estados Unidos reemplazará "inteligencia artificial" por "superinteligencia" en todos los documentos oficiales. "El uso de la palabra artificial hace que la inteligencia suene falsa", dijo Trump. "No es falsa. Es realmente asombrosa". Trump también rechazó los esfuerzos internacionales de regulación, afirmando que no "sofocará el crecimiento de algo que será más grande que la revolución industrial".breitbart+1

Estos eventos subrayan la creciente brecha entre la postura desreguladora de Washington y la presión de los ejecutivos de IA y gobiernos aliados por establecer salvaguardas de seguridad coordinadas.