DeepSeek informará al Consejo de Seguridad de la ONU sobre los riesgos de la IA

La startup china de inteligencia artificial DeepSeek estará entre las empresas que informarán al Consejo de Seguridad de las Naciones Unidas sobre los riesgos que plantea la IA, informó Reuters el martes, en una inusual comparecencia de una firma tecnológica china ante uno de los foros más destacados del mundo para la seguridad internacional.reuters

El Consejo de Seguridad, compuesto por 15 miembros, se reunirá el miércoles 23 de septiembre para debatir sobre la IA y la seguridad internacional, mientras los líderes mundiales se reúnen en Nueva York para la Asamblea General anual de la ONU. El CEO de OpenAI, Sam Altman, planea informar en la reunión, donde los diplomáticos también esperan la participación de altos representantes de Anthropic. DeepSeek y otras empresas chinas de IA, incluida Moonshot, han sido invitadas a realizar declaraciones, aunque el fundador de DeepSeek, Liang Wenfeng, no planea asistir, según una fuente que advirtió que los planes siguen siendo fluidos.cnn+1

El debate sobre la ralentización de la IA divide a Washington y Pekín

La reunión se produce semanas después de que varios líderes de la industria de la IA pidieran una ralentización coordinada en el desarrollo de sistemas cada vez más potentes, advirtiendo que pronto podrían mejorar por sí mismos y escapar al control humano. El Secretario General de la ONU, Antonio Guterres, advirtió la semana pasada a los líderes mundiales que la IA de rápido avance plantea riesgos que no pueden ignorarse, lo que lo pone en desacuerdo con el presidente Donald Trump, quien ha argumentado que las salvaguardas existentes son suficientes.straitstimes+1

Los medios estatales chinos han descartado los llamamientos a una ralentización de la IA por considerarlos derivados de un "manual de la Guerra Fría" destinado a preservar el dominio de Washington en tecnología de vanguardia. A diferencia de los líderes de los laboratorios estadounidenses, los jefes de los principales desarrolladores de modelos de China rara vez han articulado públicamente la posibilidad de que sistemas de IA cada vez más capaces puedan engañar a los humanos o evadir el control.reuters

Las conversaciones sobre seguridad en IA entre EE. UU. y China cobran impulso

La sesión del Consejo de Seguridad llega en medio de una actividad diplomática más amplia sobre la IA. Altos funcionarios estadounidenses y chinos acordaron mantener más conversaciones sobre la seguridad de la IA, dijo el domingo el Secretario del Tesoro, Scott Bessent, tras reunirse con el viceprimer ministro chino, He Lifeng, en Nueva York. Bessent señaló que Washington había propuesto un mecanismo de notificación para incidentes de IA lo suficientemente graves como para plantear preocupaciones de seguridad nacional.bbc

La administración Trump también está convocando un evento de alto nivel por separado sobre IA al margen de la Asamblea General el miércoles, según CNN. Tanto la reunión del Consejo de Seguridad como el evento organizado por EE. UU. sirven como preludio a la reunión programada entre Trump y el presidente chino, Xi Jinping, a finales de esta semana en Washington, donde se espera que la IA sea un tema central.thehill+1

El Consejo de Seguridad se reunió por primera vez sobre los riesgos de la IA en 2023, cuando China advirtió que la tecnología no debería convertirse en un "caballo desbocado" y EE. UU. advirtió contra su uso para censurar o reprimir a las personas.reuters