Altman pide un organismo mundial de seguridad de IA liderado por EE. UU. en un artículo de opinión del FT

El CEO de OpenAI, Sam Altman, publicó un artículo de opinión en el Financial Times el 1 de julio titulado "Así es como podemos hacer que la IA sea segura para todos", proponiendo un marco internacional liderado por EE. UU. para establecer estándares globales de seguridad de la IA. El artículo argumenta que determinar los estándares de seguridad es "un requisito previo para la distribución amplia" de sistemas de IA avanzados, y pide a los representantes electos, no a los laboratorios de IA, que establezcan las reglas que rigen la tecnología.threads+2

Un impulso tras el G7

El artículo de opinión llega dos semanas después de que Altman se uniera a sus colegas ejecutivos de IA, Dario Amodei de Anthropic y Demis Hassabis de Google Alphabet Inc. ↘ 0.21% DeepMind, en la cumbre del G7 en Évian-les-Bains, Francia, donde el trío se sentó junto a los jefes de estado de las economías democráticas más grandes del mundo. En esa reunión, Altman advirtió a los líderes: "No cedan sus responsabilidades a laboratorios de IA como el mío", mientras que Hassabis pidió específicamente "un organismo de estándares liderado por EE. UU. que trabaje idealmente en estrecha cooperación con la comunidad democrática internacional".brookings+2

El concepto se hace eco de un organismo que Altman ha comparado anteriormente con el Organismo Internacional de Energía Atómica, una organización que coordinaría las pruebas de seguridad y las normas de gobernanza entre las naciones democráticas, al tiempo que podría involucrar a potencias rivales, incluida China. La Casa Blanca ha acelerado simultáneamente sus propios planes para los estándares de modelos de IA, según el Financial Times.kucoin+1

Convergencia de competencia y gobernanza

El impulso a la gobernanza se produce mientras los tres principales laboratorios de IA están inmersos en una competencia intensificada en cuanto a la capacidad de los modelos y la adopción empresarial. OpenAI también se está preparando para una oferta pública inicial, lo que añade incentivos financieros para buscar claridad regulatoria. Anthropic y Google DeepMind han respaldado ampliamente el mismo marco de coordinación internacional, aunque Amodei ha argumentado que la colaboración debería abarcar el acceso estructurado a modelos de frontera y el comercio de chips, excluyendo explícitamente a China de ciertos acuerdos.stocktwits+2

La cuestión de la aplicación

Los analistas de políticas han señalado que pedir estándares es solo el primer paso. Un análisis de la Brookings Institution publicado el 30 de junio argumentó que cualquier marco resultante debe ser ejecutable, no voluntario, estableciendo paralelismos con el Grupo de Acción Financiera Internacional y los estándares bancarios de Basilea III, los cuales surgieron de acciones previas del G7 y tuvieron consecuencias reales por el incumplimiento. El análisis instó a los gobiernos a ampliar cualquier proceso de estándares más allá de las preocupaciones técnicas para incluir "estándares de comportamiento" que aborden la competencia, la innovación y el interés público, con la participación de la sociedad civil junto a la industria.brookings