Anthropic, OpenAI y Google debaten la creación de un organismo de seguridad para la IA

Los tres principales desarrolladores de inteligencia artificial de vanguardia, Anthropic, OpenAI y Google Alphabet Inc. ↗ 1.53% DeepMind, han mantenido conversaciones privadas sobre la formación de un organismo conjunto de estándares industriales para la IA, según un informe de The Information publicado el domingo. Las conversaciones han estado en marcha desde al menos julio, antes de que el CEO de Anthropic, Dario Amodei, hiciera un llamamiento público el sábado para que la industria ralentice el desarrollo de la IA.theinformation+1

Un impulso a los protocolos de seguridad compartidos

La organización propuesta establecería protocolos compartidos para pruebas técnicas y auditorías previas al lanzamiento de modelos de IA de vanguardia. Sam Altman, Demis Hassabis y Amodei han pedido públicamente una colaboración liderada por Estados Unidos en materia de estándares de seguridad de la IA, incluyendo foros internacionales para pruebas y análisis de riesgos.cryptobriefing+1

Los tres laboratorios aún discrepan en detalles clave. Anthropic se ha inclinado por la asociación con el gobierno, y su jefe de equipo rojo abogó públicamente en julio de 2026 por estándares desarrollados junto a organismos gubernamentales. OpenAI ha enfatizado las reglas industriales voluntarias, publicando una entrada de blog en septiembre comprometiéndose a promover estándares independientemente de la intervención gubernamental. Las discusiones se basan en una coordinación previa a través del Frontier Model Forum, un consorcio que también incluye a Microsoft ↗ 0.65%.aiweekly+1

El ensayo de Amodei prepara el terreno

El ensayo de aproximadamente 3.800 palabras de Amodei, publicado el sábado, proporcionó el telón de fondo público a las conversaciones privadas. Advirtió que la IA podría ser capaz en un plazo de seis a 12 meses de liderar enjambres automatizados que podrían "tomar el control de todo internet", entre otros riesgos. "Creo que si ralentizar nos comprara incluso un año o dos extra antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir enormemente el riesgo de que algo salga gravemente mal", escribió Amodei.latimes

Su plan de tres pasos exige integrar evaluadores independientes dentro de los laboratorios de IA, coordinar estándares de seguridad comunes entre empresas de países democráticos y buscar una coordinación global, incluso con gobiernos autoritarios. Anthropic ya se ha comprometido unilateralmente con el primer paso, ofreciendo a evaluadores externos escritorios en sus oficinas, tarjetas de acceso y portátiles de la empresa.techcrunch+2

La cuestión de China

El elemento más polémico de la propuesta puede ser la coordinación internacional. Amodei reconoció el domingo que China representa el "dilema más difícil": el riesgo de que ralentizar el desarrollo en EE. UU. simplemente otorgue una ventaja a competidores que no siguen las mismas reglas. El Índice de Seguridad de la IA del Future of Life Institute del verano de 2026 subrayó preocupaciones más amplias sobre el historial de seguridad de la industria, calificando a Anthropic como la mejor entre las tres empresas con una C+, seguida por OpenAI con una C y Google DeepMind con una C.cnbc+1