Un informe falso generado por IA casi provoca un conflicto militar entre EE. UU. y China

El ejército de EE. UU. estuvo peligrosamente cerca de una confrontación con China esta primavera después de que un chatbot de inteligencia artificial produjera un informe de inteligencia falso que afirmaba que un buque chino en Oriente Medio transportaba componentes de armas nucleares, informó CNN el viernes en una investigación exclusiva.cnn

Personal militar armado se preparaba para abordar el barco y aviones militares ya estaban en el aire antes de que los funcionarios revisaran el informe y descubrieran que la evaluación generada por IA era, en palabras de una fuente, "completamente errónea" y que "casi inició una guerra".mezha+1

Cómo la IA produjo una conclusión falsa

El incidente comenzó cuando un analista del comando de operaciones especiales subió inteligencia sobre el manifiesto del barco a un chatbot de IA. La información había sido obtenida por el Comando de Operaciones Especiales del Pacífico de EE. UU., con sede en Hawái. El chatbot combinó inteligencia de fuentes abiertas con inteligencia de señales clasificada de bases de datos gubernamentales y llegó a una conclusión incorrecta sobre la carga del buque.mezha+1

El analista utilizó luego la IA para dar formato a los hallazgos en lo que parecía ser un informe de inteligencia estándar, el tipo de documento en el que los funcionarios militares suelen confiar sin cuestionar, y lo distribuyó a través de canales militares. CNN no pudo determinar qué transportaba realmente el barco.cnn

"Muchas de las herramientas internas son simplemente adaptaciones de software comercial, disfrazadas para uso militar", dijo a CNN un ex alto funcionario familiarizado con los sistemas de IA utilizados por el ejército.mezha+1

Creciente dependencia, creciente riesgo

El incidente ocurre mientras el Pentágono acelera la adopción de IA en todas sus operaciones de defensa. En enero, el Secretario de Defensa, Pete Hegseth, presentó la "Estrategia de Aceleración de Inteligencia Artificial" del departamento, destinada a poner herramientas de IA a disposición de aproximadamente tres millones de empleados civiles y militares en todos los niveles de clasificación.investing+1

Sin embargo, el esfuerzo sigue fragmentado, según varios funcionarios estadounidenses. Diferentes sectores del gobierno emplean diversas herramientas bajo protocolos de seguridad distintos, sin un estándar unificado para verificar la información generada por IA.cnn+1

Fuentes dijeron a CNN que el ejército utiliza cada vez más la IA en decisiones de objetivos, lo que aumenta el riesgo de ataques erróneos, bajas civiles e incidentes de fuego amigo, incluso cuando un humano conserva formalmente la autoridad final.mezha+1

Una advertencia desde dentro

El tipo de "alucinación" de IA que casi desencadena el incidente con China no ha sido un hecho aislado dentro de la comunidad de inteligencia desde que estas herramientas comenzaron a proliferar, según una fuente. Los analistas más jóvenes, que se sienten más cómodos con las herramientas de IA, pueden estar especialmente inclinados a aceptar sus resultados sin espíritu crítico, señalaron las fuentes.cnn

"La IA te permite llegar a una conclusión pobre más rápidamente", comentó una fuente.mezha+1