Anthropic bloquea intentos de usar su IA para investigar armas biológicas

Anthropic publicó el jueves un informe de inteligencia de 154 páginas revelando que interrumpió cinco casos en los que científicos utilizaron sus modelos de IA Claude para investigaciones biológicas que podrían apoyar el desarrollo de armas, además de ciberataques, operaciones de vigilancia y trabajos con armas convencionales vinculados a Rusia, China, Irán y Yemen.yahoo+1

El informe, que cubre actividades detectadas entre diciembre de 2025 y agosto de 2026, representa lo que el Washington Examiner describió como la primera admisión conocida en la industria de la IA de que el desarrollo de armas biológicas se solapa con el uso indebido de la inteligencia artificial. Anthropic señaló que no pudo determinar si los investigadores tenían intenciones maliciosas, pero decidió actuar porque las posibles consecuencias eran demasiado graves para ignorarlas.nytimes+1

Ciencia de doble uso y un laboratorio militar

El caso más detallado involucró a un científico que en mayo buscó la ayuda de Claude para redactar una solicitud de subvención para una investigación de ganancia de función sobre el virus chikungunya, un patógeno transmitido por mosquitos que causa dolor articular prolongado. El trabajo propuesto tenía como objetivo diseñar mutaciones para hacer el virus más dañino mediante la infección repetida de animales vivos, y estaba destinado a realizarse en un instituto de investigación militar. Un segundo caso involucró semanas de planificación asistida por Claude para experimentos sobre gripe aviar altamente patógena centrados en la adaptación a mamíferos. Tres casos adicionales involucraron ortopoxvirus, compuestos relacionados con venenos y toxinas.interestingengineering+2

Jacob Klein, jefe de inteligencia de amenazas de Anthropic, dijo a The New York Times que la detección es inherentemente difícil. "No ves a alguien al estilo de un cómic diciendo: 'Oye, quiero construir un arma biológica para matar a todos'", afirmó. "Es una situación increíblemente matizada".nytimes

Anthropic señaló que los modelos anteriores de Claude mostraban una capacidad limitada para ayudar en investigaciones biológicas sofisticadas, pero los sistemas actuales pueden completar tareas científicas complejas, un cambio que, según la empresa, altera su cálculo de riesgos.yahoo

Actores vinculados a estados en múltiples dominios

Más allá de las amenazas biológicas, el informe documenta a un grupo de espionaje ruso sospechoso de usar Claude para automatizar ciberataques contra objetivos gubernamentales ucranianos y organizaciones diplomáticas europeas. Actores alineados con los gobiernos de China e Irán utilizaron Claude para vigilar a comunidades de la diáspora y disidentes. Anthropic también identificó seis casos de desarrollo de armas convencionales, incluida una célula con base en Yemen que realizó una prueba de disparo de un cohete guiado y volvió a Claude horas después para analizar por qué falló.qz+1

Alarma en la industria

Andrew Weber, ex subsecretario de Defensa de EE. UU. que revisó el informe antes de su publicación, calificó los hallazgos como "ejemplos escalofriantes de desarrolladores de armas biológicas patrocinados por estados que aprovechan las capacidades en rápido avance" de los modelos de IA líderes. Instó a que se niegue a Rusia, China y Corea del Norte el acceso a los sistemas más capaces.yahoo+1

Anthropic bloqueó todas las cuentas vinculadas a la actividad identificada, desmanteló redes de retransmisión utilizadas para eludir los controles de acceso regionales y compartió sus hallazgos con gobiernos y otras empresas de IA. La compañía también reveló que los filtros de riesgo biológico se desactivaron inadvertidamente en el tráfico de contratistas desde mayo de 2025 hasta abril de 2026, exponiendo aproximadamente 133 millones de intercambios, aunque una revisión retrospectiva no encontró evidencia de un avance confirmado en armas biológicas debido a esta brecha.interestingengineering+2