Anthropic afirma haber bloqueado el uso indebido de IA vinculado a la investigación de armas biológicas

Anthropic publicó el jueves su informe de inteligencia sobre amenazas más detallado hasta la fecha, revelando que sus modelos de IA fueron utilizados por piratas informáticos patrocinados por Estados, grupos delictivos e investigadores que realizaban trabajos relacionados con armas biológicas durante los últimos nueve meses, una revelación que subraya la rapidez con la que la IA está transformando el panorama tanto del cibercrimen como del riesgo para la bioseguridad.

El informe, titulado "Detecting and Countering Misuse of AI: September 2026" (Detección y neutralización del uso indebido de la IA: septiembre de 2026), abarca la actividad que el equipo de Inteligencia sobre Amenazas de la empresa interrumpió entre diciembre de 2025 y agosto de 2026 en siete categorías de daños, incluidas las ciberoperaciones, el uso indebido biológico, la vigilancia, las operaciones de influencia y el desarrollo de armas convencionales. Los modelos Claude Haiku, Sonnet y Opus fueron explotados, aunque la empresa señaló que ninguno de los casos afectó a sus modelos más recientes de la clase Claude Fable o Mythos.techxplore+1

Alerta por investigación de armas biológicas

Entre los hallazgos más alarmantes, Anthropic afirmó haber identificado intentos de utilizar Claude para investigaciones que podrían apoyar el desarrollo de armas biológicas. Un caso involucró a una plataforma que prestaba servicios a virólogos que realizaban investigaciones de ganancia de función sobre el virus del chikungunya, desviando las consultas a través de infraestructura estadounidense para evadir los bloqueos regionales y utilizando servicios de retención de datos cero para ocultar el contenido. Otro caso involucró a un investigador que accedió a Claude desde una región no admitida para planificar trabajos de adaptación a mamíferos de la gripe aviar altamente patógena. Un tercer caso involucró a alguien que redactaba una propuesta de subvención para la investigación de ortopoxvirus activos, la familia que incluye la viruela, en lo que Anthropic describió como un laboratorio asociado al Estado.theweek+1

"Desde hace tiempo preocupa que los modelos de IA puedan alcanzar algún día un nivel de capacidad que les permita ayudar a hacer más peligrosos los patógenos existentes, o a crear otros completamente nuevos", declaró la empresa. Anthropic afirmó que sus modelos más recientes incluyen ahora salvaguardas más estrictas que restringen el acceso a consultas de investigación biológica de doble uso.theweek

Las ciberoperaciones se vuelven más autónomas

El informe también documentó un cambio en la forma en que los actores de amenazas utilizan la IA para los ciberataques, describiendo una transición de la IA como asistente a la IA como orquestadora. En un caso, un actor vinculado al grupo Midnight Blizzard, relacionado con el Estado ruso, automatizó casi todas las etapas de las campañas de intrusión dirigidas contra organismos gubernamentales ucranianos, misiones diplomáticas europeas y cadenas de suministro de tecnología de drones. El actor utilizó Claude para crear infraestructuras de phishing, modificar malware para eludir la detección y exfiltrar cientos de gigabytes de datos robados.anthropic

Otro grupo independiente de atacantes con motivaciones financieras, vinculado al colectivo ShinyHunters, utilizó Claude para acelerar el robo masivo de datos, sustrayendo millones de registros de tarjetas de pago y datos de pasajeros de múltiples víctimas. Anthropic señaló que la IA ha "reducido la brecha de mano de obra y herramientas" entre las operaciones patrocinadas por Estados y los piratas informáticos individuales, lo que significa que los ataques sofisticados ya no requieren atacantes sofisticados.anthropic

El momento de la publicación genera escrutinio

La publicación del informe se produjo dos días después de que un investigador de Anthropic dimitiera públicamente, alegando que la empresa y sus competidores no estaban actuando de forma responsable con el desarrollo de la IA, según la BBC. "Es en casos como este donde necesitamos explorar la ética de la situación", afirmó Kishan R, investigador de IA afincado en Noida (India). "¿Cómo determinan empresas como Anthropic y xAI lo que constituye un uso seguro de sus modelos de IA? Esta es una cuestión democrática y no corporativa".bbc+1