El CEO de Anthropic pide frenar la IA tras revelarse el uso indebido de Claude

Anthropic publicó el 10 de septiembre un informe de inteligencia de amenazas de 154 páginas que detalla cómo adversarios explotaron sus modelos de IA Claude para la guerra con drones, investigación de armas biológicas, ciberespionaje, vigilancia y fraude durante un periodo de ocho meses, hallazgos que precedieron directamente al llamado del CEO Dario Amodei el sábado para que la industria de la IA reduzca su velocidad.anthropic+1

De drones kamikaze a armas biológicas

El informe, que cubre actividades interrumpidas entre diciembre de 2025 y agosto de 2026, documenta a un equipo independiente ruso que utilizó Claude Code para desarrollar software para un enjambre de drones kamikaze en primera persona capaces de seleccionar objetivos humanos y emitir comandos de detonación sin supervisión humana. Anthropic rastreó al grupo, que llamó a su proyecto DronDoc, hasta nueve cuentas vinculadas a una universidad regional rusa. El equipo afirmó recibir financiación de la Fundación de Investigación Avanzada de Rusia, aunque Anthropic no pudo verificarlo.dronexl

Entre los casos más alarmantes: una operación vinculada a Irán utilizó Claude para crear manuales de objetivos que rastrean a las fuerzas navales de EE. UU., una célula de armas en el norte de Yemen utilizó Claude Code para desarrollar software de guía de misiles, y un actor vinculado a China utilizó el modelo para identificar y atacar a uigures en grupos de WhatsApp y Telegram. Un consultor en Mali construyó un sistema de vigilancia telefónica nacional capaz de monitorear 25 millones de tarjetas SIM.axios

Anthropic también bloqueó cinco casos de uso indebido biológico, incluidos investigadores con una subvención estatal que intentaron alterar un virus transmitido por mosquitos para que se propagara más fácilmente. Cuando Claude rechazó las solicitudes más sensibles, los investigadores las redirigieron a un modelo rival con salvaguardas más débiles.npr+1

Un llamado a reducir la velocidad

Todos los casos de uso indebido involucraron los modelos Haiku, Sonnet o Opus de Claude, ninguno involucró sus sistemas más nuevos de clase Fable o Mythos. El informe también reveló que siete laboratorios con sede en China, incluidos Alibaba, Moonshot y DeepSeek, ejecutaron campañas de destilación contra Claude, siendo el de Alibaba ↗ 0.68% descrito como "el ataque de destilación más grande que hemos medido jamás".zmina+2

Los hallazgos llegaron mientras Amodei publicaba un ensayo el sábado titulado "Debemos marcar el ritmo de la frontera", pidiendo a las empresas de IA que frenen de inmediato el desarrollo de capacidades. "Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA", escribió, comprometiéndose a que Anthropic lo haría "unilateralmente" e instando a los gobiernos "a exigir que otras empresas líderes cumplan".politico+2

Washington responde

Las revelaciones han intensificado la presión en Washington. Un grupo bipartidista de legisladores de la Cámara de Representantes insta al presidente Mike Johnson a cancelar el receso hasta que el Congreso actúe sobre la seguridad de la IA, mientras que el senador Bernie Sanders ha pedido prohibir directamente la superinteligencia. NPR informó que Anthropic compartió sus hallazgos con las autoridades y socios de la industria. La sección de tendencias del informe advierte que las capacidades que describe "deben asumirse como disponibles para cualquier actor motivado".axios+2