Google y Anthropic advierten que los hackers ya usan sistemas de ataque con IA autónoma

Los hackers vinculados a estados y las organizaciones cibercriminales están yendo más allá de la simple experimentación con IA para construir sistemas autónomos y agentes capaces de escanear objetivos, explotar vulnerabilidades y exfiltrar datos con una mínima supervisión humana, según un par de informes de inteligencia de amenazas publicados esta semana por Google Alphabet Inc. ↗ 0.78% y Anthropic.

El Rastreador de Amenazas de IA del tercer trimestre de 2026 del Grupo de Inteligencia de Amenazas de Google, publicado el 8 de septiembre, documenta un cambio desde el uso básico de prompts hacia marcos de trabajo de IA multiagente operativos en una amplia gama de adversarios. "A estas alturas, podemos asumir que todos los actores de amenazas están utilizando la IA en alguna capacidad, y sus operaciones se han visto beneficiadas", señaló John Hultquist, analista jefe de GTIG.cybersecuritydive+1

De los prompts a la autonomía

El informe de Google detalla varias campañas donde la IA se integró en todo el ciclo de vida del ataque. Un grupo de espionaje vinculado a China construyó una cadena de explotación asistida por IA utilizando una herramienta llamada CC Switch para operar múltiples modelos de lenguaje extensos, incluyendo Claude, Gemini y Codex, con el fin de crear scripts de explotación personalizados y señuelos de spear-phishing. Otro grupo vinculado a China, rastreado como Basin Castle, consultó a LLMs para perfilar objetivos de alto valor y escribir malware personalizado, mientras que un grupo vinculado a Irán, rastreado como Calanque Ion, utilizó IA generativa para reconocimiento, ingeniería social e ingeniería inversa de software.cybersecuritydive

Google también advirtió sobre campañas coordinadas de destilación de modelos, algunas superando los 100 millones de prompts, dirigidas a sus modelos de IA en un intento de extraer capacidades de razonamiento y procesos de cadena de pensamiento.cybersecuritydive

Anthropic documenta el uso indebido de Claude en el mundo real

El informe de inteligencia de amenazas de Anthropic, publicado el 10 de septiembre, ofreció una visión complementaria y más detallada. La empresa reveló que identificó y desbarató operaciones de presuntos grupos patrocinados por estados, criminales motivados financieramente y hacktivistas que hicieron un uso indebido de Claude entre diciembre de 2025 y agosto de 2026.anthropic+1

Entre los casos más detallados se encuentra GTG-20006, un actor que Anthropic vinculó al grupo ruso Midnight Blizzard, el cual utilizó Claude para automatizar la infraestructura de phishing, la reconfiguración de malware y la exfiltración de datos contra proveedores de tecnología de drones militares y gubernamentales de Ucrania. El flujo de trabajo impulsado por IA del actor podía reconstruir autónomamente el malware detectado hasta evadir los productos de seguridad. Anthropic también desbarató a afiliados del colectivo ShinyHunters, uno de los cuales descargó masivamente 1.8 millones de APKs de Android para recolectar credenciales codificadas y utilizó claves API de IA robadas para potenciar nuevas intrusiones.anthropic

Los defensores enfrentan una ecuación de costos invertida

Microsoft ↘ 0.99% se sumó a las revelaciones de la semana con una publicación en su blog el 10 de septiembre que documenta campañas que suplantan marcas de IA, incluyendo ChatGPT, Copilot, DeepSeek y Claude, para distribuir kits de phishing y malware, con una campaña temática de ChatGPT que envió hasta 100,000 correos electrónicos en un solo día.microsoft

Los hallazgos colectivos apuntan a un cambio estructural. Anthropic concluyó que la IA "ha invertido el coste hacia los defensores", permitiendo a los adversarios eludir las detecciones más rápido de lo que los equipos de seguridad pueden implementarlas. Como advirtió Hultquist, el desafío se profundizará "a medida que se aplique de forma agente, creando un adversario más rápido y a mayor escala".anthropic+1