Irán y China despliegan agentes de IA autónomos para campañas de influencia

Irán, China y empresas privadas israelíes han comenzado a desplegar agentes autónomos de inteligencia artificial para ejecutar campañas de influencia en redes sociales con una supervisión humana mínima, según una investigación del New York Times publicada el viernes. Las operaciones marcan uno de los primeros casos conocidos en los que la IA gestionó casi cada paso de una campaña de influencia, desde la creación de cuentas falsas hasta la publicación de contenido y la interacción con usuarios reales.nytimes

Agentes de IA reemplazan a operadores humanos

Cientos de agentes de IA, construidos sobre modelos chinos de código abierto, fueron utilizados para abrir cuentas falsas en Instagram de Meta Platforms, Inc. ↘ 2.43%, Facebook, X y TikTok, llenándolas con contenido políticamente cargado, informó el Times. Funcionarios estadounidenses e investigadores de ciberseguridad dijeron al periódico que la campaña iraní fue la más alarmante: cuentas generadas por IA se hicieron pasar por estadounidenses comunes en ciudades importantes, etiquetaron a políticos y periodistas, y difundieron memes y contenido contra el Partido Republicano. Casi 80.000 usuarios siguieron cuentas vinculadas a la red iraní durante la primera mitad de 2026.ynetnews+2

En varios casos, los operadores desactivaron las salvaguardas diseñadas para evitar que los sistemas de IA crearan cuentas engañosas. A diferencia de los esfuerzos de influencia anteriores que utilizaban la IA simplemente para generar imágenes o texto, estas campañas dependieron de la IA para crear personajes, seleccionar temas, publicar material y responder a otros usuarios de forma autónoma.emirates247+1

Empresa israelí admite controlar 1.000 cuentas falsas

La investigación también identificó a dos empresas privadas israelíes que ejecutan operaciones similares. IntelEye, una firma con sede en Tel Aviv fundada por ex empleados de NSO Group, reconoció haber comprado 10.000 cuentas de redes sociales y utilizar el modelo chino DeepSeek para controlar cerca de 1.000 de ellas, según el cofundador Maor Sellek. Las cuentas participaron en discusiones políticas israelíes y publicaron contenido tanto a favor como en contra del primer ministro Benjamin Netanyahu.ynetnews

Sellek dijo al Times que la actividad fue un experimento de investigación defensiva y no una campaña de influencia, aunque reconoció que IntelEye debería haber informado a las plataformas de redes sociales. Meta calificó la actividad como un intento coordinado de crear cuentas no auténticas en varias plataformas y señaló que sus sistemas automatizados ya habían eliminado la mayoría de las cuentas.ynetnews

Una nueva y peligrosa frontera

Los investigadores de seguridad destacaron que, si bien las campañas siguen siendo relativamente rudimentarias, la trayectoria es clara. Kyle Crichton, investigador del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown, dijo al Times que los agentes de IA pueden mezclarse y parecer más un usuario humano, lo que plantea riesgos más allá de la simple escala. El uso de modelos de código abierto es una preocupación particular porque pueden descargarse, modificarse y ejecutarse de forma privada, sin que ninguna empresa externa pueda intervenir una vez que se eliminan las salvaguardas.emirates247+1

Funcionarios estadounidenses señalaron que las capacidades emergentes han aumentado la preocupación ante las elecciones legislativas de noviembre.ynetnews