Estudio del KAIST: los agentes de IA consumen 136,5 veces más energía que los chatbots

Un estudio pionero del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) ha cuantificado el coste energético de los agentes de IA, descubriendo que estos sistemas autónomos consumen hasta 136,5 veces más electricidad por consulta que los chatbots de IA generativa convencionales; una brecha que, según advierten los investigadores, podría sobrecargar las redes eléctricas mundiales a medida que la IA basada en agentes se generalice.

La brecha energética

El estudio, dirigido por el profesor del KAIST Rhu Min-soo y publicado durante el fin de semana, midió el consumo eléctrico de los agentes de IA, sistemas que van más allá de responder a una sola pregunta para planificar y ejecutar de forma independiente tareas de varios pasos, como gestionar un presupuesto o reservar un viaje. A diferencia de un chatbot estándar, que procesa una consulta y se detiene, un agente de IA repite continuamente su modelo de lenguaje subyacente, buscando en la web, realizando cálculos y emitiendo comandos por sí mismo.koreatimes+1

Esa autonomía conlleva un alto coste. Utilizando un modelo de lenguaje extenso de 70.000 millones de parámetros —comparable a los servicios de IA comerciales actuales—, los investigadores descubrieron que una sola consulta compleja de un agente consumía una media de 348,41 vatios-hora de electricidad. En las pruebas de referencia, el marco de trabajo de agentes conocido como Reflexion en Llama-3.1-Instruct 70B de Meta consumió 136,5 veces más energía de GPU por consulta que un chatbot estándar de una sola respuesta, mientras que otro marco de trabajo llamado LATS utilizó 62,1 veces más.letsdatascience+2

Los investigadores también descubrieron que las consultas de los agentes tardan hasta 153,7 veces más en generarse que las respuestas de los chatbots, y que los costosos chips de GPU permanecen inactivos más de la mitad del tiempo, consumiendo electricidad mientras esperan a que respondan las herramientas y sitios web externos.koreatimes

Una red eléctrica bajo presión

La proyección más alarmante del estudio se refiere a la escala. Si el uso de agentes de IA crece hasta una cifra estimada de 13.700 millones de solicitudes diarias en todo el mundo, la demanda total de energía de los centros de datos podría alcanzar aproximadamente 199 gigavatios, cerca de la mitad del consumo eléctrico medio de todo Estados Unidos.aintelligencehub+1

Esa cifra empequeñece las cargas actuales de los centros de datos. Los centros de datos de EE. UU. consumieron unos 176 teravatios-hora en 2023, aproximadamente el 4,4 por ciento del consumo eléctrico nacional, según el Laboratorio Nacional Lawrence Berkeley. La Agencia Internacional de la Energía proyecta que el consumo eléctrico mundial de los centros de datos se duplicará con creces hasta alcanzar unos 945 teravatios-hora en 2030, pero el estudio del KAIST sugiere que las cargas de trabajo de la IA de agentes podrían acelerar la demanda mucho más allá de esas previsiones.iea+1

Un llamamiento al rediseño

Rhu advirtió que la industria tecnológica no puede confiar únicamente en un software más inteligente para resolver el problema. En su lugar, pidió un rediseño integral de los modelos de IA, los microchips y la infraestructura energética de los centros de datos para gestionar la carga de trabajo que impondrá la IA de agentes. El estudio llega en un momento en que las principales empresas tecnológicas se apresuran a desplegar agentes de IA en aplicaciones empresariales y de consumo, lo que plantea nuevas dudas sobre si la red eléctrica podrá seguir el ritmo de la ambición de la IA.koreatimes