El costo energético oculto de los agentes de IA: 136 veces más que un chatbot común

¿Por qué los agentes consumen tanta energía?

A diferencia de un chatbot que responde en un solo paso, un agente de IA planifica, busca información, realiza cálculos, ejecuta código y itera a través de múltiples pasos para completar una tarea ^BP. Este proceso autónomo requiere que el modelo de lenguaje (LLM) sea invocado repetidamente.

• Frecuencia de llamadas al LLM: Los agentes llaman al LLM un promedio de 9,2 veces más que un chatbot tradicional ^HC. Mientras que un chatbot como ChatGPT utiliza el LLM una vez por pregunta, un agente puede usarlo un promedio de 71 veces ^M.
• Tiempo de respuesta: El tiempo que tarda un agente en dar una respuesta es hasta 153,7 veces mayor que el de un chatbot, debido a las múltiples rondas de razonamiento y toma de decisiones ^MBMP.
• Ineficiencia de hardware (GPU): El estudio reveló que las GPU (unidades de procesamiento gráfico) permanecen inactivas hasta el 54,5% del tiempo total de ejecución. Esto se debe a que, mientras el agente planifica y se conecta a herramientas externas, la GPU espera, desperdiciando energía sin realizar cálculos útiles ^HM.

El impacto global: un futuro energéticamente insostenible

El equipo de investigación del KAIST también proyectó el impacto a escala de centro de datos. Si en el futuro se manejaran 13.700 millones de solicitudes de agentes de IA al día (una cifra comparable a las búsquedas diarias actuales en Google), la demanda de electricidad de los centros de datos alcanzaría los 198,9 gigavatios (GW) ^N.

Para poner esta cifra en contexto:

• Es un nivel de consumo que supera con creces los proyectos actuales de centros de datos de IA, que son de varios GW.
• Equivale a aproximadamente la mitad del consumo total de electricidad de todo Estados Unidos ^N.

El estudio subraya que, si la adopción de agentes de IA se generaliza sin avances significativos en eficiencia, la carga sobre la infraestructura energética mundial será inmensa. Esto se suma a la tendencia ya conocida de que los centros de datos, que actualmente representan entre el 2,5 % y el 3,7 % de las emisiones globales de gases de efecto invernadero, verán aumentar su huella de carbono de forma dramática .

¿Hay margen para la eficiencia?

El estudio no es una sentencia definitiva, sino una llamada de atención. La cifra de 348,41 Wh se aplica a modelos de 70 mil millones de parámetros. Modelos más pequeños y eficientes, así como hardware especializado, podrían reducir este consumo ^BP. La investigación destaca la necesidad urgente de optimizar los flujos de trabajo de los agentes, reducir las llamadas innecesarias al LLM y mejorar la utilización de las GPU para que la próxima generación de IA no colapse la red eléctrica.