O custo energético oculto dos agentes de IA: 137 vezes mais que um chatbot comum

Por que os agentes consomem tanto?

Diferentemente de um chatbot, que responde a uma pergunta em uma única etapa, um agente de IA opera de forma muito mais complexa. Ele planeja, busca informações, executa cálculos, escreve e roda códigos, e itera através de múltiplas etapas para completar uma tarefa. Cada uma dessas etapas exige uma nova chamada ao modelo de linguagem (LLM). A pesquisa revelou que, em média, os agentes fazem 9,2 vezes mais chamadas ao LLM do que um chatbot tradicional . Em alguns casos, essa frequência pode chegar a 71 chamadas por tarefa .

Isso não só aumenta o consumo de energia, mas também dispara o tempo de resposta. O estudo descobriu que o tempo para o agente concluir uma tarefa pode ser até 153,7 vezes maior do que o de um chatbot .

O problema da GPU ociosa

Um dos achados mais reveladores do estudo é a ineficiência no uso do hardware. Como os agentes precisam usar ferramentas externas e esperar por respostas em cada etapa do seu raciocínio, as GPUs (unidades de processamento gráfico, essenciais para a IA) ficam paradas, sem realizar nenhum cálculo, por um período significativo. A pesquisa mostrou que esse tempo ocioso das GPUs pode chegar a 54,5% do tempo total de execução de uma tarefa . Na prática, isso significa que mais da metade do tempo em que um hardware caro e potente está ligado, ele não está produzindo nada, apenas consumindo energia.

Impacto nos data centers: um alerta para o futuro

A equipe do KAIST também projetou o impacto em larga escala. Considerando um cenário hipotético em que 13,7 bilhões de requisições a agentes de IA sejam feitas por dia (número equivalente às buscas diárias no Google), a demanda de energia dos data centers necessários para processá-las seria de aproximadamente 198,9 gigawatts (GW) .

Para dar uma dimensão do que isso significa: esse número é comparável a cerca de metade de todo o consumo de eletricidade dos Estados Unidos . Ele supera em muito a escala dos projetos de data centers de IA que atualmente estão sendo planejados em todo o mundo, que são da ordem de alguns GW .

Os pesquisadores alertam que, se os agentes de IA se tornarem amplamente populares sem ganhos significativos de eficiência energética, a pressão sobre a infraestrutura elétrica global será imensa, com sérias implicações para as metas climáticas e os custos de energia .