Studien mätte resursförbrukningen hos befintliga AI-agenter och fann en enorm skillnad. När man använde en stor språkmodell (LLM) med 70 miljarder parametrar – i nivå med dagens mest kapabla kommersiella tjänster – förbrukade en AI-agent i genomsnitt 348,41 wattimmar (Wh) per förfrågan. En traditionell generativ AI-chatbot som utförde samma enkla fråga-svar använde endast cirka 2,55 Wh. Det är en multiplikator på ungefär 136,5 till 136,6 gånger . Vissa engelskspråkiga rapporter avrundar detta till uppåt 137 gånger .
Till skillnad från en chatbot som svarar på en fråga i ett enda steg, planerar en AI-agent självständigt, söker information, beräknar, exekverar kod och itererar genom flera steg för att slutföra en uppgift. Varje steg kräver en separat LLM-inferens, vilket multiplicerar både beräkningskraft och energiförbrukning . AI-agenter anropar LLM:n i genomsnitt 9,2 gånger oftare än en traditionell steg-för-steg-process. Svarstiden ökade med upp till 153,7 gånger .
En annan viktig upptäckt är att GPU:er (grafikkort) är inaktiva under en betydande del av tiden när AI-agenter arbetar. Studien visade att GPU:n var overksam i upp till 54,5 % av den totala exekveringstiden, eftersom agenten måste vänta på svar från externa verktyg eller databaser . Detta innebär en enorm ineffektivitet i dagens hårdvaruanvändning.
Forskarna varnar för att om AI-agenter blir utbredda utan effektivitetsförbättringar kan elbehovet i datacenter skjuta i höjden . I ett scenario där 13,7 miljarder AI-agentförfrågningar sker per dag – motsvarande dagens antal Google-sökningar – skulle datacenters elbehov uppgå till cirka 198,9 gigawatt (GW). Det är mer än vad många länders AI-datacenterprojekt klarar av och motsvarar ungefär hälften av USA:s totala genomsnittliga elförbrukning .
Samtidigt som AI-agenter kan förbättra noggrannheten och utföra komplexa uppgifter, visar studien att de lider av snabbt avtagande avkastning och ohållbara infrastrukturkostnader . Detta understryker behovet av energieffektivare algoritmer och hårdvara för att möta framtidens AI-behov på ett hållbart sätt.
Studien mätte resursförbrukningen hos befintliga AI-agenter och fann en enorm skillnad. När man använde en stor språkmodell (LLM) med 70 miljarder parametrar – i nivå med dagens mest kapabla kommersiella tjänster – förbrukade en AI-agent i genomsnitt 348,41 wattimmar (Wh) per förfrågan. En traditionell generativ AI-chatbot som utförde samma enkla fråga-svar använde endast cirka 2,55 Wh. Det är en multiplikator på ungefär 136,5 till 136,6 gånger . Vissa engelskspråkiga rapporter avrundar detta till uppåt 137 gånger .
Till skillnad från en chatbot som svarar på en fråga i ett enda steg, planerar en AI-agent självständigt, söker information, beräknar, exekverar kod och itererar genom flera steg för att slutföra en uppgift. Varje steg kräver en separat LLM-inferens, vilket multiplicerar både beräkningskraft och energiförbrukning . AI-agenter anropar LLM:n i genomsnitt 9,2 gånger oftare än en traditionell steg-för-steg-process. Svarstiden ökade med upp till 153,7 gånger .
En annan viktig upptäckt är att GPU:er (grafikkort) är inaktiva under en betydande del av tiden när AI-agenter arbetar. Studien visade att GPU:n var overksam i upp till 54,5 % av den totala exekveringstiden, eftersom agenten måste vänta på svar från externa verktyg eller databaser . Detta innebär en enorm ineffektivitet i dagens hårdvaruanvändning.
Forskarna varnar för att om AI-agenter blir utbredda utan effektivitetsförbättringar kan elbehovet i datacenter skjuta i höjden . I ett scenario där 13,7 miljarder AI-agentförfrågningar sker per dag – motsvarande dagens antal Google-sökningar – skulle datacenters elbehov uppgå till cirka 198,9 gigawatt (GW). Det är mer än vad många länders AI-datacenterprojekt klarar av och motsvarar ungefär hälften av USA:s totala genomsnittliga elförbrukning .
Samtidigt som AI-agenter kan förbättra noggrannheten och utföra komplexa uppgifter, visar studien att de lider av snabbt avtagande avkastning och ohållbara infrastrukturkostnader . Detta understryker behovet av energieffektivare algoritmer och hårdvara för att möta framtidens AI-behov på ett hållbart sätt.