AI-agenter bruker 137 ganger mer strøm enn chatbots: KAIST-studie avslører enormt energigap

Hvorfor AI-agenter er så mye mer strømkrevende

I motsetning til en chatbot som svarer på ett spørsmål i én omgang, planlegger en AI-agent autonomt, søker, beregner, kjører kode og itererer gjennom flere trinn for å fullføre en oppgave. Hvert trinn krever en egen LLM-beregning, noe som multipliserer både datakraft og energiforbruk ^BP. Studien viste at AI-agenter i gjennomsnitt kaller på LLM-modellen 9,2 ganger oftere enn tradisjonelle metoder ^HC.

Ineffektiv maskinvarebruk

En nøkkelfaktor er at GPU-ene (grafikkprosessorene) som kjører AI-agentene, står uvirksomme i lange perioder. Studien fant at GPU-ene var i tomgang opptil 54,5 % av den totale utførelsestiden fordi de må vente på resultater fra eksterne verktøy og planleggingssteg ^HM. Dette er en betydelig ineffektivitet.

Hva betyr dette for fremtidens strømforbruk?

Forskerne ekstrapolerte energiforbruket til datasenternivå. Dersom man antar en fremtid der det kommer 13,7 milliarder AI-agent-forespørsler per dag (sammenlignbart med dagens antall Google-søk), estimeres datasentrenes strømbehov til omtrent 198,9 gigawatt (GW) ^N. Til sammenligning: Det er omtrent halvparten av USAs totale gjennomsnittlige strømforbruk ^N.

Studien understreker at mens AI-agenter gir økt nøyaktighet og kan løse mer komplekse oppgaver, kommer dette med en enorm energipris. Forfatterne advarer om at uten betydelige effektivitetsforbedringer, kan den utbredte bruken av AI-agenter føre til en kraftig økning i datasentrenes strømforbruk og tilhørende CO2-utslipp ^BP.