De studie heeft het energieverbruik van bestaande AI-agents gemeten en vond een schril contrast. Bij gebruik van een groot taalmodel (LLM) met 70 miljard parameters — de schaal van de meest capabele commerciële diensten van vandaag — verbruikte een AI-agent gemiddeld 348,41 wattuur (Wh) per query. Een traditionele generatieve AI-chatbot die dezelfde eenmalige vraag beantwoordde, gebruikte slechts ongeveer 2,55 Wh. Dat is een factor van ruwweg 136,5 tot 136,6 keer . Sommige Engelstalige berichten ronden dit af naar 137 keer .
In tegenstelling tot een chatbot die een vraag in één keer beantwoordt, doorloopt een AI-agent meerdere stappen: het maakt een plan, vraagt steeds opnieuw informatie op, voert code uit en gebruikt externe tools. Elke stap vereist een aparte LLM-aanroep. Uit de metingen bleek dat een AI-agent gemiddeld 9,2 keer vaker een beroep doet op het onderliggende taalmodel dan een standaard chatbot . Hierdoor stijgt niet alleen het energieverbruik, maar ook de responstijd: die was gemiddeld 153,7 keer langer .
Een opvallende ontdekking is de inefficiëntie van de hardware. Doordat de agent moet wachten op resultaten van externe tools of zijn volgende stap moet bepalen, staan de krachtige GPU's een groot deel van de tijd stil. Deze 'idle-tijd' bedroeg bij sommige taken tot 54,5% van de totale uitvoeringstijd . De dure chips draaien dan wel, maar doen geen nuttig werk, wat het energieverbruik per saldo nog verder opdrijft.
Het team van KAIST heeft de cijfers doorgerekend naar de schaal van een datacenter. Ze namen een toekomstscenario aan waarin er dagelijks 13,7 miljard AI-agentverzoeken worden gedaan — vergelijkbaar met het huidige aantal Google-zoekopdrachten. In dat geval zou de extra stroomvraag voor datacenters uitkomen op ongeveer 198,9 gigawatt (GW) . Ter vergelijking: dat is bijna de helft van de totale gemiddelde elektriciteitsvraag van de Verenigde Staten. Het overstijgt daarmee ruimschoots de plannen voor de huidige, meerdere GW's tellende AI-datacenters .
De studie is de eerste wereldwijde, systematische kwantificering van het energieverbruik van AI-agents . Professor Yoo en zijn team benadrukken dat de resultaten een urgente noodzaak laten zien voor efficiëntere AI-architecturen en een beter ontwerp van hardware en software . Zonder deze aanpassingen dreigt de energierekening van AI, die nu al een aanzienlijk deel van de datacenterstroom opslokt, volledig uit de hand te lopen.
De studie heeft het energieverbruik van bestaande AI-agents gemeten en vond een schril contrast. Bij gebruik van een groot taalmodel (LLM) met 70 miljard parameters — de schaal van de meest capabele commerciële diensten van vandaag — verbruikte een AI-agent gemiddeld 348,41 wattuur (Wh) per query. Een traditionele generatieve AI-chatbot die dezelfde eenmalige vraag beantwoordde, gebruikte slechts ongeveer 2,55 Wh. Dat is een factor van ruwweg 136,5 tot 136,6 keer . Sommige Engelstalige berichten ronden dit af naar 137 keer .
In tegenstelling tot een chatbot die een vraag in één keer beantwoordt, doorloopt een AI-agent meerdere stappen: het maakt een plan, vraagt steeds opnieuw informatie op, voert code uit en gebruikt externe tools. Elke stap vereist een aparte LLM-aanroep. Uit de metingen bleek dat een AI-agent gemiddeld 9,2 keer vaker een beroep doet op het onderliggende taalmodel dan een standaard chatbot . Hierdoor stijgt niet alleen het energieverbruik, maar ook de responstijd: die was gemiddeld 153,7 keer langer .
Een opvallende ontdekking is de inefficiëntie van de hardware. Doordat de agent moet wachten op resultaten van externe tools of zijn volgende stap moet bepalen, staan de krachtige GPU's een groot deel van de tijd stil. Deze 'idle-tijd' bedroeg bij sommige taken tot 54,5% van de totale uitvoeringstijd . De dure chips draaien dan wel, maar doen geen nuttig werk, wat het energieverbruik per saldo nog verder opdrijft.
Het team van KAIST heeft de cijfers doorgerekend naar de schaal van een datacenter. Ze namen een toekomstscenario aan waarin er dagelijks 13,7 miljard AI-agentverzoeken worden gedaan — vergelijkbaar met het huidige aantal Google-zoekopdrachten. In dat geval zou de extra stroomvraag voor datacenters uitkomen op ongeveer 198,9 gigawatt (GW) . Ter vergelijking: dat is bijna de helft van de totale gemiddelde elektriciteitsvraag van de Verenigde Staten. Het overstijgt daarmee ruimschoots de plannen voor de huidige, meerdere GW's tellende AI-datacenters .
De studie is de eerste wereldwijde, systematische kwantificering van het energieverbruik van AI-agents . Professor Yoo en zijn team benadrukken dat de resultaten een urgente noodzaak laten zien voor efficiëntere AI-architecturen en een beter ontwerp van hardware en software . Zonder deze aanpassingen dreigt de energierekening van AI, die nu al een aanzienlijk deel van de datacenterstroom opslokt, volledig uit de hand te lopen.