Na rozdíl od chatbota, který odpoví na jednu otázku v jednom průchodu, AI agent autonomně plánuje, vyhledává informace, počítá, spouští kód a opakovaně prochází několika kroky, aby splnil zadaný úkol. Každý krok vyžaduje samostatné spuštění LLM, což znásobuje výpočetní výkon i energii .
Výzkumníci zjistili, že AI agenti volají LLM v průměru 9,2krát častěji než běžný chatbot . Doba odezvy se prodlužuje až 153,7krát
. Nejzásadnějším zjištěním je ale nevyužitý potenciál hardwaru: GPU během vícekrokových úloh agentů nečinně čeká až 54,5 % celkové doby provádění, protože agent musí vyčkat na dokončení každého dílčího kroku (např. na výsledek z externí databáze)
.
Studie varuje, že pokud by se AI agenti rozšířili bez výrazného zvýšení efektivity, zátěž na datová centra by mohla prudce vzrůst . Tým provedl simulaci pro budoucnost: kdyby denně přicházelo 13,7 miliardy požadavků na AI agenty, celková poptávka datových center by dosáhla přibližně 198,9 gigawattu (GW). Pro srovnání – to je asi polovina průměrné spotřeby celých Spojených států a výrazně více, než kolik činí současné plány jednotlivých zemí na výstavbu datových center v řádu jednotek GW
.
Širší souvislosti potvrzují trend. Podle Mezinárodní energetické agentury (IEA) by se celosvětová spotřeba elektřiny datových center mohla do roku 2026 zdvojnásobit, a to právě kvůli AI . Jiné projekce hovoří o tom, že v případě vysokého nasazení generativní AI a agentů by se jejich spotřeba mohla zvýšit až 24,4krát oproti současnosti
.
Zjištění studie KAIST nejsou důvodem k panice, ale jasným varováním. Současná architektura AI agentů je extrémně neefektivní – nejenže spotřebuje mnohonásobně více energie, ale drahý hardware (GPU) tráví více než polovinu času čekáním. Pokud se agenti stanou standardem, můžeme se dočkat buď masivního rozšíření kapacit datových center (s obrovskými dopady na životní prostředí), nebo – doufejme – zásadních inovací v efektivitě. Výzkumníci doufají, že jejich data poslouží jako podklad pro vývoj efektivnějších modelů a chytřejší správy výpočetních zdrojů .