AI-агенти у 137 разів енергоємніші за звичайні чат-боти — дослідження KAIST

Час відповіді AI-агента також зріс — до 153,7 раза порівняно зі звичайним чат-ботом . Причина в тому, що агенти виконують багато кроків: планування, пошук інформації, обчислення, виконання коду, щоб досягти мети, тоді як чат-бот лише один раз генерує відповідь.

Чому агенти такі витратні

На відміну від чат-бота, який відповідає на одне запитання за один прохід, AI-агент автономно планує, шукає, обчислює, виконує код і проходить через кілька ітерацій, щоб виконати завдання. Кожен крок вимагає окремого запуску LLM, що значно збільшує обчислення та споживання енергії .

Дослідники виявили, що AI-агенти звертаються до LLM у середньому в 9,2 раза частіше, ніж стандартні чат-боти . Більше того, через необхідність використовувати зовнішні інструменти, графічні процесори (GPU) простоювали до 54,5% від загального часу виконання . Це означає, що обладнання працює неефективно, споживаючи енергію навіть у режимі очікування.

Яким буде вплив на дата-центри?

Дослідники змоделювали сценарій, за якого щоденно виконується 13,7 мільярда запитів до AI-агентів. Вони підрахували, що попит на електроенергію для дата-центрів може досягти приблизно 198,9 гігавата (GW) . Для порівняння: це майже половина середнього загального споживання електроенергії в США . Це значно перевищує потужності дата-центрів, які зараз плануються в усьому світі.

Хоча самі автори дослідження не наводять глобальних прогнозів викидів CO₂, інші дослідження показують, що дата-центри вже відповідають за 2,5–3,7% світових викидів парникових газів , і частка AI в цьому зростає. Якщо AI-агенти стануть масовими, це може призвести до значного збільшення викидів.

Дослідники наголошують, що ці результати не є вироком. Вони вказують на необхідність розробки більш ефективних алгоритмів, оптимізації апаратного забезпечення та впровадження «енергетично свідомого» дизайну AI-систем .