Дослідження виміряло ресурси, які споживають наявні AI-агенти, і виявило вражаючу різницю. Використовуючи велику мовну модель (LLM) із 70 мільярдами параметрів — рівень найпотужніших сучасних комерційних сервісів — AI-агент споживав у середньому 348,41 ват-години (Wh) на один запит. Традиційний генеративний AI-чат-бот, який виконує одноразове запитання-відповідь, використовував лише близько 2,55 Wh. Це приблизно в 136,5–136,6 раза більше . У деяких англомовних звітах це число округлюють до 137 .
Час відповіді AI-агента також зріс — до 153,7 раза порівняно зі звичайним чат-ботом . Причина в тому, що агенти виконують багато кроків: планування, пошук інформації, обчислення, виконання коду, щоб досягти мети, тоді як чат-бот лише один раз генерує відповідь.
На відміну від чат-бота, який відповідає на одне запитання за один прохід, AI-агент автономно планує, шукає, обчислює, виконує код і проходить через кілька ітерацій, щоб виконати завдання. Кожен крок вимагає окремого запуску LLM, що значно збільшує обчислення та споживання енергії .
Дослідники виявили, що AI-агенти звертаються до LLM у середньому в 9,2 раза частіше, ніж стандартні чат-боти . Більше того, через необхідність використовувати зовнішні інструменти, графічні процесори (GPU) простоювали до 54,5% від загального часу виконання . Це означає, що обладнання працює неефективно, споживаючи енергію навіть у режимі очікування.
Дослідники змоделювали сценарій, за якого щоденно виконується 13,7 мільярда запитів до AI-агентів. Вони підрахували, що попит на електроенергію для дата-центрів може досягти приблизно 198,9 гігавата (GW) . Для порівняння: це майже половина середнього загального споживання електроенергії в США . Це значно перевищує потужності дата-центрів, які зараз плануються в усьому світі.
Хоча самі автори дослідження не наводять глобальних прогнозів викидів CO₂, інші дослідження показують, що дата-центри вже відповідають за 2,5–3,7% світових викидів парникових газів , і частка AI в цьому зростає. Якщо AI-агенти стануть масовими, це може призвести до значного збільшення викидів.
Дослідники наголошують, що ці результати не є вироком. Вони вказують на необхідність розробки більш ефективних алгоритмів, оптимізації апаратного забезпечення та впровадження «енергетично свідомого» дизайну AI-систем .
Дослідження виміряло ресурси, які споживають наявні AI-агенти, і виявило вражаючу різницю. Використовуючи велику мовну модель (LLM) із 70 мільярдами параметрів — рівень найпотужніших сучасних комерційних сервісів — AI-агент споживав у середньому 348,41 ват-години (Wh) на один запит. Традиційний генеративний AI-чат-бот, який виконує одноразове запитання-відповідь, використовував лише близько 2,55 Wh. Це приблизно в 136,5–136,6 раза більше . У деяких англомовних звітах це число округлюють до 137 .
Час відповіді AI-агента також зріс — до 153,7 раза порівняно зі звичайним чат-ботом . Причина в тому, що агенти виконують багато кроків: планування, пошук інформації, обчислення, виконання коду, щоб досягти мети, тоді як чат-бот лише один раз генерує відповідь.
На відміну від чат-бота, який відповідає на одне запитання за один прохід, AI-агент автономно планує, шукає, обчислює, виконує код і проходить через кілька ітерацій, щоб виконати завдання. Кожен крок вимагає окремого запуску LLM, що значно збільшує обчислення та споживання енергії .
Дослідники виявили, що AI-агенти звертаються до LLM у середньому в 9,2 раза частіше, ніж стандартні чат-боти . Більше того, через необхідність використовувати зовнішні інструменти, графічні процесори (GPU) простоювали до 54,5% від загального часу виконання . Це означає, що обладнання працює неефективно, споживаючи енергію навіть у режимі очікування.
Дослідники змоделювали сценарій, за якого щоденно виконується 13,7 мільярда запитів до AI-агентів. Вони підрахували, що попит на електроенергію для дата-центрів може досягти приблизно 198,9 гігавата (GW) . Для порівняння: це майже половина середнього загального споживання електроенергії в США . Це значно перевищує потужності дата-центрів, які зараз плануються в усьому світі.
Хоча самі автори дослідження не наводять глобальних прогнозів викидів CO₂, інші дослідження показують, що дата-центри вже відповідають за 2,5–3,7% світових викидів парникових газів , і частка AI в цьому зростає. Якщо AI-агенти стануть масовими, це може призвести до значного збільшення викидів.
Дослідники наголошують, що ці результати не є вироком. Вони вказують на необхідність розробки більш ефективних алгоритмів, оптимізації апаратного забезпечення та впровадження «енергетично свідомого» дизайну AI-систем .