研究チームは、現在の商用AIサービスに匹敵する700億パラメータの大規模言語モデル(LLM)を使用した場合のリソース消費を計測しました。
この差は約 136.6倍。英語の報道では「最大137倍」と紹介されることもあります。この数字を具体的にイメージすると、従来のチャットボットがスマートフォンを数時間充電する程度のエネルギーで済むのに対し、AIエージェントは最新のノートパソコンを丸一日フル稼働させるほどの電力を消費することになります。
違いは「動作の仕組み」にあります。チャットボットが与えられた質問に対して一回の推論で答えを返すのに対し、AIエージェントは以下のような複数のステップを自律的に実行します。
このため、AIエージェントは従来の手法に比べて平均 9.2倍 もの頻度でLLMを呼び出し、応答時間も最大 153.7倍 に及びます。
研究で特に注目すべき点は、GPU(画像処理半導体) の効率の悪さです。AIエージェントが外部ツールの応答を待つ間など、GPUが何の計算もせずに待機している「アイドル時間」が、全体の実行時間のなんと 最大54.5% に達することが判明しました。これは、高価で消費電力の大きなGPUが、半分以上の時間を「ぼんやり待っている」という、極めて非効率な状態を意味します。
研究チームは、この結果をデータセンター規模に拡張して分析しました。もし将来的に1日あたり137億件のAIエージェントリクエストが発生するシナリオを仮定した場合、必要となるデータセンターの電力需要は約 198.9ギガワット(GW) に達する計算になります。これは現在世界各国が計画している数GW規模のAIデータセンターをはるかに凌ぎ、アメリカ全土の平均電力消費量の約半分に相当する驚異的な数字です。
AIエージェントは、複雑なタスクを自律的に遂行できるという点で、従来のチャットボットよりはるかに「賢く」、便利です。しかし今回の研究は、その利便性の裏に、これまで見過ごされてきた深刻なエネルギーコストが潜んでいることを明らかにしました。
この研究を主導したユ・ミンソ教授は、AI産業や政策を計画する際には、こうした電力インフラの拡大を同時に考慮する必要があると指摘しています。GPUのアイドル時間を減らすハードウェア・ソフトウェア両面での最適化や、より効率的なモデルの開発が、持続可能なAI社会の実現に向けた急務の課題と言えるでしょう。
研究チームは、現在の商用AIサービスに匹敵する700億パラメータの大規模言語モデル(LLM)を使用した場合のリソース消費を計測しました。
この差は約 136.6倍。英語の報道では「最大137倍」と紹介されることもあります。この数字を具体的にイメージすると、従来のチャットボットがスマートフォンを数時間充電する程度のエネルギーで済むのに対し、AIエージェントは最新のノートパソコンを丸一日フル稼働させるほどの電力を消費することになります。
違いは「動作の仕組み」にあります。チャットボットが与えられた質問に対して一回の推論で答えを返すのに対し、AIエージェントは以下のような複数のステップを自律的に実行します。
このため、AIエージェントは従来の手法に比べて平均 9.2倍 もの頻度でLLMを呼び出し、応答時間も最大 153.7倍 に及びます。
研究で特に注目すべき点は、GPU(画像処理半導体) の効率の悪さです。AIエージェントが外部ツールの応答を待つ間など、GPUが何の計算もせずに待機している「アイドル時間」が、全体の実行時間のなんと 最大54.5% に達することが判明しました。これは、高価で消費電力の大きなGPUが、半分以上の時間を「ぼんやり待っている」という、極めて非効率な状態を意味します。
研究チームは、この結果をデータセンター規模に拡張して分析しました。もし将来的に1日あたり137億件のAIエージェントリクエストが発生するシナリオを仮定した場合、必要となるデータセンターの電力需要は約 198.9ギガワット(GW) に達する計算になります。これは現在世界各国が計画している数GW規模のAIデータセンターをはるかに凌ぎ、アメリカ全土の平均電力消費量の約半分に相当する驚異的な数字です。
AIエージェントは、複雑なタスクを自律的に遂行できるという点で、従来のチャットボットよりはるかに「賢く」、便利です。しかし今回の研究は、その利便性の裏に、これまで見過ごされてきた深刻なエネルギーコストが潜んでいることを明らかにしました。
この研究を主導したユ・ミンソ教授は、AI産業や政策を計画する際には、こうした電力インフラの拡大を同時に考慮する必要があると指摘しています。GPUのアイドル時間を減らすハードウェア・ソフトウェア両面での最適化や、より効率的なモデルの開発が、持続可能なAI社会の実現に向けた急務の課題と言えるでしょう。