研究分析表明,AI智能体调用LLM的频率平均是传统逐级推理方法的9.2倍HC。此外,多步骤推理导致响应时间最高延长153.7倍MBP。更严重的是,智能体在自主调用工具的过程中,GPU不可避免地出现空闲等待,这部分闲置时间最多占到总执行时长的54.5%HM。这意味着大量昂贵的硬件资源在空转,进一步加剧了能源的浪费。
如果将这一发现放大到数据中心规模,形势尤为严峻。研究团队假设了一个未来场景:每天产生137亿次AI智能体请求。在此情境下,数据中心的电力需求将飙升到约198.9吉瓦(GW)N。这一数字远超当前全球各国正在建设的数个吉瓦级的AI数据中心,甚至接近美国全国平均电力总消耗量的一半N。
KAIST的研究强调,虽然AI智能体在提高任务准确率方面潜力巨大,但其能耗正以不可持续的速度增长,随着计算量的增加,收益却呈现快速递减的态势P。研究呼吁,在规划和制定AI产业及政策时,必须同步考虑电力基础设施的大规模扩张M。
这项研究不仅指出了问题,也为未来指明了方向。高达54.5%的GPU闲置率表明,当前的硬件架构和调度策略远未针对智能体工作负载进行优化。同时,全球其他研究也表明,通过优化提示词(如减少礼貌用语)可以节省可观的电力C,而在高效硬件上运行推理也能将能耗降低数个数量级E。