AI Agent 'ngốn' điện gấp 137 lần Chatbot: Nghiên cứu từ KAIST hé lộ 'cơn khát' năng lượng tiềm ẩn

Tại sao AI Agent lại 'ngốn' điện nhiều đến vậy?

Không giống như chatbot chỉ trả lời một câu hỏi duy nhất, AI Agent hoạt động như một 'người trợ lý' thực thụ. Chúng tự động lập kế hoạch, tìm kiếm thông tin, tính toán, chạy mã và lặp đi lặp lại qua nhiều bước để hoàn thành một nhiệm vụ ^BP. Quá trình này đòi hỏi một số lượng lớn các lần 'gọi' mô hình LLM. Cụ thể:

• Tần suất gọi LLM cao gấp 9,2 lần: Trong khi chatbot truyền thống chỉ cần một lần gọi, AI Agent trung bình cần tới 71 lần gọi để hoàn thành một tác vụ ^HM.
• Thời gian phản hồi chậm hơn tới 153,7 lần: Việc phải thực hiện nhiều bước suy luận và ra quyết định khiến thời gian chờ đợi kết quả tăng lên đáng kể ^MBP.
• GPU lãng phí tới 54,5% thời gian: Một phát hiện thú vị khác là trong quá trình AI Agent sử dụng các công cụ bên ngoài, GPU (bộ xử lý đồ họa) phải chờ đợi, dẫn đến tình trạng 'nhàn rỗi' không hoạt động lên tới 54,5% tổng thời gian thực thi. Điều này cho thấy sự kém hiệu quả sâu sắc trong việc sử dụng phần cứng hiện tại ^HM.

Kịch bản tương lai: 'Cơn khát' năng lượng của trung tâm dữ liệu

Nghiên cứu không chỉ dừng lại ở việc đo lường mà còn đưa ra những dự báo đáng lo ngại. Nếu AI Agent trở nên phổ biến mà không có những cải tiến về hiệu quả năng lượng, áp lực lên các trung tâm dữ liệu sẽ gia tăng chóng mặt ^B.

Nhóm nghiên cứu đã mô phỏng một kịch bản trong tương lai, nếu có 13,7 tỷ yêu cầu AI Agent mỗi ngày (tương đương số lượng tìm kiếm của Google hiện nay), nhu cầu điện năng cho các trung tâm dữ liệu sẽ lên tới khoảng 198,9 gigawatt (GW). Con số này vượt xa quy mô của các trung tâm dữ liệu AI đa quốc gia đang được xây dựng, và tương đương với khoảng một nửa tổng sản lượng điện tiêu thụ trung bình của toàn bộ nước Mỹ ^N. Con số này cho thấy một thách thức vô cùng lớn về hạ tầng năng lượng và môi trường mà nhân loại phải đối mặt nếu không có những giải pháp tối ưu kịp thời.

Vấn đề nan giải: Chất lượng cao hơn nhưng chi phí năng lượng cũng cao hơn

Giáo sư Yoo Min-soo, trưởng nhóm nghiên cứu, nhấn mạnh rằng mặc dù AI Agent có khả năng giải quyết các nhiệm vụ phức tạp tốt hơn, nhưng 'cái giá' phải trả về mặt năng lượng là vô cùng đắt đỏ ^M. Các nhà hoạch định chính sách và các công ty công nghệ cần phải tính đến 'chi phí ẩn' này khi lên kế hoạch phát triển và mở rộng quy mô AI trong tương lai, đồng thời thúc đẩy các nghiên cứu nhằm nâng cao hiệu suất năng lượng cho các tác vụ phức tạp này.