Kajian ini mengukur penggunaan sumber bagi ejen AI yang sedia ada dan mendapati satu perbezaan yang ketara. Apabila menggunakan model bahasa besar (LLM) dengan 70 bilion parameter—skala yang setara dengan perkhidmatan komersial termampu hari ini—sebuah ejen AI menggunakan purata 348.41 watt-jam (Wh) bagi setiap pertanyaan. Manakala, chatbot AI generatif tradisional yang menjawab soal-jawab satu pusingan yang sama hanya menggunakan kira-kira 2.55 Wh. Ini adalah perbezaan sebanyak kira-kira 136.5x hingga 136.6x ganda . Beberapa laporan berbahasa Inggeris membundarkan angka ini kepada 137 kali ganda .
Tidak seperti chatbot yang menjawab satu soalan dalam satu pertanyaan, ejen AI berfungsi secara autonomi. Ia merancang langkah penyelesaian, mencari maklumat, melakukan pengiraan, menulis kod, dan mengulangi proses ini berkali-kali sehingga tugasan selesai . Setiap langkah memerlukan satu panggilan berasingan kepada LLM, yang mana kajian mendapati ejen AI membuat panggilan ini secara purata 9.2 kali ganda lebih kerap berbanding chatbot biasa .
Akibatnya, masa respons juga terjejas. Ejen AI mengambil masa sehingga 153.7 kali ganda lebih lama untuk memberikan jawapan berbanding chatbot .
Salah satu penemuan paling kritikal adalah tentang ketidakcekapan perkakasan. Apabila ejen AI menggunakan alat luaran (seperti melayari web atau menjalankan kod), cip GPU terpaksa menunggu tanpa melakukan apa-apa pengiraan. Kajian mendapati masa melahu (idle time) GPU mencecah sehingga 54.5% daripada jumlah masa pelaksanaan . Ini bermakna lebih daripada separuh masa, perkakasan bernilai tinggi ini tidak menghasilkan apa-apa kerja yang berguna, sekaligus membazirkan tenaga.
Implikasi kajian ini amat membimbangkan. Pasukan penyelidik mensimulasikan senario di mana sebanyak 13.7 bilion pertanyaan ejen AI berlaku setiap hari. Hasilnya, permintaan kuasa pusat data dianggarkan mencecah kira-kira 198.9 Gigawatt (GW) .
Untuk konteks, angka ini adalah jauh lebih besar daripada projek pusat data AI berskala beberapa GW yang sedang dirancang di seluruh dunia. Malah, ia hampir menyamai separuh daripada jumlah keseluruhan purata penggunaan elektrik Amerika Syarikat .
Penemuan ini memberi isyarat jelas bahawa tanpa inovasi dalam kecekapan tenaga, penggunaan ejen AI secara meluas boleh menjadi satu beban besar kepada infrastruktur tenaga global dan matlamat pelepasan sifar bersih .
Kajian ini mengukur penggunaan sumber bagi ejen AI yang sedia ada dan mendapati satu perbezaan yang ketara. Apabila menggunakan model bahasa besar (LLM) dengan 70 bilion parameter—skala yang setara dengan perkhidmatan komersial termampu hari ini—sebuah ejen AI menggunakan purata 348.41 watt-jam (Wh) bagi setiap pertanyaan. Manakala, chatbot AI generatif tradisional yang menjawab soal-jawab satu pusingan yang sama hanya menggunakan kira-kira 2.55 Wh. Ini adalah perbezaan sebanyak kira-kira 136.5x hingga 136.6x ganda . Beberapa laporan berbahasa Inggeris membundarkan angka ini kepada 137 kali ganda .
Tidak seperti chatbot yang menjawab satu soalan dalam satu pertanyaan, ejen AI berfungsi secara autonomi. Ia merancang langkah penyelesaian, mencari maklumat, melakukan pengiraan, menulis kod, dan mengulangi proses ini berkali-kali sehingga tugasan selesai . Setiap langkah memerlukan satu panggilan berasingan kepada LLM, yang mana kajian mendapati ejen AI membuat panggilan ini secara purata 9.2 kali ganda lebih kerap berbanding chatbot biasa .
Akibatnya, masa respons juga terjejas. Ejen AI mengambil masa sehingga 153.7 kali ganda lebih lama untuk memberikan jawapan berbanding chatbot .
Salah satu penemuan paling kritikal adalah tentang ketidakcekapan perkakasan. Apabila ejen AI menggunakan alat luaran (seperti melayari web atau menjalankan kod), cip GPU terpaksa menunggu tanpa melakukan apa-apa pengiraan. Kajian mendapati masa melahu (idle time) GPU mencecah sehingga 54.5% daripada jumlah masa pelaksanaan . Ini bermakna lebih daripada separuh masa, perkakasan bernilai tinggi ini tidak menghasilkan apa-apa kerja yang berguna, sekaligus membazirkan tenaga.
Implikasi kajian ini amat membimbangkan. Pasukan penyelidik mensimulasikan senario di mana sebanyak 13.7 bilion pertanyaan ejen AI berlaku setiap hari. Hasilnya, permintaan kuasa pusat data dianggarkan mencecah kira-kira 198.9 Gigawatt (GW) .
Untuk konteks, angka ini adalah jauh lebih besar daripada projek pusat data AI berskala beberapa GW yang sedang dirancang di seluruh dunia. Malah, ia hampir menyamai separuh daripada jumlah keseluruhan purata penggunaan elektrik Amerika Syarikat .
Penemuan ini memberi isyarat jelas bahawa tanpa inovasi dalam kecekapan tenaga, penggunaan ejen AI secara meluas boleh menjadi satu beban besar kepada infrastruktur tenaga global dan matlamat pelepasan sifar bersih .