AI Ejen vs Chatbot: Kajian KAIST Dedah Jurang Tenaga 137 Kali Gand

Mengapa Ejen AI Sangat 'Haus' Tenaga?

Tidak seperti chatbot yang menjawab satu soalan dalam satu pertanyaan, ejen AI berfungsi secara autonomi. Ia merancang langkah penyelesaian, mencari maklumat, melakukan pengiraan, menulis kod, dan mengulangi proses ini berkali-kali sehingga tugasan selesai . Setiap langkah memerlukan satu panggilan berasingan kepada LLM, yang mana kajian mendapati ejen AI membuat panggilan ini secara purata 9.2 kali ganda lebih kerap berbanding chatbot biasa .

Akibatnya, masa respons juga terjejas. Ejen AI mengambil masa sehingga 153.7 kali ganda lebih lama untuk memberikan jawapan berbanding chatbot .

Masalah Besar: GPU Menganggur

Salah satu penemuan paling kritikal adalah tentang ketidakcekapan perkakasan. Apabila ejen AI menggunakan alat luaran (seperti melayari web atau menjalankan kod), cip GPU terpaksa menunggu tanpa melakukan apa-apa pengiraan. Kajian mendapati masa melahu (idle time) GPU mencecah sehingga 54.5% daripada jumlah masa pelaksanaan . Ini bermakna lebih daripada separuh masa, perkakasan bernilai tinggi ini tidak menghasilkan apa-apa kerja yang berguna, sekaligus membazirkan tenaga.

Unjuran Masa Depan: Beban Bengis pada Grid

Implikasi kajian ini amat membimbangkan. Pasukan penyelidik mensimulasikan senario di mana sebanyak 13.7 bilion pertanyaan ejen AI berlaku setiap hari. Hasilnya, permintaan kuasa pusat data dianggarkan mencecah kira-kira 198.9 Gigawatt (GW) .

Untuk konteks, angka ini adalah jauh lebih besar daripada projek pusat data AI berskala beberapa GW yang sedang dirancang di seluruh dunia. Malah, ia hampir menyamai separuh daripada jumlah keseluruhan purata penggunaan elektrik Amerika Syarikat .

Penemuan ini memberi isyarat jelas bahawa tanpa inovasi dalam kecekapan tenaga, penggunaan ejen AI secara meluas boleh menjadi satu beban besar kepada infrastruktur tenaga global dan matlamat pelepasan sifar bersih .