AI Agent vs Chatbot: Kesenjangan Energi 137x yang Tersembunyi

Mengapa AI Agent Jauh Lebih Boros?

Berbeda dengan chatbot yang menjawab satu pertanyaan dalam satu kali proses, AI agent secara otonom merencanakan, mencari informasi, menghitung, menjalankan kode, dan mengulangi melalui beberapa langkah untuk menyelesaikan suatu tugas. Setiap langkah memerlukan inferensi LLM terpisah, yang melipatgandakan komputasi dan energi ^BP. Studi tersebut menemukan bahwa AI agent memanggil LLM rata-rata 9,2 kali lebih sering dibandingkan dengan proses chatbot standar ^HC. Waktu respons juga melonjak hingga 153,7 kali lebih lama ^MBP.

Waktu Idle GPU: Inefisiensi Tersembunyi

Salah satu temuan paling menarik adalah inefisiensi dalam penggunaan perangkat keras. Saat AI agent menggunakan alat secara mandiri, GPU sering kali menganggur dan tidak melakukan perhitungan apa pun. Waktu idle ini mencapai 54,5% dari total waktu eksekusi ^HM. Ini berarti hampir setengah dari waktu yang dihabiskan untuk menjalankan AI agent, chip grafis yang mahal dan boros daya tidak melakukan pekerjaan yang berarti—sebuah pemborosan besar yang tidak terlihat pada chatbot tradisional.

Dampak pada Pusat Data dan Emisi Karbon

Tim peneliti kemudian memperluas analisis mereka ke skala pusat data. Dalam skenario masa depan di mana terdapat 13,7 miliar permintaan AI agent per hari (setara dengan jumlah pencarian Google harian saat ini), mereka memperkirakan permintaan daya pusat data akan mencapai sekitar 198,9 gigawatt (GW) ^N. Sebagai perbandingan, ini adalah:

• Jauh melampaui kapasitas beberapa GW dari pusat data AI yang sedang dibangun di seluruh dunia saat ini ^N.
• Setara dengan sekitar setengah dari total konsumsi listrik rata-rata AS ^N.

Angka ini menyoroti potensi tekanan luar biasa pada jaringan listrik global jika AI agent menjadi arus utama tanpa terobosan efisiensi energi yang signifikan. Sebagai konteks, permintaan listrik pusat data global sudah mencapai sekitar 415 TWh pada tahun 2024, dan diproyeksikan akan berlipat ganda pada tahun 2030, didorong oleh beban kerja AI . Studi KAIST menunjukkan bahwa AI agent dapat mempercepat tren ini secara dramatis.

Angka Pembanding

• Pencarian Google tradisional: ~0,3 Wh per kueri ^WE.
• ChatGPT (chatbot generatif): ~2,9 Wh per kueri ^WE.
• AI Agent (studi KAIST): 348,41 Wh per kueri ^HN.

Ini berarti satu pertanyaan AI agent mengonsumsi energi yang kira-kira setara dengan menyalakan AC 1000W selama hampir 21 menit, atau menonton TV LED 50W selama hampir 7 jam.

Poin Penting

Studi ini adalah yang pertama mengukur 'biaya listrik tersembunyi' dari AI agent secara sistematis ^N. Meskipun AI agent menawarkan akurasi dan kemampuan yang lebih baik untuk tugas-tugas kompleks, biaya energinya sangat besar. Temuan ini menjadi peringatan keras bagi para pembuat kebijakan dan pelaku industri untuk mempertimbangkan infrastruktur listrik dan efisiensi energi ketika merencanakan masa depan AI ^MBP.