AI Ajanları Sohbet Robotlarından 137 Kat Daha Fazla Enerji Tüketiyor: KAIST Çalışması

Neden Bu Kadar Pahalı?

Bir sohbet robotu tek bir geçişte soruyu yanıtlarken, bir AI ajanı otonom olarak planlama yapar, bilgi arar, hesaplamalar yapar, kod çalıştırır ve bir görevi tamamlamak için birden çok adımda ilerler. Her adım, hesaplamayı ve enerjiyi katlayan ayrı bir LLM çıkarımı gerektirir ^BP. Araştırmaya göre AI ajanları, LLM'yi geleneksel yöntemlere göre ortalama 9,2 kat daha sık çağırıyor ^HC.

GPU Verimsizliği ve Gecikme

AI ajanlarının en büyük verimsizliklerinden biri, GPU kullanımındaki israftır. Araçları otonom olarak kullanma sürecinde GPU'nun boşta kalma süresi (bekleme süresi) toplam çalışma süresinin %54,5'ine kadar çıkabiliyor ^HM. Buna ek olarak, AI ajanlarının sorgulara yanıt verme süresi, geleneksel sohbet robotlarına kıyasla 153,7 kata kadar daha uzun olabiliyor ^MBP.

Veri Merkezleri İçin Ne Anlama Geliyor?

KAIST araştırmacıları, bulguları veri merkezi ölçeğine de taşıdı. Günde 13,7 milyar AI ajanı talebinin olduğu bir gelecek senaryosunda, veri merkezlerinin toplam güç talebinin yaklaşık 198,9 gigawatt (GW) olacağı tahmin ediliyor ^N. Bu rakam, dünyanın dört bir yanında inşa edilmekte olan birkaç GW'lık AI veri merkezlerinin çok ötesinde ve ABD'nin toplam ortalama elektrik tüketiminin yaklaşık yarısına denk geliyor ^N.

Çalışmanın Önemi ve Uyarılar

Bu çalışma, AI ajanlarının enerji tüketimini sistematik olarak analiz eden dünyadaki ilk çalışma olarak nitelendiriliyor ^MM. Bulgular, AI endüstrisi ve politikaları planlanırken, altyapı ve enerji talebinin birlikte değerlendirilmesi gerektiğine işaret ediyor. Araştırmacılar, AI ajanlarının doğrulukta iyileştirme sağlarken, getirdikleri hesaplama yükünün hızla azalan getirilere ve sürdürülemez altyapı maliyetlerine yol açabileceğini vurguluyor ^P. Verimlilik iyileştirmeleri olmadan AI ajanlarının kontrolsüz bir şekilde benimsenmesinin, küresel enerji talebi ve karbon emisyonları için önemli bir risk oluşturduğu belirtiliyor ^BPE.