Agenti AI vs Chatbot: lo studio KAIST rivela un divario energetico di 137 volte

Perché gli agenti AI consumano così tanto?

A differenza di un chatbot che risponde a una singola domanda in un unico passaggio, un agente AI pianifica, cerca informazioni, esegue calcoli, scrive codice e ripete il processo più volte per completare un compito. Ogni passaggio richiede una nuova elaborazione del LLM, moltiplicando sia la potenza di calcolo che l'energia consumata ^BP.

Lo studio ha anche rivelato che:

• Maggiore frequenza di chiamate al LLM: gli agenti AI chiamano il LLM sottostante in media 9,2 volte più frequentemente rispetto a un chatbot standard ^HC.
• Tempi di risposta più lunghi: gli agenti AI impiegano in media 153,7 volte più tempo per rispondere a una query, a causa delle molteplici fasi di ragionamento ^MBP.
• Inefficienza della GPU: durante i flussi di lavoro complessi, la GPU rimane inattiva fino al 54,5% del tempo di esecuzione totale, in attesa delle fasi di pianificazione e recupero dati ^MN.

Impatto potenziale sui data center e sulla domanda elettrica globale

I ricercatori hanno estrapolato i loro risultati a livello di data center, ipotizzando uno scenario futuro in cui si verifichino 13,7 miliardi di richieste giornaliere agli agenti AI. In questo caso, la domanda di energia elettrica dei data center raggiungerebbe circa 198,9 gigawatt (GW), una cifra paragonabile a circa la metà del consumo elettrico totale medio degli Stati Uniti e di gran lunga superiore ai pochi GW dei data center AI attuali ^N.

Lo studio suona come un campanello d'allarme: se l'adozione degli agenti AI dovesse crescere senza un parallelo miglioramento dell'efficienza, l'impatto sulla rete elettrica globale e sulle emissioni di CO₂ potrebbe essere devastante. I data center già oggi consumano una quota significativa di elettricità e la loro domanda è in rapida crescita, spinta proprio dall'AI ^PA.

Cosa significa per il futuro

La ricerca del KAIST non è una previsione, ma una misurazione che evidenzia un rischio concreto. Il messaggio è chiaro: per rendere sostenibile la prossima generazione di AI, non basterà migliorare i modelli, ma sarà necessario ripensare l'architettura dei sistemi, ottimizzare l'uso delle GPU e sviluppare hardware più efficiente. L'AI autonoma promette grandi cose, ma il suo costo energetico nascosto potrebbe essere il suo tallone d'Achille.