AI एजेंट बनाम चैटबॉट: KAIST अध्ययन में 137 गुना ऊर्जा अंतर का खुलासा

यह अंतर क्यों है? एजेंटों की कार्यप्रणाली

एक साधारण चैटबॉट के विपरीत, जो एक प्रश्न का एक बार में उत्तर देता है, एक AI एजेंट किसी कार्य को पूरा करने के लिए स्वायत्त रूप से योजना बनाता है, खोज करता है, गणना करता है, कोड निष्पादित करता है और कई चरणों में पुनरावृत्ति करता है। प्रत्येक चरण के लिए एक अलग LLM इन्फ्रेंस की आवश्यकता होती है, जो कंप्यूट और ऊर्जा दोनों को कई गुना बढ़ा देता है ।

• LLM कॉल आवृत्ति: AI एजेंट औसतन मानक चरण-दर-चरण चैटबॉट प्रक्रिया की तुलना में 9.2 गुना अधिक बार LLM को कॉल करते हैं । एक रिपोर्ट के अनुसार, जहां चैटजीपीटी एक प्रश्न के लिए LLM का एक बार उपयोग करता है, वहीं AI एजेंट औसतन 71 बार उपयोग करता है ।
• प्रतिक्रिया समय: AI एजेंटों का प्रतिक्रिया समय पारंपरिक चैटबॉट की तुलना में 153.7 गुना तक अधिक होता है ।
• GPU निष्क्रियता: स्वायत्त रूप से उपकरणों का उपयोग करने की प्रक्रिया के दौरान, GPU के लिए बेकार बैठने का समय अनिवार्य रूप से उत्पन्न होता है, जो कुल निष्पादन समय के 54.5% तक पहुंच गया ।

वैश्विक प्रभाव: क्या होगा अगर सब कुछ AI एजेंट बन जाए?

शोधकर्ताओं ने इस खपत को डेटा सेंटर के स्तर पर विस्तारित किया और एक चौंकाने वाला परिदृश्य पेश किया। यदि हम मान लें कि भविष्य में एक दिन में 13.7 अरब AI एजेंट अनुरोध (AI अनुरोध) होते हैं, तो डेटा सेंटर की बिजली की मांग लगभग 198.9 गीगावॉट (GW) तक पहुंच सकती है । यह संख्या वर्तमान में दुनिया भर में नियोजित कुछ GW क्षमता वाले AI डेटा सेंटरों से कहीं अधिक है। वास्तव में, यह पूरे अमेरिका की औसत बिजली खपत का लगभग आधा है ।

अध्ययन यह भी बताता है कि जहां एजेंट सटीकता में सुधार लाते हैं, वहीं उनकी कंप्यूट आवश्यकताओं में तेजी से घटता प्रतिफल (diminishing returns) मिलता है, जिससे बुनियादी ढांचे की लागत अस्थिर हो जाती है ।

सावधानी और आगे का रास्ता

यह ध्यान रखना महत्वपूर्ण है कि 348.41 Wh का आंकड़ा 70 अरब पैरामीटर वाले एक विशिष्ट मॉडल पर आधारित है। छोटे या अधिक कुशल मॉडल और हार्डवेयर कम संख्या दे सकते हैं । फिर भी, यह अध्ययन एक स्पष्ट संकेत है कि AI एजेंटों को अपनाने से पहले ऊर्जा दक्षता पर गंभीरता से विचार करना होगा। जैसे-जैसे AI उद्योग "सिर्फ उत्तर देने" से "कार्य करने" की ओर बढ़ रहा है, ऊर्जा खपत का यह पहलू नीति निर्माताओं और तकनीकी कंपनियों के लिए एक बड़ी चुनौती बनकर उभरेगा ।