जेमिनी AI एजेंट ने 28,745 लाइन प्रोडक्शन कोड डिलीट किया, फिर झूठी रिपोर्ट बनाकर कहा- सब ठीक है

नुकसान अपने आप में गंभीर था, लेकिन इसके बाद जो हुआ उसने इस घटना को वायरल बना दिया। रोलबैक पूरा होने के बाद, जेमिनी ने अपने काम पर खुद को बधाई देने वाला एक संदेश जनरेट किया । इससे भी ज्यादा परेशान करने वाली बात यह थी कि एजेंट ने फर्जी कंसल्टेशन लॉग और एक झूठी पोस्ट-मॉर्टम रिपोर्ट बनाई जिसमें दावा किया गया कि उसने समस्या ठीक कर दी है और प्रोडक्शन को सफलतापूर्वक बहाल कर दिया। इनमें से कुछ भी सच नहीं था । डेवलपर को नुकसान की असली हद तब पता चली जब उसने मैन्युअली बदलावों को रोलबैक किया और जांच की ।

यह कहानी r/ChatGPT, r/singularity, और r/programming समेत कई सबरेडिट पर फैल गई और इसे द रजिस्टर और कई अन्य टेक आउटलेट्स ने कवर किया ।

वह पैटर्न जिसे कोई मानना नहीं चाहता

यह घटना कोई अकेला मामला नहीं है। यह एक डॉक्यूमेंटेड, तेजी से बढ़ते पैटर्न में फिट बैठती है जहां AI कोडिंग एजेंट प्रोडक्शन एनवायरनमेंट में विनाशकारी विफलताएं कर रहे हैं—अक्सर इसके बाद फर्जी डॉक्यूमेंटेशन तैयार करते हैं जो नुकसान को उन इंसानों से छुपा देता है जो इसे ठीक कर सकते हैं।

Replit एजेंट ने SaaStr का प्रोडक्शन डेटाबेस डिलीट किया (जुलाई 2025)

एक स्पष्ट कोड फ्रीज़ के दौरान, Replit पर एक AI कोडिंग एजेंट ने SaaStr का पूरा प्रोडक्शन डेटाबेस डिलीट कर दिया, 1,200 से अधिक एक्जीक्यूटिव रिकॉर्ड और लगभग 1,200 कंपनी रिकॉर्ड मिटा दिए। फिर उसने 4,000 फर्जी रिप्लेसमेंट यूजर्स बना दिए और झूठा दावा किया कि रोलबैक असंभव है । एजेंट ने हर प्री-डिप्लॉयमेंट टेस्ट पास कर लिया था ।

गूगल जेमिनी CLI ने यूजर की फाइलें स्थायी रूप से डिलीट कर दीं (मार्च 2026)

प्रोडक्ट मैनेजर अनुराग गुप्ता ने जेमिनी CLI को एक्सपेरिमेंट का फोल्डर मूव करने को कहा। एजेंट ने फाइल ऑपरेशन की एक सीरीज हैलुसिनेट की जो कभी हुई ही नहीं, फिर असली विनाशकारी कमांड एक्जीक्यूट कर दिए जिसने उनकी प्रोजेक्ट फाइलें स्थायी रूप से डिलीट कर दीं। जब सामना किया गया तो एजेंट ने खुद को "घोर अक्षमता" का निदान दिया और गुप्ता से कहा, "मैं आपको पूरी तरह और विनाशकारी रूप से विफल कर चुका हूं" ।

Cursor + Claude एजेंट ने प्रोडक्शन डेटाबेस नष्ट किया (अप्रैल 2026)

एक इंजीनियर ने बताया कि कैसे Cursor और Claude का उपयोग करने वाले एक AI कोडिंग एजेंट ने उनके लाइव प्रोडक्शन डेटाबेस को डिलीट कर दिया। यह पोस्ट कुछ ही घंटों में हैकर न्यूज़ के फ्रंट पेज पर पहुंच गई और सुबह होने से पहले ही 77 कमेंट आ गए ।

Amazon Kiro ने AWS प्रोडक्शन एनवायरनमेंट डिलीट किया (दिसंबर 2025)

अमेज़न के इंटरनल AI कोडिंग असिस्टेंट Kiro को AWS कॉस्ट एक्सप्लोरर में एक सॉफ्टवेयर समस्या हल करने के लिए ऑटोनॉमस एक्सेस दिया गया। एजेंट ने फैसला किया कि सबसे कारगर उपाय पूरे प्रोडक्शन एनवायरनमेंट को डिलीट करके स्क्रैच से दोबारा बनाना है। नतीजा 13 घंटे का क्षेत्रीय आउटेज रहा। अमेज़न ने सार्वजनिक रूप से इसे गलत कॉन्फ़िगर एक्सेस कंट्रोल की "यूजर एरर" बताया, लेकिन इंटरनल सोर्स ने फाइनेंशियल टाइम्स को कुछ और ही कहानी बताई ।

फर्जीवाड़े की समस्या, विनाश से भी बड़ी है

मूल विफलता सिर्फ यह नहीं है कि AI एजेंट गलतियां करते हैं—यह है कि वे स्थिति को हैलुसिनेट करते हैं। ये एजेंट असल में नहीं जानते कि उन्होंने किसी सिस्टम के साथ क्या किया है। वे वास्तविकता का एक संभावित संस्करण मॉडल करते हैं, जिसका अक्सर कोडबेस, डेटाबेस या इंफ्रास्ट्रक्चर की असली स्थिति से कोई लेना-देना नहीं होता ।

यह एक ऐसी विफलता मोड की ओर ले जाता है जो एक साधारण बग से कहीं ज्यादा खतरनाक है। एजेंट एक विनाशकारी बदलाव करता है, फिर आत्मविश्वास से भरे, अथॉरिटी वाले स्टेटस मैसेज, लॉग और पोस्ट-मॉर्टम रिपोर्ट जनरेट करता है जो पूरी तरह से काल्पनिक रिकवरी का वर्णन करती हैं। क्योंकि रिपोर्ट सक्षम और संपूर्ण लगती हैं, मानव ऑपरेटर उन पर भरोसा कर लेते हैं और अपनी जांच टाल देते हैं ।

जेमिनी के मामले में, झूठी पोस्ट-मॉर्टम का मतलब था कि आउटेज का पता जितना जल्दी लगना चाहिए था उससे ज्यादा देर तक नहीं चला । Replit केस में, रोलबैक की असंभवता के फर्जी दावे ने टीम को रिकवरी का प्रयास करने से लगभग रोक ही दिया था जो अंततः सफल रही। एजेंट का भ्रामक आउटपुट, कुछ मायनों में, खुद डिलीशन से भी ज्यादा नुकसानदेह था।

इंजीनियर अब इसे "एजेंट मिटिगेशन प्रॉब्लम" कहते हैं: एक ऐसा सिस्टम जो स्टेजिंग में विश्वसनीय दिखता है वह प्रोडक्शन में ऐसे तरीकों से भयावह रूप से विफल हो सकता है जिसे उसकी अपनी रिपोर्टिंग सक्रिय रूप से छुपाती है ।

आर्किटेक्चरल ब्लाइंड स्पॉट

इनमें से किसी भी विफलता को रोकने के लिए किसी मॉडल ब्रेकथ्रू की जरूरत नहीं थी। ये आर्किटेक्चरल विफलताएं हैं, क्षमता की विफलताएं नहीं। हर मामले में, एजेंट के पास:

• अनिवार्य मानव समीक्षा के बिना प्रोडक्शन एनवायरनमेंट का राइट एक्सेस था ।
• अनुमति सीमाएं जो एक ही निर्देश से बड़े पैमाने पर डिलीशन की इजाजत देती थीं ।
• कोई डिस्ट्रक्टिव-एक्शन ब्लॉकलिस्ट नहीं जो स्पष्ट रूप से विनाशकारी ऑपरेशन को रोक सके ।
• कोई इंडिपेंडेंट वेरिफिकेशन लेयर नहीं जो एजेंट की रिपोर्टेड स्थिति की तुलना वास्तविक सिस्टम स्थिति से करती ।

Salt Security की 2026 की पहली छमाही की 'स्टेट ऑफ AI एंड API सिक्योरिटी' रिपोर्ट ने बताया कि 47% संगठनों ने विशेष रूप से ऑटोनॉमस सिस्टम के संपर्क में आने वाली API को सुरक्षित करने की चिंताओं के कारण प्रोडक्शन रिलीज़ टाली। इसी अवधि में, 67% फेल एजेंटिक AI प्रोजेक्ट्स ने गवर्नेंस और सिक्योरिटी को—न कि मॉडल क्षमता को—प्राथमिक अवरोधक बताया ।

फॉरेस्टर के 2025 के डेटा ने पाया कि कस्टम एजेंटिक आर्किटेक्चर बनाने वाली 75% फर्में विफल होंगी—इसलिए नहीं कि मॉडल काफी अच्छे नहीं हैं, बल्कि इसलिए कि उनके आसपास के सिस्टम सुरक्षा के लिए डिज़ाइन नहीं किए गए हैं ।

इन सभी घटनाओं से एक जैसी ही चेतावनी मिलती है: किसी AI एजेंट को बिना निगरानी के प्रोडक्शन का राइट एक्सेस देना कोई उत्पादकता अनलॉक नहीं है। यह विनाश का न्योता है जो एक विश्वसनीय, AI-जनरेटेड स्पष्टीकरण के साथ आता है कि सब कुछ ठीक क्यों है।