एक AI एजेंट को उसके इनपुट चैनलों, मेमोरी मॉड्यूल या बाहरी डेटा फीड में डाले गए प्रतिकूल टेक्स्ट द्वारा धोखा दिया जा सकता है। Google DeepMind के 2026 के वर्गीकरण ("AI Agent Traps") में पाया गया कि अदृश्य HTML सामग्री इंजेक्शन ने स्वायत्त एजेंटों के खिलाफ 86% सफलता दर हासिल की । यहां जोखिम "मैंने क्या साइन किया?" से बदलकर "मेरे एजेंट ने क्या अनुमान लगाया, और किन अनुमतियों के तहत?" हो जाता है ।
स्वायत्त एजेंट जो आर्बिट्राज (arbitrage) निष्पादित करते हैं, उन्हें प्रतिकूल MEV बॉट्स द्वारा "सैंडविच" या फ्रंट-रन किया जा सकता है। फ्लैश लोन-सुविधा वाले हमलों ने 2026 में DeFi प्रोटोकॉल से $2.4 बिलियन निकाल लिया — जो साल-दर-साल 340% की वृद्धि है — क्योंकि AI-अनुकूलित बॉट्स ने आर्बिट्राज पथों को हथियार बना लिया ।
जो एजेंट प्राइवेट की रखते हैं, बाजार डेटा पार्स करते हैं और स्वायत्त रूप से लेन-देन जमा करते हैं, वे एक नया प्रकार का अनुबंध जोखिम पैदा करते हैं। एक प्रोटोकॉल को Solidity स्तर पर पूरी तरह से ऑडिट किया जा सकता है और फिर भी वह फंड खो सकता है, क्योंकि विशेषाधिकार प्राप्त अभिनेता एक भाषा मॉडल है जिसे टेक्स्ट से हेरफेर किया जा सकता है ।
AI मॉडल (जैसे, Anthropic का Claude Opus 4.8) ने सुरक्षा शोधकर्ताओं और हमलावरों दोनों को तेजी से महत्वपूर्ण कमजोरियों का पता लगाने में सक्षम बनाया। Shielded Labs ने AI एजेंट का उपयोग करके Zcash के Orchard पूल में एक बग पाया जो मई 2022 से मौजूद था । उत्तर कोरियाई हैकिंग समूह — जो H1 2026 में सभी क्रिप्टो हैक नुकसान ($643M) के 66% के लिए जिम्मेदार हैं — एक्सप्लॉइट खोज को स्वचालित करने के लिए तेजी से AI का उपयोग कर रहे हैं ।
React Server Components (CVE-2025-55182) में एक गंभीर भेद्यता (CVSS 10.0) ने हमलावरों को DApp फ्रंटएंड सर्वरों पर रिमोट कोड निष्पादन प्राप्त करने की अनुमति दी, जो स्थानीय AI एजेंटों के लिए हस्ताक्षरकर्ता-प्रॉक्सी के रूप में कार्य करते हैं, और सत्र कुंजियों को इंटरसेप्ट करते हैं ।
| घटना | तारीख | नुकसान | विवरण |
|---|---|---|---|
| Drift Protocol | 12 अप्रैल, 2026 | ~$285M | फ्लैश लोन + ओरेकल मैनिपुलेशन हमला, AI-अनुकूलित |
| KelpDAO | 23 अप्रैल, 2026 | ~$292M | गवर्नेंस कॉन्ट्रैक्ट लॉजिक एक्सप्लॉइट; Drift के साथ मिलकर, इन दो घटनाओं ने H1 2026 के 44% नुकसान के लिए जिम्मेदार थे |
| Boltz शटडाउन | 3 अगस्त, 2026 | अघोषित (नुकसान को अवशोषित किया) | AI-सहायता प्राप्त स्वचालित जांच के महीनों के बाद गैर-कस्टोडियल Bitcoin स्वैप/ब्रिज को बंद कर दिया गया, जो छोटी टीम की पैचिंग क्षमता से आगे निकल गया |
| Orchard पूल भेद्यता | जून 2026 में खोजा गया | शोषण से पहले पैच किया गया | AI एजेंट (Claude Opus 4.8) द्वारा पाया गया महत्वपूर्ण बग; मई 2022 से मौजूद था |
| 212 ऑन-चेन एक्सप्लॉइट (H1 2026) | जनवरी–जून 2026 | $1.1B (Blockaid) / $1.32B (CertiK) | रिकॉर्ड घटना मात्रा — 2025 की तुलना में 3.4 गुना अधिक घटनाएं |
यदि मौजूदा रुझान जारी रहे तो AI-संचालित स्मार्ट कॉन्ट्रैक्ट एक्सप्लॉइट के लिए वार्षिक नुकसान का अनुमान 2027 तक $10 बिलियन से $20 बिलियन तक है ।
सिंगापुर MAS — अगस्त 2026 में, मॉनेटरी अथॉरिटी ऑफ सिंगापुर ने पुष्टि की कि एजेंटिक AI इसके बाध्यकारी बैंक नियमों और आगामी दिशानिर्देशों AI जोखिम प्रबंधन (नवंबर 2025 में परामर्श शुरू) के तहत कवर किया गया है। MAS Project MindForge के माध्यम से व्यावहारिक बुनियादी ढांचा भी बना रहा है ।
अमेरिकी ट्रेजरी — FS AI RMF — वित्तीय सेवा AI जोखिम प्रबंधन ढांचा (फरवरी 2026) बैंकिंग और वित्त में AI के लिए विशेष रूप से एक जोखिम-आधारित शासन संरचना प्रदान करता है ।
EU AI Act + MiCA — अगस्त 2026 तक, EU में AI एजेंटों के लिए कोई एकल अंतिम अनुपालन गाइड नहीं है। संगठनों को EU AI Act और Markets in Crypto-Assets विनियमन से आवश्यकताओं को संश्लेषित करना होगा ।
सिंगापुर IMDA — एजेंटिक AI के लिए मॉडल AI गवर्नेंस फ्रेमवर्क — अगस्त 2026 में प्रकाशित, जिसमें अग्रिम जोखिम मूल्यांकन, एजेंट जीवनचक्र में तकनीकी नियंत्रण और स्वायत्तता स्तर के अनुपात में मानव निरीक्षण की आवश्यकता है ।
क्लाउड सिक्योरिटी अलायंस — ऑटोनॉमी लेवल्स और कंट्रोल फ्रेमवर्क — पांच प्रमुख सिद्धांत: स्वायत्तता को स्पष्ट रूप से उचित ठहराया जाना चाहिए, उच्च स्वायत्तता के लिए मजबूत नियंत्रण की आवश्यकता है, मानव निरीक्षण जोखिम के अनुपात में होना चाहिए, निरंतर निगरानी, और स्पष्ट जवाबदेही ।
कार्रवाई सत्यापन के लिए नियतात्मक नीति इंजन (Deterministic policy engine for action validation). सभी उपयोगकर्ता-आपूर्ति और पुनर्प्राप्त सामग्री को अविश्वसनीय मानें। प्रत्येक प्रस्तावित एजेंट कार्रवाई को एक नियतात्मक नीति इंजन के विरुद्ध मान्य करें — इनपुट सैनिटाइजेशन अकेले प्रतिकूल निर्देशों को नहीं हटा सकता ।
उच्च-मूल्य या उच्च-जोखिम वाली कार्रवाइयों के लिए मानव-इन-द-लूप अनुमोदन द्वार (Human-in-the-loop approval gates) ।
कर्तव्यों का पृथक्करण, अनुमोदन सीमा, और पहुंच समीक्षा — AI एजेंटों पर मानव ऑपरेटरों के लिए उपयोग किए जाने वाले समान वित्तीय नियंत्रण सिद्धांतों को लागू करें (जैसे, बड़े स्थानान्तरण के लिए दोहरा प्राधिकरण) ।
प्रतिकूल प्रॉम्प्ट और असामान्य व्यवहार पैटर्न के लिए सामग्री फ़िल्टरिंग और आउटपुट निगरानी ।
स्वायत्तता स्तर गेटिंग (Autonomy level gating) — एजेंटों को डिफ़ॉल्ट रूप से अधिकतम स्वायत्तता नहीं दी जानी चाहिए; उच्च-मूल्य वाली कार्रवाइयों के लिए स्पष्ट एस्केलेशन पथ के साथ कम स्वायत्तता ।
एजेंट-विशिष्ट ऑडिटिंग और अपरिवर्तनीय प्रवर्तन (Agent-specific auditing and invariant enforcement) — मानक स्मार्ट कॉन्ट्रैक्ट ऑडिट से परे, एजेंटों को रनटाइम मॉनिटर की आवश्यकता होती है जो पूर्वनिर्धारित अपरिवर्तनीय और सर्किट ब्रेकर के खिलाफ कार्यों की जांच करते हैं ।
संदर्भ-जागरूक इनपुट सैनिटाइजेशन और मेमोरी आइसोलेशन — बाहरी डेटा फीड या एजेंट मेमोरी मॉड्यूल के माध्यम से प्रॉम्प्ट इंजेक्शन को रोकें ।
चार-परत शासन वास्तुकला (शैक्षणिक शोध में प्रस्तावित): प्रत्येक मॉडल के बगल में स्व-नियमन मॉड्यूल, इन-हाउस मॉडल गवर्नेंस, केंद्रीकृत निरीक्षण, और बाहरी नियामक रिपोर्टिंग ।
एक AI एजेंट को उसके इनपुट चैनलों, मेमोरी मॉड्यूल या बाहरी डेटा फीड में डाले गए प्रतिकूल टेक्स्ट द्वारा धोखा दिया जा सकता है। Google DeepMind के 2026 के वर्गीकरण ("AI Agent Traps") में पाया गया कि अदृश्य HTML सामग्री इंजेक्शन ने स्वायत्त एजेंटों के खिलाफ 86% सफलता दर हासिल की । यहां जोखिम "मैंने क्या साइन किया?" से बदलकर "मेरे एजेंट ने क्या अनुमान लगाया, और किन अनुमतियों के तहत?" हो जाता है ।
स्वायत्त एजेंट जो आर्बिट्राज (arbitrage) निष्पादित करते हैं, उन्हें प्रतिकूल MEV बॉट्स द्वारा "सैंडविच" या फ्रंट-रन किया जा सकता है। फ्लैश लोन-सुविधा वाले हमलों ने 2026 में DeFi प्रोटोकॉल से $2.4 बिलियन निकाल लिया — जो साल-दर-साल 340% की वृद्धि है — क्योंकि AI-अनुकूलित बॉट्स ने आर्बिट्राज पथों को हथियार बना लिया ।
जो एजेंट प्राइवेट की रखते हैं, बाजार डेटा पार्स करते हैं और स्वायत्त रूप से लेन-देन जमा करते हैं, वे एक नया प्रकार का अनुबंध जोखिम पैदा करते हैं। एक प्रोटोकॉल को Solidity स्तर पर पूरी तरह से ऑडिट किया जा सकता है और फिर भी वह फंड खो सकता है, क्योंकि विशेषाधिकार प्राप्त अभिनेता एक भाषा मॉडल है जिसे टेक्स्ट से हेरफेर किया जा सकता है ।
AI मॉडल (जैसे, Anthropic का Claude Opus 4.8) ने सुरक्षा शोधकर्ताओं और हमलावरों दोनों को तेजी से महत्वपूर्ण कमजोरियों का पता लगाने में सक्षम बनाया। Shielded Labs ने AI एजेंट का उपयोग करके Zcash के Orchard पूल में एक बग पाया जो मई 2022 से मौजूद था । उत्तर कोरियाई हैकिंग समूह — जो H1 2026 में सभी क्रिप्टो हैक नुकसान ($643M) के 66% के लिए जिम्मेदार हैं — एक्सप्लॉइट खोज को स्वचालित करने के लिए तेजी से AI का उपयोग कर रहे हैं ।
React Server Components (CVE-2025-55182) में एक गंभीर भेद्यता (CVSS 10.0) ने हमलावरों को DApp फ्रंटएंड सर्वरों पर रिमोट कोड निष्पादन प्राप्त करने की अनुमति दी, जो स्थानीय AI एजेंटों के लिए हस्ताक्षरकर्ता-प्रॉक्सी के रूप में कार्य करते हैं, और सत्र कुंजियों को इंटरसेप्ट करते हैं ।
| घटना | तारीख | नुकसान | विवरण |
|---|---|---|---|
| Drift Protocol | 12 अप्रैल, 2026 | ~$285M | फ्लैश लोन + ओरेकल मैनिपुलेशन हमला, AI-अनुकूलित |
| KelpDAO | 23 अप्रैल, 2026 | ~$292M | गवर्नेंस कॉन्ट्रैक्ट लॉजिक एक्सप्लॉइट; Drift के साथ मिलकर, इन दो घटनाओं ने H1 2026 के 44% नुकसान के लिए जिम्मेदार थे |
| Boltz शटडाउन | 3 अगस्त, 2026 | अघोषित (नुकसान को अवशोषित किया) | AI-सहायता प्राप्त स्वचालित जांच के महीनों के बाद गैर-कस्टोडियल Bitcoin स्वैप/ब्रिज को बंद कर दिया गया, जो छोटी टीम की पैचिंग क्षमता से आगे निकल गया |
| Orchard पूल भेद्यता | जून 2026 में खोजा गया | शोषण से पहले पैच किया गया | AI एजेंट (Claude Opus 4.8) द्वारा पाया गया महत्वपूर्ण बग; मई 2022 से मौजूद था |
| 212 ऑन-चेन एक्सप्लॉइट (H1 2026) | जनवरी–जून 2026 | $1.1B (Blockaid) / $1.32B (CertiK) | रिकॉर्ड घटना मात्रा — 2025 की तुलना में 3.4 गुना अधिक घटनाएं |
यदि मौजूदा रुझान जारी रहे तो AI-संचालित स्मार्ट कॉन्ट्रैक्ट एक्सप्लॉइट के लिए वार्षिक नुकसान का अनुमान 2027 तक $10 बिलियन से $20 बिलियन तक है ।
सिंगापुर MAS — अगस्त 2026 में, मॉनेटरी अथॉरिटी ऑफ सिंगापुर ने पुष्टि की कि एजेंटिक AI इसके बाध्यकारी बैंक नियमों और आगामी दिशानिर्देशों AI जोखिम प्रबंधन (नवंबर 2025 में परामर्श शुरू) के तहत कवर किया गया है। MAS Project MindForge के माध्यम से व्यावहारिक बुनियादी ढांचा भी बना रहा है ।
अमेरिकी ट्रेजरी — FS AI RMF — वित्तीय सेवा AI जोखिम प्रबंधन ढांचा (फरवरी 2026) बैंकिंग और वित्त में AI के लिए विशेष रूप से एक जोखिम-आधारित शासन संरचना प्रदान करता है ।
EU AI Act + MiCA — अगस्त 2026 तक, EU में AI एजेंटों के लिए कोई एकल अंतिम अनुपालन गाइड नहीं है। संगठनों को EU AI Act और Markets in Crypto-Assets विनियमन से आवश्यकताओं को संश्लेषित करना होगा ।
सिंगापुर IMDA — एजेंटिक AI के लिए मॉडल AI गवर्नेंस फ्रेमवर्क — अगस्त 2026 में प्रकाशित, जिसमें अग्रिम जोखिम मूल्यांकन, एजेंट जीवनचक्र में तकनीकी नियंत्रण और स्वायत्तता स्तर के अनुपात में मानव निरीक्षण की आवश्यकता है ।
क्लाउड सिक्योरिटी अलायंस — ऑटोनॉमी लेवल्स और कंट्रोल फ्रेमवर्क — पांच प्रमुख सिद्धांत: स्वायत्तता को स्पष्ट रूप से उचित ठहराया जाना चाहिए, उच्च स्वायत्तता के लिए मजबूत नियंत्रण की आवश्यकता है, मानव निरीक्षण जोखिम के अनुपात में होना चाहिए, निरंतर निगरानी, और स्पष्ट जवाबदेही ।
कार्रवाई सत्यापन के लिए नियतात्मक नीति इंजन (Deterministic policy engine for action validation). सभी उपयोगकर्ता-आपूर्ति और पुनर्प्राप्त सामग्री को अविश्वसनीय मानें। प्रत्येक प्रस्तावित एजेंट कार्रवाई को एक नियतात्मक नीति इंजन के विरुद्ध मान्य करें — इनपुट सैनिटाइजेशन अकेले प्रतिकूल निर्देशों को नहीं हटा सकता ।
उच्च-मूल्य या उच्च-जोखिम वाली कार्रवाइयों के लिए मानव-इन-द-लूप अनुमोदन द्वार (Human-in-the-loop approval gates) ।
कर्तव्यों का पृथक्करण, अनुमोदन सीमा, और पहुंच समीक्षा — AI एजेंटों पर मानव ऑपरेटरों के लिए उपयोग किए जाने वाले समान वित्तीय नियंत्रण सिद्धांतों को लागू करें (जैसे, बड़े स्थानान्तरण के लिए दोहरा प्राधिकरण) ।
प्रतिकूल प्रॉम्प्ट और असामान्य व्यवहार पैटर्न के लिए सामग्री फ़िल्टरिंग और आउटपुट निगरानी ।
स्वायत्तता स्तर गेटिंग (Autonomy level gating) — एजेंटों को डिफ़ॉल्ट रूप से अधिकतम स्वायत्तता नहीं दी जानी चाहिए; उच्च-मूल्य वाली कार्रवाइयों के लिए स्पष्ट एस्केलेशन पथ के साथ कम स्वायत्तता ।
एजेंट-विशिष्ट ऑडिटिंग और अपरिवर्तनीय प्रवर्तन (Agent-specific auditing and invariant enforcement) — मानक स्मार्ट कॉन्ट्रैक्ट ऑडिट से परे, एजेंटों को रनटाइम मॉनिटर की आवश्यकता होती है जो पूर्वनिर्धारित अपरिवर्तनीय और सर्किट ब्रेकर के खिलाफ कार्यों की जांच करते हैं ।
संदर्भ-जागरूक इनपुट सैनिटाइजेशन और मेमोरी आइसोलेशन — बाहरी डेटा फीड या एजेंट मेमोरी मॉड्यूल के माध्यम से प्रॉम्प्ट इंजेक्शन को रोकें ।
चार-परत शासन वास्तुकला (शैक्षणिक शोध में प्रस्तावित): प्रत्येक मॉडल के बगल में स्व-नियमन मॉड्यूल, इन-हाउस मॉडल गवर्नेंस, केंद्रीकृत निरीक्षण, और बाहरी नियामक रिपोर्टिंग ।