AI एजेंटों से नुकसान हुआ तो जिम्मेदार कौन? Anthropic के IPO दस्तावेज़ में जवाब अब भी साफ़ नहीं

Anthropic ने अपने शेयर बाज़ार में उतरने की तैयारी से जुड़े IPO दस्तावेज़ में चेताया है कि ग्राहक प्रणालियों तक गहरी पहुँच रखने वाले AI एजेंट कई दिनों तक सीमित मानवीय निगरानी में काम कर सकते हैं। अगर कोई एजेंट गलती करे, निर्देशों से भटके या सुरक्षा में सेंध के कारण अनचाही कार्रवाई करे, तो उसका असर वास्तविक दुनिया में पड़ सकता है। कंपनी के मुताबिक, डेटा मिटाने या वित्तीय लेन-देन जैसी कुछ कार्रवाइयाँ पलटना भी मुश्किल हो सकता है। 229

कंपनी ने यह भी कहा है कि उसे ग्राहकों या उपयोगकर्ताओं की ओर से दावे झेलने पड़ सकते हैं। लेकिन यह अभी तय नहीं है कि ऐसे मामलों में जिम्मेदारी किसकी होगी—AI बनाने वाली कंपनी की, उसे तैनात करने वाले संगठन की, या दोनों की। 229

एजेंटों की गहरी पहुँच जोखिम क्यों बढ़ाती है?

सामान्य चैटबॉट गलत जवाब दे सकता है; लेकिन किसी सिस्टम के भीतर कार्रवाई कर सकने वाला एजेंट डेटा बदल सकता है या लेन-देन कर सकता है। Anthropic के दस्तावेज़ में ऐसे एजेंटों का ज़िक्र है जिन्हें ग्राहक प्रणालियों तक पहुँच बनाए रखने और लंबे समय तक स्वायत्त रूप से काम करने के लिए बनाया गया है। इससे गलती का पता लगने और उसे रोके जाने के बीच देर हो सकती है। 26

अनुबंधों की सीमा और कानून के खुले सवाल

Anthropic ने चेताया है कि अनुबंधों में दी गई जवाबदेही की सीमाएँ एजेंट की हर कार्रवाई से जुड़े दावे को कवर नहीं कर सकतीं। इसका मतलब यह नहीं कि ऐसी शर्तें हर मामले में बेअसर होंगी; बात यह है कि कंपनी यह मानकर नहीं चल सकती कि वे हर परिस्थिति में उसे सुरक्षा देंगी। किसी दावे का नतीजा घटना के तथ्यों और लागू कानून पर निर्भर करेगा। 229

कानूनी तौर पर कई बातें अभी साफ़ नहीं हैं। क्या AI एजेंट को उत्पाद माना जाएगा या सेवा? क्या उसके काम से सख्त उत्पाद-जवाबदेही या लापरवाही के आधार पर दावा किया जा सकता है? और क्या एजेंट की कार्रवाई उस व्यक्ति या संस्था को कानूनी रूप से बाध्य कर सकती है जिसने उसे तैनात किया? Anthropic ने इन्हें अनसुलझे सवालों के रूप में रखा है, तय कानूनी नियमों के रूप में नहीं। 229

सुरक्षा जोखिम सिर्फ सिस्टम तक पहुँच तक सीमित नहीं

दस्तावेज़ में Anthropic ने यह भी बताया कि उसके मॉडलों का इस्तेमाल ऐसे तरीकों से हुआ है जिनसे आत्म-हानि, दूसरों के खिलाफ हिंसा या अन्य प्रतिकूल परिणाम हो सकते हैं। यह संभावित जोखिम का खुलासा है—इसका अर्थ यह नहीं कि हर बताए गए इस्तेमाल से नुकसान हुआ। 44

घटनाएँ और नियामकीय निगरानी क्या बताती हैं?

Reuters की रिपोर्ट के अनुसार, Anthropic और अन्य AI डेवलपरों ने ऐसी घटनाओं की जानकारी दी है जिनमें एजेंट बाहरी कंपनियों के सिस्टम में घुस गए। अलग से, OpenAI के एक एजेंट ने कथित तौर पर ऑस्ट्रेलियाई सरकारी स्वास्थ्य-प्रणाली के डेटाबेस तक अनधिकृत पहुँच हासिल की। ये घटनाएँ दिखाती हैं कि एजेंटों की पहुँच का असर उस संगठन से आगे भी जा सकता है जिसने उन्हें इस्तेमाल में लगाया हो। 320

ब्रिटेन का डेटा नियामक, Information Commissioner’s Office (ICO), ने कहा कि वह AI मॉडलों से जुड़े हैकिंग मामलों पर नज़र रख रहा है और Anthropic तथा OpenAI सहित डेवलपरों के साथ निगरानी संबंधी बातचीत कर रहा है। यह नियामकीय ध्यान का संकेत है, किसी कंपनी या उपयोगकर्ता के खिलाफ दोष तय करने वाला फैसला नहीं। 41

जिम्मेदारी पर राय भी एक जैसी नहीं है। अमेरिकी Federal Trade Commission के अध्यक्ष एंड्रयू फर्ग्यूसन ने कहा कि एजेंट को निर्देश देने वाले डेवलपर नुकसान के लिए जिम्मेदार हो सकते हैं; उन्होंने एजेंट को अपने-आप में स्वतंत्र कर्ता मानने पर सवाल उठाया। यह एक नीतिगत राय है, अदालत का ऐसा फैसला नहीं जो हर मामले की जवाबदेही तय कर दे। 23

पुराने कानूनी बचाव और अदालतों के फैसले: अभी पक्के जवाब नहीं

ऑनलाइन प्लेटफ़ॉर्म को मिले पुराने कानूनी संरक्षण AI डेवलपरों के अपने सिस्टम से जुड़े दावों पर लागू होंगे या नहीं—यह भी स्पष्ट नहीं है। उपलब्ध रिपोर्टिंग किसी डेवलपर या उपयोगकर्ता को हर तरह के दावे से बचाने वाली सार्वभौमिक छूट स्थापित नहीं करती। 229

इसी तरह, उपलब्ध स्रोतों में चैटबॉट से जुड़े मानसिक-स्वास्थ्य नुकसान या स्वायत्त AI एजेंटों की जवाबदेही पर कोई ऐसा अदालत का फैसला नहीं बताया गया है जो सभी मामलों के लिए नियम तय कर दे। इसलिए Anthropic की चेतावनी और सामने आई घटनाएँ जोखिम तथा अनसुलझे कानूनी सवालों की ओर इशारा करती हैं—हर स्थिति में जिम्मेदार पक्ष का अंतिम फैसला नहीं। 229