वोल्कर टुर्क: AI सुरक्षा के स्वैच्छिक वादे पर्याप्त नहीं, बाध्यकारी नियम जरूरी

संयुक्त राष्ट्र के मानवाधिकार उच्चायुक्त वोल्कर टुर्क ने चेतावनी दी है कि तेजी से अधिक शक्तिशाली AI विकसित करने की दौड़ को केवल कंपनियों के स्वैच्छिक सुरक्षा-वादों पर नहीं छोड़ा जा सकता। अपने खुले पत्र में उन्होंने कहा कि ऐसी स्व-नियमन व्यवस्था मौजूदा नुकसान से निपटने और उन्नत स्वायत्त AI मॉडलों को मानवीय सुरक्षा-उपायों को दरकिनार करने से रोकने के लिए “कतई पर्याप्त नहीं” है। 7

यहां फ्रंटियर AI से आशय क्षमता के सबसे अग्रणी छोर पर मौजूद AI प्रणालियों से है। टुर्क का तर्क है कि इनके जोखिमों और स्वीकार्य सीमाओं का फैसला कुछ कंपनियों के भरोसे नहीं छोड़ा जा सकता। 7

टुर्क ने सरकारों और कंपनियों से क्या करने को कहा

टुर्क की अपील सरकारों के साथ-साथ फ्रंटियर AI विकसित करने वाली कंपनियों, दोनों के लिए है। मुख्य मांगें ये हैं:

• बाध्यकारी, अधिकार-आधारित शासन: सरकारें केवल कॉर्पोरेट प्रतिज्ञाओं पर निर्भर रहने के बजाय मजबूत नियम लागू करें और देशों के बीच नियामक खामियों को रोकने के लिए सहयोग करें। 7
• लगातार मानवाधिकार उचित परिश्रम: डेवलपर्स को AI के पूरे जीवनचक्र में वास्तविक और संभावित मानवाधिकार प्रभावों की पहचान कर उन पर कार्रवाई करनी चाहिए। संयुक्त राष्ट्र के AI मार्गदर्शन के अनुसार इसमें जोखिमों की पहचान, कदम उठाना, उपायों की प्रभावशीलता की निगरानी और सार्वजनिक संवाद शामिल हैं; यह एक बार की औपचारिक जांच नहीं है।
• स्वतंत्र तकनीकी आकलन और सत्यापन: सुरक्षा के दावे सिर्फ कंपनियों के अपने आश्वासन पर स्वीकार न किए जाएं; उनकी स्वतंत्र जांच संभव होनी चाहिए। 7
• तत्काल बहुपक्षीय कार्रवाई: फ्रंटियर AI का शासन एक अंतरराष्ट्रीय मुद्दा है, इसलिए नियमों और सुरक्षा-गारंटियों को देशों तथा संस्थाओं के समन्वय से विकसित किया जाना चाहिए। 79

यह चेतावनी अभी क्यों आई

AI उद्योग में इस बात पर बहस तेज है कि अग्रणी लैबों को अधिक स्वायत्त और संभावित रूप से स्वयं में सुधार करने वाली प्रणालियों की दिशा में कितनी तेजी से बढ़ना चाहिए।

Anthropic और OpenAI, दोनों में काम कर चुके शोधकर्ता जैकब कॉक्सन ने सितंबर 2026 में Anthropic से इस्तीफा दिया। उन्होंने आरोप लगाया कि कंपनियां स्वयं-सुधार करने वाली सुपरइंटेलिजेंस की ओर दौड़ रही हैं और “हमारी जिंदगियों के साथ जुआ खेल रही हैं।” 68 कॉक्सन ने यह भी कहा कि AI बनाने वाले कुछ लोगों का मानना है कि यह दशक के अंत तक “हम सबको मार सकता है।” यह कॉक्सन और चिंतित डेवलपर्स से जुड़ी चेतावनी है, कोई स्थापित भविष्यवाणी नहीं। 6

इसी दौरान कर्मचारी-नेतृत्व वाली पहल Pacing the Frontier ने अमेरिकी सरकार से एक अंतरराष्ट्रीय प्रयास का समर्थन करने को कहा। इसका उद्देश्य ऐसे तकनीकी और शासन-उपकरण बनाना है जिनसे, यदि AI विकास मानवता की सुरक्षित निगरानी की क्षमता से आगे निकलने लगे, तो उसकी रफ्तार जानबूझकर धीमी की जा सके। पहल की वेबसाइट पर फ्रंटियर-AI कंपनियों के 1,386 हस्ताक्षरकर्ताओं का उल्लेख है। 15

उद्योग के भीतर “रफ्तार नियंत्रित करने” के लिए बढ़ता समर्थन महत्वपूर्ण है, लेकिन टुर्क के मुताबिक यह जवाबदेही की समस्या हल नहीं करता। स्वैच्छिक प्रतिबद्धताएं, चाहे उन्हें कंपनी के कर्मचारी या नेता समर्थन दें, लागू किए जा सकने वाले सार्वजनिक सुरक्षा-उपायों का विकल्प नहीं हो सकतीं। 7

मौजूदा नुकसान और दीर्घकालिक जोखिम—दोनों पर नजर

टुर्क ने मुद्दे को केवल बहुत दूर की किसी विनाशकारी आशंका तक सीमित नहीं रखा। उन्होंने कहा कि स्वैच्छिक स्व-नियमन मौजूदा नुकसान से निपटने और उन्नत स्वायत्त मॉडलों को मानवीय सुरक्षा-उपायों से बच निकलने से रोकने, दोनों के लिए अपर्याप्त है। 7

उपलब्ध रिपोर्टिंग में पत्र में बताए गए मौजूदा नुकसानों की विस्तृत, मदवार सूची नहीं है। इसलिए भेदभाव, निगरानी या गलत सूचना जैसी किसी खास श्रेणी को सीधे इस पत्र से जोड़ना सटीक नहीं होगा। स्पष्ट बात यह है कि टुर्क चाहते हैं कि AI के डिजाइन, तैनाती, आकलन और शासन—हर चरण में मानवाधिकार केंद्र में रहें। 7

असली कमी: स्वैच्छिक समर्थन बनाम लागू होने वाले नियम

कुछ AI उद्योग आवाजों और संयुक्त राष्ट्र की चेतावनी में एक साझा बिंदु दिखता है: AI क्षमताओं के विकास की गति को नियंत्रित करना पड़ सकता है और उसका स्वतंत्र मूल्यांकन जरूरी है। 715

फिर भी राजनीतिक कमी बनी हुई है। उद्योग-समर्थित वक्तव्य समन्वय को बढ़ावा दे सकते हैं, लेकिन वे साझा सीमाएं तय नहीं करते, जानकारी का खुलासा अनिवार्य नहीं बनाते, स्वतंत्र परीक्षण नहीं करा सकते और नुकसान होने पर जवाबदेही या उपचार का रास्ता नहीं बनाते। टुर्क सरकारों से इसी कमी को अंतरराष्ट्रीय मानवाधिकार कानून के तहत त्वरित, बहुपक्षीय नियमन के जरिए भरने की अपील कर रहे हैं। 79

नीतिनिर्माताओं और AI खरीदने वाली संस्थाओं के लिए संदेश सीधा है: सुरक्षा के दावों के साथ लगातार अधिकार-जोखिम आकलन, बाहरी जांच और स्पष्ट जवाबदेही का प्रमाण भी होना चाहिए—सिर्फ कंपनियों के स्वैच्छिक वादे नहीं।