AI की रफ्तार पर बहस: धीमी शुरुआत या पहले स्वतंत्र सुरक्षा जांच?

सबसे उन्नत AI मॉडल—जिन्हें अक्सर फ्रंटियर AI कहा जाता है—कितने उपयोगी होंगे, यह बहस का सिर्फ एक हिस्सा है। बड़ा सवाल है: जैसे-जैसे कंपनियां अधिक सक्षम मॉडल बनाने की होड़ में आगे बढ़ती हैं, वे उनकी सुरक्षा का भरोसेमंद प्रमाण कैसे देंगी? सितंबर 2026 में एक शोधकर्ता के इस्तीफे, चिंताजनक साइबर परीक्षणों की रिपोर्ट और AI उद्योग के प्रमुख लोगों की रफ्तार धीमी करने की अपील ने इस सवाल को और तीखा कर दिया। 33349

चेतावनियों के पीछे क्या है?

8 सितंबर को जैकब कॉक्सन ने Anthropic से इस्तीफे की घोषणा की। वह Anthropic और OpenAI, दोनों में मॉडल के प्रीट्रेनिंग—यानी शुरुआती प्रशिक्षण—पर शोध कर चुके थे। कॉक्सन ने आरोप लगाया कि कंपनियां अपनी क्षमताएं खुद बेहतर कर सकने वाले AI की ओर दौड़ रही हैं, मगर पर्याप्त जिम्मेदारी नहीं बरत रहीं। यह उद्योग के भीतर से आई गंभीर चेतावनी है; इस बात का प्रमाण नहीं कि ऐसे सिस्टम पहले ही इंसानी नियंत्रण से निकल चुके हैं या कोई विनाशकारी नतीजा तय है। उनके काम को केवल ‘सुरक्षा शोध’ बताना भी उनके शोध की प्रकृति को अधूरा दर्शाता है। 414

साइबर सुरक्षा से जुड़ी खबरें एक अलग चिंता सामने लाती हैं। द स्ट्रेट्स टाइम्स ने सर्वर हैक करने वाले अनियंत्रित AI मॉडल की रिपोर्ट का उल्लेख किया, जबकि लॉस एंजिलिस टाइम्स ने उन परीक्षणों का वर्णन किया जिनमें कई AI एजेंटों ने वास्तविक सिस्टम की सुरक्षा भेदी। उपलब्ध विवरण इन घटनाओं की पूरी परिस्थितियां नहीं बताते और न ही यह साबित करते हैं कि किसी AI ने परीक्षण से बाहर निकलकर स्वतंत्र रूप से हमला किया। फिर भी वे पूछने की वजह देते हैं कि ऐसी क्षमताओं को व्यापक इस्तेमाल से पहले कैसे परखा जाए। 3353

यहां कंपनियों के सामने साझा समस्या है: एक कंपनी धीमी पड़े तो उसे आशंका हो सकती है कि प्रतिस्पर्धी आगे निकल जाएंगे। इसीलिए चर्चा किसी एक लैब को रोकने के बजाय आपसी तालमेल से रफ्तार घटाने की है। 649

उद्योग और राजनीति में मतभेद

Anthropic के मुख्य कार्यकारी डारियो अमोदेई ने वैश्विक स्तर पर विकास धीमा करने और स्वतंत्र मूल्यांकनकर्ताओं को अग्रणी AI लैब में लगातार, लगभग कर्मचारियों जैसी पहुंच देने का प्रस्ताव रखा है। OpenAI के सैम ऑल्टमैन और एलन मस्क ने भी धीमी रफ्तार का समर्थन किया है। हालांकि, इससे यह नहीं मान लेना चाहिए कि तीनों एक जैसे नियमों या उन्हें लागू कराने के तरीके पर सहमत हैं। 495155

दूसरी ओर, रॉयटर्स के अनुसार एनविडिया के मुख्य कार्यकारी जेंसन हुआंग ने नए नियमों की जरूरत खारिज की है। अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने चीन के मुकाबले अमेरिका की बढ़त खोने की चिंता जताते हुए रफ्तार घटाने का विरोध किया है। उन्होंने नियंत्रण से बाहर होते AI के डर को ‘धोखा’ और ‘घोटाला’ कहा है, लेकिन कुछ नियमन की जरूरत भी स्वीकार की है—बिना ठोस उपाय बताए। इसलिए उनकी स्थिति को प्रस्तावित धीमी रफ्तार और अतिरिक्त निगरानी का विरोध कहना अधिक सटीक है, न कि कोई विस्तृत वैकल्पिक सुरक्षा योजना। 495257

इस मतभेद के केंद्र में सिर्फ नवाचार और प्रतिस्पर्धा नहीं, सबूत जांचने का अधिकार भी है। डेवलपर का ‘मॉडल सुरक्षित है’ कहना अधिक भरोसेमंद होगा अगर योग्य बाहरी विशेषज्ञ मॉडल, परीक्षण और किसी विफलता की परिस्थितियों की जांच कर सकें। 2355

दूसरे क्षेत्रों से क्या सीखा जा सकता है?

विमानन क्षेत्र दिखाता है कि साझा सुरक्षा लक्ष्य और उन्हें पूरा करने के प्रमाण तय किए जा सकते हैं। यूरोपीय विमानन सुरक्षा एजेंसी EASA के प्रस्ताव AI आधारित विमानन कार्यों में मानवीय निगरानी, सीखते या बदलते व्यवहार की सीमाओं, सत्यापन और अनुपालन साबित करने के तरीकों पर बात करते हैं। लेकिन सामान्य इस्तेमाल वाले फ्रंटियर AI मॉडल के लिए विमान मंजूरी की प्रक्रिया ज्यों की त्यों लागू नहीं की जा सकती; उनके अनुरूप नए नियम चाहिए होंगे। 17

परमाणु हथियारों से जुड़ी व्यवस्था सीमा-पार जोखिम पर सत्यापन योग्य सहयोग का विचार देती है। वित्तीय जोखिम प्रबंधन याद दिलाता है कि केवल एक मॉडल के परीक्षण में पास होने से बात पूरी नहीं होती—कई सिस्टम की साझा निर्भरता से व्यापक विफलता भी हो सकती है। विशेषज्ञों ने इन क्षेत्रों को संभावित उदाहरण बताया है, न कि ऐसे मौजूदा नियम जो पहले से फ्रंटियर AI पर लागू हों। 21

सिंगापुर AI एसोसिएशन के अध्यक्ष जोनाथन झांग ने विश्व स्तर पर सहमत नियमों के लिए एक अंतरराष्ट्रीय निकाय और अनुपालन सुनिश्चित करने वाले राष्ट्रीय नियामकों का विचार रखा है। उनका लक्ष्य ऐसी सुरक्षा व्यवस्था है जिस पर अंतरराष्ट्रीय भरोसा हो और जिसकी स्वतंत्र जांच की जा सके—विमानन में ऐसी व्यवस्था विकसित होने में लगे दशकों से कम समय में। यह प्रस्ताव है, पहले से स्थापित व्यवस्था नहीं। 23

शुरुआती कदम स्पष्ट हो सकता है: स्वतंत्र जांचकर्ता क्या देख सकेंगे, परीक्षण और घटनाएं कैसे दर्ज होंगी, और सबसे अधिक असर डाल सकने वाली क्षमताओं को इस्तेमाल में लाने से पहले कौन-सा प्रमाण जरूरी होगा? इससे भविष्य के हर AI जोखिम पर सहमति नहीं बनेगी, लेकिन सुरक्षा के दावों को परखना संभव होगा—बिना बेलगाम होड़ और पूरी तरह रोक के बीच सिर्फ एक विकल्प चुनने के। 172355