किंग चार्ल्स तृतीय ने 17 सितंबर को स्कॉटलैंड के एरशायर स्थित डम्फ्रीज़ हाउस में AI कंपनियों और ब्रिटिश सरकार के वरिष्ठ प्रतिनिधियों की निजी बैठक बुलाई। इसमें Nvidia, Google DeepMind, OpenAI और Anthropic के प्रतिनिधियों के साथ ब्रिटेन के AI मंत्री कनिष्क नारायण भी शामिल थे। बैठक का उद्देश्य AI से सामाजिक लाभ लेने और मानव गरिमा बनाए रखने के तरीकों पर चर्चा करना था; रिपोर्टों के अनुसार इससे कोई बाध्यकारी नियामकीय समझौता नहीं निकला।
1
9
12
किंग चार्ल्स ने AI कंपनियों से क्या कहा
चार्ल्स ने AI को अवसर और चिंता—दोनों का स्रोत बताया। उन्होंने प्रतिभागियों से कहा कि यह तकनीक लोगों, समुदायों और ग्रह की सेवा में रहे तथा मानव नियंत्रण से बाहर न जाए। उन्होंने चेतावनी दी कि शक्तिशाली AI गलत हाथों में पड़कर संभावित रूप से विनाशकारी ढंग से इस्तेमाल हो सकती है; इसलिए बहुत देर होने से पहले सुरक्षा उपायों पर विचार जरूरी है।
9
11
13
यह चेतावनी उस बड़े सवाल के केंद्र में थी कि क्या तेजी से सक्षम होती AI प्रणालियां उन संस्थाओं, सुरक्षा प्रक्रियाओं और सामाजिक मानदंडों से आगे निकल सकती हैं जिनके जरिए उन्हें नियंत्रित किया जाना है। बैठक में इसी बात पर विचार हुआ कि AI के लाभों को बढ़ाते हुए जोखिम कैसे सीमित किए जाएं।
1
9
जेन्सन हुआंग का तर्क: AI को नहीं, उसके उत्पादों को नियंत्रित करें
Nvidia के सीईओ जेन्सन हुआंग का कहना यह नहीं था कि AI सुरक्षा वैकल्पिक है। उनका तर्क है कि कंपनियों को प्रणालियों की कठोर जांच करनी चाहिए और सुरक्षा को लेकर भरोसा न हो तो उत्पाद जारी नहीं करना चाहिए। वे इसे इंजीनियरिंग की जिम्मेदारी मानते हैं।
18
23
30
लेकिन हुआंग नियमन के लक्ष्य को अलग तरह से देखते हैं। उनके मुताबिक AI, सोशल मीडिया जैसे किसी एक उपभोक्ता उत्पाद की बजाय एक बुनियादी तकनीक है, जिसका उपयोग कई उत्पादों और सेवाओं में होता है। इसलिए नियामकों को AI से बने वास्तविक उत्पादों और सेवाओं पर ध्यान देना चाहिए, किसी तैनाती में गड़बड़ी होने पर निगरानी करनी चाहिए और जरूरत पड़ने पर मौजूदा कानूनों में प्रावधान जोड़ने चाहिए। उन्होंने स्वास्थ्य सेवा, परिवहन और मनोरंजन जैसे क्षेत्रों का उदाहरण दिया, जहां पहले से नियामकीय ढांचे मौजूद हैं।
26
28
यह उत्पाद- और क्षेत्र-विशिष्ट मॉडल है:
- जोखिम का आकलन ठोस उपयोग के संदर्भ में हो—मसलन स्वास्थ्य सेवा या परिवहन के उत्पाद में;
- AI तैनाती से समस्या पैदा होने पर संबंधित मौजूदा नियम लागू या विस्तारित किए जाएं; और
- रिलीज से पहले नियंत्रित माहौल में सावधानी से परीक्षण किया जाए।
23
28
इस सोच में पूरे AI क्षेत्र के लिए एक व्यापक नया कानून या मॉडल-विकास पर अनिवार्य विराम अपेक्षाकृत कम अहम है।
यह बैठक के एहतियाती स्वर से क्यों अलग था
चार्ल्स की चेतावनी ऐसे गंभीर दुरुपयोग और जोखिमों पर केंद्रित थी जो किसी नुकसानदेह उत्पाद की साफ पहचान होने से पहले ही उभर सकते हैं। यह शासन का अधिक पूर्व-सावधानी वाला दृष्टिकोण है: संभावित विनाशकारी परिणामों को रोकने के लिए सुरक्षा उपाय और अंतरराष्ट्रीय सहयोग पहले से मौजूद हों।
1
11
Anthropic के सीईओ डारियो अमोदेई ने अलग से फ्रंटियर AI मॉडलों के विकास की रफ्तार धीमी करने की अपील की थी, ताकि सुरक्षा उपाय गति पकड़ सकें। हुआंग ने नए कानूनों या विकास-गति कम करने के लिए विशेष समन्वय व्यवस्था की जरूरत पर असहमति जताई। उनका जोर इंजीनियरिंग, परीक्षण और मौजूदा कानूनी साधनों पर रहा।
8
30
व्यावहारिक मतभेद इसलिए इस सवाल पर है कि हस्तक्षेप कहां और कब हो:
| दृष्टिकोण |
मुख्य केंद्र |
पसंदीदा समय |
| हुआंग का दृष्टिकोण |
AI-सक्षम उत्पाद और विशिष्ट तैनाती |
रिलीज से पहले परीक्षण; जोखिम दिखने या कानून में स्पष्ट कमी मिलने पर क्षेत्रीय नियमों से कार्रवाई |
| बैठक में उभरा एहतियाती दृष्टिकोण |
बढ़ती क्षमताओं वाली AI से पैदा होने वाले तंत्र-स्तरीय और संभावित विनाशकारी जोखिम |
जोखिम या क्षमताएं नियंत्रण से आगे निकलने से पहले मजबूत सुरक्षा उपाय |
दोनों पक्ष सुरक्षा और मानव निगरानी का समर्थन करते हैं। फर्क जिम्मेदारी के बंटवारे में है। हुआंग डेवलपर्स की रिलीज-अनुशासन, इंजीनियरिंग मानकों और अलग-अलग उत्पादों के नियामकों पर अधिक भरोसा रखते हैं। चार्ल्स की टिप्पणियां—और साझा सिद्धांतों की व्यापक कोशिश—इस आशंका पर जोर देती हैं कि कुछ AI जोखिमों के लिए ऐसे समन्वित सुरक्षा-बंधनों की जरूरत हो सकती है जो किसी क्षेत्र में विफलता सामने आने से पहले ही काम करें।
9
23
28
निष्कर्ष
डम्फ्रीज़ हाउस की बैठक ने AI नियमन का विवाद हल नहीं किया। हालांकि, इसने मुख्य विभाजन स्पष्ट कर दिया: क्या AI को मौजूदा उत्पाद कानूनों और कठोर परीक्षण से मुख्यतः नियंत्रित किया जा सकता है, या फ्रंटियर प्रणालियां ऐसे बहु-क्षेत्रीय जोखिम पैदा करती हैं जिनके लिए नए, निवारक और समन्वित उपाय चाहिए? साझा उद्देश्य साफ है—AI मानवता के हित में रहे और मनुष्यों के नियंत्रण में रहे—लेकिन वहां पहुंचने का रास्ता अभी भी विवादित है।
9
12
28