Accenture और Anthropic का एआई सुरक्षा पर 2 अरब डॉलर का दांव

Accenture और Anthropic ने एआई सुरक्षा के लिए पांच साल की साझेदारी की घोषणा की है। इसका केंद्र एम्बेडेड मूल्यांकन है—यानी स्वतंत्र मूल्यांकनकर्ता Anthropic की आंतरिक टीमों और सुरक्षा साझेदारों के साथ लगातार काम करेंगे। दोनों कंपनियां इस काम की क्षमता विकसित करने के लिए पांच वर्षों में कम-से-कम 1-1 अरब डॉलर निवेश करने की उम्मीद करती हैं। यानी घोषित कुल प्रतिबद्धता कम-से-कम 2 अरब डॉलर है। 313

एम्बेडेड मूल्यांकनकर्ता क्या करेंगे?

कार्यक्रम का नेतृत्व Accenture की विशेषज्ञ एआई इकाई Faculty करेगी। इसकी टीम Anthropic के मॉडलों का मूल्यांकन और रेड-टीमिंग करेगी—अर्थात जानबूझकर कमजोरियों, गलत व्यवहार और सुरक्षा खामियों को खोजने की कोशिश। टीम मॉडल के अलाइनमेंट का आकलन करेगी और सुरक्षा उपायों की जांच करेगी। 313

यह सामान्य बाहरी ऑडिट से अलग मॉडल है। Anthropic के अनुसार, एम्बेडेड मूल्यांकनकर्ताओं को लगातार और कर्मचारियों-जैसी पहुंच देने का विचार है, ताकि वे यह देख सकें कि कंपनी प्रशिक्षण, तैनाती, संचालन और सुरक्षा प्रक्रियाओं के जिन मानकों का दावा करती है, उनका वास्तव में पालन हो रहा है या नहीं। जांच केवल लॉन्च से ठीक पहले तैयार मॉडल की नहीं, बल्कि उसके विकास और तैनाती से जुड़ी प्रक्रियाओं की भी होगी। 1441

हालांकि, कंपनियों ने यह भी कहा है कि एम्बेडेड मूल्यांकन अभी नया तरीका है और इसके कई व्यावहारिक नियम व प्रक्रियाएं तय होना बाकी हैं। 13

स्वतंत्रता कितनी होगी?

Anthropic के व्यापक प्रस्ताव में बाहरी समीक्षकों को ऐसी पहुंच देने की बात है जो काफी हद तक आंतरिक जोखिम-आकलन टीमों के समान हो। इसमें कार्यस्थल तक पहुंच और कर्मचारियों से बातचीत की क्षमता शामिल हो सकती है। प्रस्ताव यह भी कहता है कि मूल्यांकनकर्ता जोखिम, घटनाओं, कामकाजी तरीकों और अपनी पहुंच से जुड़े प्रमुख निष्कर्ष Anthropic के संपादकीय नियंत्रण के बिना प्रकाशित कर सकें। 1441

इस स्वतंत्रता की कुछ सीमाएं भी होंगी। Anthropic के मुताबिक वह केवल सुरक्षा-संवेदनशील, कानूनी विशेषाधिकार वाली, व्यावसायिक रूप से संवेदनशील या तीसरे पक्ष की गोपनीय जानकारी को सीमित रूप से हटाने का अधिकार रखेगा। असली कसौटी यह होगी कि अंतिम समझौते में पहुंच, रिपोर्टिंग और सार्वजनिक खुलासे के नियम कैसे लिखे जाते हैं। 1441

डारियो अमोदेई की “We Must Pace the Frontier” योजना से संबंध

Anthropic ने इस साझेदारी को अपने सीईओ डारियो अमोदेई के निबंध We Must Pace the Frontier में किए गए उस वादे की दिशा में शुरुआती कदम बताया है, जिसमें कंपनी के भीतर तीसरे पक्ष के मूल्यांकनकर्ताओं को शामिल करने की बात कही गई थी। 13

योजना के तीन हिस्से हैं:

1. एम्बेडेड तृतीय-पक्ष मूल्यांकनकर्ता: उन्नत या “फ्रंटियर” एआई विकसित करने वाली कंपनियां स्वतंत्र विशेषज्ञों को निरंतर, कर्मचारियों-जैसी पहुंच दें, ताकि वे सुरक्षा प्रक्रियाओं, प्रशिक्षण पाइपलाइनों और मॉडलों का आकलन कर सकें तथा घटनाओं की रिपोर्ट कर सकें। Anthropic ने अपने लिए इस कदम का वादा किया है। 1445
2. लोकतांत्रिक देशों में फ्रंटियर एआई लैब्स के बीच समन्वय: अमोदेई का ढांचा ऐसे साझा और सत्यापित किए जा सकने वाले तरीकों की मांग करता है, जिससे प्रतिस्पर्धा में सुरक्षा मानकों से समझौता करने की होड़ न बने। 21
3. वैश्विक समन्वय: प्रस्ताव लोकतांत्रिक देशों से आगे व्यापक अंतरराष्ट्रीय समन्वय की भी कल्पना करता है, हालांकि अलग-अलग सरकारों और कंपनियों के बीच सत्यापन की कठिनाइयों को स्वीकार करता है। 37

Anthropic का तर्क है कि सरकारों को स्वतंत्र मूल्यांकन और पारदर्शिता को केवल स्वैच्छिक कंपनी वादों पर छोड़ने के बजाय, फ्रंटियर-मॉडल डेवलपर्स के लिए मानक अपेक्षा बनाने में भूमिका निभानी चाहिए। 2427

केवल Accenture तक सीमित नहीं होगी व्यवस्था

यह समझौता Faculty को Anthropic का एकमात्र बाहरी मूल्यांकनकर्ता नहीं बनाता। Anthropic ने कहा है कि वह कई मूल्यांकनकर्ताओं के साथ काम करना चाहता है और METR समेत अन्य गैर-लाभकारी मूल्यांकनकर्ताओं के साथ अलग फंडिंग व्यवस्थाओं के तहत काम की संभावनाएं तलाश रहा है। Accenture भी दूसरे एआई डेवलपर्स के लिए इसी तरह का काम कर सकती है। 13

फिलहाल Anthropic, इस क्षमता को जल्दी विकसित करने की जरूरत का हवाला देते हुए, Accenture के काम को सीधे फंड करेगा। कंपनी का कहना है कि आगे चलकर साझा कोष या सरकारी फंडिंग मूल्यांकनकर्ताओं की स्वतंत्रता को बेहतर सहारा दे सकती है। 913

पहले की कारोबारी साझेदारी से क्या संबंध है?

यह सुरक्षा साझेदारी दिसंबर 2025 में दोनों कंपनियों के उद्यम-केंद्रित संबंध के विस्तार के बाद आई है। उस सौदे में Accenture Anthropic Business Group बनाया गया था और करीब 30,000 Accenture पेशेवरों को Claude पर प्रशिक्षण देने की योजना थी। 12

नई घोषणा का लक्ष्य अलग है: यह Anthropic के फ्रंटियर मॉडलों की सुरक्षा के लिए लगातार मूल्यांकन क्षमता खड़ी करने पर केंद्रित है। घोषणा के बाद शुरुआती आफ्टर-आवर्स कारोबार में Accenture के शेयरों में करीब 6% की तेजी बताई गई। 5

मुख्य बात

खबर केवल 2 अरब डॉलर की नियोजित प्रतिबद्धता नहीं है। बड़ा प्रयोग यह है कि बाहरी मूल्यांकनकर्ताओं को एआई कंपनी के भीतर ऐसी पहुंच दी जाए जो समय-समय पर होने वाले ऑडिट से कहीं अधिक गहरी और निरंतर हो।

यह मॉडल वास्तव में जवाबदेही बढ़ाता है या नहीं, इसका फैसला अंतिम शर्तों से होगा—विशेषकर मूल्यांकनकर्ताओं की वास्तविक पहुंच, प्रतिकूल निष्कर्ष प्रकाशित करने की उनकी स्वतंत्रता और इस तरह की व्यवस्था को अन्य फ्रंटियर एआई लैब्स व सरकारों द्वारा अपनाने पर। 1314