EU AI Act के हाई-रिस्क AI नियम: कंपनियों को 2027 से पहले क्या तैयार करना होगा

हाई-रिस्क AI के नियमों को लेकर सबसे अहम बात समयसीमा है। यूरोपीय संघ (EU) ने इन प्रणालियों के पूरे अनुपालन दायित्वों को टाला है; वे पहले से लागू नहीं हैं। Annex III में आने वाले स्टैंड-अलोन हाई-रिस्क AI सिस्टम के लिए नियम 2 दिसंबर 2027 से लागू होने हैं। वहीं, कुछ विनियमित उत्पादों का हिस्सा बनने वाले हाई-रिस्क AI सिस्टम के लिए तारीख 2 अगस्त 2028 है। 18

EU बाजार में ऐसा AI सिस्टम पेश करने की योजना बना रहे प्रदाताओं के लिए चुनौती सिर्फ कानूनी कागजी कार्रवाई नहीं है। उन्हें लॉन्च से पहले यह दिखाने लायक प्रक्रिया बनानी होगी कि सिस्टम सुरक्षित, ट्रेस करने योग्य और जवाबदेह है।

किन AI सिस्टम को हाई-रिस्क माना जाता है?

हाई-रिस्क श्रेणी में मोटे तौर पर दो प्रकार के सिस्टम आते हैं:

• ऐसे AI सिस्टम जो EU के खास उत्पाद-कानूनों के तहत आने वाले उत्पादों के सुरक्षा घटक हों और जिन उत्पादों को किसी स्वतंत्र तीसरे पक्ष से अनुरूपता आकलन (conformity assessment) कराना जरूरी हो।
• Annex III में सूचीबद्ध विशिष्ट उपयोग-क्षेत्रों में इस्तेमाल होने वाले AI सिस्टम, हालांकि कानून में कुछ योग्यताएं और अपवाद भी हैं। 15

यह वर्गीकरण अहम है, क्योंकि हाई-रिस्क दर्जा मिलने पर सामान्य AI टूल की तुलना में पूरे जीवनचक्र के लिए कहीं अधिक कठोर जिम्मेदारियां शुरू हो जाती हैं।

प्रदाताओं को किन अनुपालन व्यवस्थाओं की तैयारी करनी चाहिए?

जोखिम प्रबंधन और डेटा गवर्नेंस

प्रदाताओं को जोखिम पहचानने, उनका आकलन करने और उन्हें कम करने की व्यवस्था बनानी होगी। प्रशिक्षण, सत्यापन और परीक्षण में इस्तेमाल डेटा इतना उपयुक्त होना चाहिए कि भेदभावपूर्ण नतीजों का जोखिम घटे। नियम प्रासंगिक, पर्याप्त रूप से प्रतिनिधिक और सही तरीके से नियंत्रित डेटा पर जोर देते हैं। 115

दस्तावेज़ीकरण और ट्रेसबिलिटी

हाई-रिस्क सिस्टम में ऐसे लॉग होने चाहिए जो नतीजों तक पहुंचने की प्रक्रिया का पता लगाने में मदद करें। साथ ही, सिस्टम, उसके उद्देश्य और इस्तेमाल की सीमाओं को समझाने वाले विस्तृत तकनीकी दस्तावेज़ जरूरी होंगे। इन्हीं के आधार पर अधिकारी अनुपालन का आकलन कर सकेंगे। 1

मानव निगरानी, सटीकता और साइबर सुरक्षा

नियम उपयुक्त मानव निगरानी की मांग करते हैं। यानी यह पहले से तय होना चाहिए कि कोई व्यक्ति कब सिस्टम के नतीजे में हस्तक्षेप कर सकता है, उसे बदल सकता है या सिस्टम का इस्तेमाल रोक सकता है। प्रदाता को सिस्टम की सटीकता, मजबूती और साइबर सुरक्षा का उच्च स्तर भी सुनिश्चित करना होगा। सिस्टम इस्तेमाल करने वालों को उसके सही उपयोग और सीमाओं के बारे में स्पष्ट जानकारी देनी होगी। 1

अनुरूपता आकलन, पंजीकरण और बाजार के बाद निगरानी

AI सिस्टम को बाजार में रखने से पहले लागू अनुरूपता आकलन पूरा करना होगा। जहां जरूरी हो, सिस्टम का पंजीकरण करना पड़ेगा। रिलीज के बाद उसके प्रदर्शन की निगरानी, सुधारात्मक कार्रवाई और गंभीर घटनाओं की रिपोर्टिंग भी आवश्यक होगी। इसका अर्थ है कि अनुपालन एक बार की मंजूरी नहीं, बल्कि लगातार चलने वाला संचालन कार्य है। 115

2027 और 2028 की तैयारी के लिए व्यावहारिक चेकलिस्ट

कंपनियों को इन सवालों के ठोस जवाब तैयार रखने चाहिए:

1. क्या सिस्टम वास्तव में हाई-रिस्क है? उसके उपयोग को Annex I और Annex III की श्रेणियों के सामने मैप करें।
2. जवाबदेही किसकी है? उत्पाद सुरक्षा, कानूनी अनुपालन, दस्तावेज़ीकरण और घटना-प्रतिक्रिया के लिए स्पष्ट जिम्मेदार व्यक्ति या टीम तय करें।
3. क्या जोखिम के साक्ष्य और समाधान मौजूद हैं? परीक्षण, जोखिम आकलन और लिए गए निर्णयों का रिकॉर्ड रखें।
4. क्या डेटा नियंत्रण का बचाव किया जा सकता है? डेटा की प्रासंगिकता, प्रतिनिधित्व, गुणवत्ता जांच और ज्ञात सीमाओं को दर्ज करें।
5. क्या सिस्टम का ऑडिट संभव है? लॉग, तकनीकी फाइलें और उपयोगकर्ता निर्देश सुरक्षित रखें।
6. क्या मानव निगरानी व्यवहार में काम करती है? हस्तक्षेप, ओवरराइड और सिस्टम रोकने की स्थितियों को स्पष्ट रूप से परिभाषित करें।
7. क्या बाजार के बाद निगरानी चालू की जा सकती है? प्रदर्शन मॉनिटरिंग, सुधारात्मक कदम और गंभीर घटनाओं की रिपोर्टिंग की प्रक्रिया बनाएं।

EU AI Act में जुर्माना कितना हो सकता है?

AI Act में दंड की गणना तय यूरो राशि और कंपनी के वैश्विक वार्षिक कारोबार, दोनों के आधार पर की जाती है। सबसे कड़ी श्रेणी—प्रतिबंधित AI प्रथाओं—में जुर्माना €35 मिलियन या वैश्विक वार्षिक कारोबार का 7% तक पहुंच सकता है। अन्य अनुपालन उल्लंघनों पर अधिकतम €15 मिलियन या वैश्विक वार्षिक कारोबार का 3% तक दंड हो सकता है। 3

इतनी बड़ी संभावित वित्तीय लागत के कारण हाई-रिस्क AI अनुपालन को केवल लीगल टीम तक सीमित रखना पर्याप्त नहीं होगा। उत्पाद, सुरक्षा, डेटा विज्ञान, खरीद, अनुपालन और संचालन टीमों को मिलकर यह प्रमाण तैयार रखना होगा कि सुरक्षा उपाय वास्तव में काम कर रहे हैं।

डेडलाइन आगे बढ़ने के बावजूद तैयारी अभी क्यों जरूरी है?

नई तारीखें कंपनियों को तैयारी का अतिरिक्त समय देती हैं, लेकिन नियमों की व्यापकता कम नहीं हुई है। 2027 के अंत तक इंतजार करने वाली कंपनी को संभवतः एक साथ दस्तावेज़ीकरण व्यवस्था, मॉडल-विकास प्रक्रियाएं, लॉगिंग, मानव निगरानी परीक्षण और बाजार के बाद रिपोर्टिंग वर्कफ़्लो खड़े करने पड़ेंगे।

बेहतर तरीका यह है कि EU AI Act को उत्पाद-गवर्नेंस के मानक की तरह लिया जाए: हाई-रिस्क उपयोग मामलों की पहचान जल्दी करें, सिस्टम बनाते समय ही साक्ष्य जुटाएं और सुरक्षा, ट्रेसबिलिटी व मानवीय नियंत्रण को रिलीज प्रक्रिया का हिस्सा बनाएं। 115