गूगल DeepMind की AI सुरक्षा टीम ने नौकरी चाहने वालों को दी चेतावनी: कंपनी के अपने AI हायरिंग फिल्टर पर भरोसा न करें

मुख्य विडंबना

ASAT का अस्तित्व AGI और अंततः सुपरइंटेलिजेंस से अस्तित्वगत और विनाशकारी जोखिमों को कम करने के लिए है । फिर भी टीम का आंतरिक मार्गदर्शन स्पष्ट रूप से चेतावनी देता है कि Google के अपने AI हायरिंग फिल्टर पर भरोसा नहीं किया जा सकता है। ब्लूमबर्ग द्वारा देखे गए एक दस्तावेज़ के अनुसार, टीम कहती है: "हमारे पास एक आवेदन प्रणाली है जिसमें इस बात की कोई मामूली संभावना नहीं है कि आपका CV गलत तरीके से स्क्रीन किया जाएगा या हम तक पहुंचने में बहुत अधिक समय लगेगा" । टीम प्रभावी रूप से संभावित कर्मचारियों से कह रही है: कंपनी के AI पर आपका मूल्यांकन करने के लिए भरोसा न करें।

कंपनी के अपने AI को दरकिनार करना

आंतरिक दस्तावेज़, जिसमें असामान्य अस्वीकरण "कृपया इस दस्तावेज़ को व्यापक रूप से साझा न करें" है, ASAT भूमिकाओं के लिए उम्मीदवारों को एक गोपनीय आंतरिक सबमिशन फॉर्म पूरा करने का निर्देश देता है । फॉर्म को यह सुनिश्चित करने के लिए डिज़ाइन किया गया है कि आवेदन Google के ऑटोमेटेड CV-स्क्रीनिंग पाइपलाइन में डाले जाने के बजाय सीधे मानव समीक्षकों के सामने पहुंचें । ब्लूमबर्ग ने बताया कि फॉर्म का उद्देश्य यह जोखिम खत्म करना है कि "आवेदन कंपनी के आंतरिक AI सिस्टम द्वारा स्वचालित रूप से स्क्रीन किए जा सकते हैं" ।

AI-जनरेटेड आवेदन सामग्री के खिलाफ चेतावनी

अलाइनमेंट फोरम पर ASAT की नौकरी पोस्टिंग में कहा गया है: "अपना आवेदन लिखने के लिए कृपया AI का उपयोग न करें; हम आपकी अपनी आवाज सुनना चाहते हैं" । यह एक स्तरित विरोधाभास पैदा करता है: टीम Google के AI स्क्रीनिंग सिस्टम पर इतना अविश्वास करती है कि वह उन्हें दरकिनार कर देती है, लेकिन उम्मीदवारों द्वारा प्रतिक्रिया तैयार करने के लिए AI चैट टूल के उपयोग पर भी अविश्वास करती है—भले ही ASAT का अपना काम उन्नत AI सिस्टम के विकास और निरीक्षण से संबंधित हो।

AI हायरिंग पूर्वाग्रह जांच का व्यापक संदर्भ

ASAT का यह प्रकरण कोई अलग-थलग घटना नहीं है। कई अध्ययनों और जांचों ने AI-संचालित हायरिंग टूल्स के साथ लगातार समस्याओं का दस्तावेजीकरण किया है:

• जुलाई 2026 के स्टैनफोर्ड HAI अध्ययन ने 150 से अधिक नियोक्ताओं में 4 मिलियन नौकरी आवेदनों का विश्लेषण किया और पाया कि AI हायरिंग टूल बड़े पैमाने पर नस्लीय रूप से असमान परिणाम उत्पन्न कर सकते हैं। शोधकर्ताओं ने पाया कि 15% एशियाई आवेदकों और 26% अश्वेत आवेदकों को कई नौकरियों में बार-बार अस्वीकार कर दिया गया—एक पैटर्न जो प्रणालीगत पूर्वाग्रह का सुझाव देता है ।
• एक ब्लूमबर्ग विश्लेषण ने दिखाया कि OpenAI का GPT-3.5, जब 1,000 बार रिज्यूमे को रैंक करने के लिए कहा गया, तो उसने व्यवस्थित रूप से कुछ जनसांख्यिकी के नामों को दूसरों की तुलना में इस हद तक पसंद किया कि वह नौकरी भेदभाव का आकलन करने के लिए उपयोग किए जाने वाले मानकों में विफल हो गया ।
• मेलबर्न विश्वविद्यालय के शोध में पाया गया कि AI हायरिंग सॉफ्टवेयर हेडस्कार्फ़ पहनने वाले आवेदकों, अश्वेत समझे जाने वाले नामों वाले लोगों और विकलांगता आवास का अनुरोध करने वाले व्यक्तियों के खिलाफ भेदभाव कर सकता है ।
• यूके सूचना आयुक्त कार्यालय (ICO) के एक ऑडिट में पाया गया कि कुछ AI भर्ती उपकरण नस्ल, लिंग और यौन अभिविन्यास जैसी संरक्षित विशेषताओं के आधार पर आवेदकों को फ़िल्टर करते हैं ।

Google स्वयं कॉर्पोरेट ग्राहकों को AI-संचालित HR उपकरण बेचता है, जो तेज़, अधिक वस्तुनिष्ठ स्क्रीनिंग का वादा करता है । ASAT का यह प्रकरण उस मार्केटिंग संदेश को कमजोर करता है, क्योंकि यह परोक्ष रूप से स्वीकार करता है कि कंपनी के अपने फिल्टर त्रुटिपूर्ण हैं।

Google DeepMind की प्रतिक्रिया

DeepMind ने इस चित्रण का खंडन किया कि इसकी व्यापक हायरिंग सिस्टम खराब हैं। एक प्रवक्ता ने बायपास फॉर्म को केवल उच्च-मात्रा वाली भूमिकाओं के लिए एक "दक्षता उपाय" बताया । हालांकि, आंतरिक दस्तावेज़ की अपनी भाषा—गलत स्क्रीनिंग की चेतावनी और गोपनीयता का आग्रह—बताती है कि टीम इस मुद्दे को इतना महत्वपूर्ण मानती है कि इसके लिए एक वर्कअराउंड की आवश्यकता है ।

निचली पंक्ति

यह स्थिति एक विश्वसनीयता अंतर को उजागर करती है: Google जिस टीम को AI दुर्व्यवहार पर शोध और बचाव के लिए नियुक्त करता है, वह उन AI सिस्टम पर भरोसा नहीं करती है जिनका उपयोग Google अपने भावी कर्मचारियों की स्क्रीनिंग के लिए करता है। इस विसंगति ने एक AI डेवलपर के रूप में व्यापक ध्यान आकर्षित किया है, जो उसी तकनीक की सीमाओं और जोखिमों को परोक्ष रूप से स्वीकार करता है, जिसका वह निर्माण और विपणन करता है। जैसा कि एक विश्लेषण ने सारांशित किया: "उन्नत AI सुरक्षा के लिए जिम्मेदार टीम को अपने नियोक्ता के AI पर रिज्यूमे पढ़ने का भरोसा नहीं है" ।