मेटा का AI विरोधाभास: आंतरिक परीक्षणों में बच्चों की सुरक्षा में 70% विफलता, फिर भी कंपनी मानव मॉडरेटर्स को AI से बदल रही है और प्रतिद्वंद्वी चैटबॉट्स पर हमला कर रही है

मेटा की AI रणनीति के केंद्र में विरोधाभास

जून 2026 में WIRED की एक जांच से पता चला कि मेटा ने आयरिश आउटसोर्सिंग फर्म कोवालेन के माध्यम से काम करने वाले सैकड़ों ठेकेदारों को ऑनलाइन नाबालिगों का भेष बनाने का निर्देश दिया। इन ठेकेदारों का काम प्रतिद्वंद्वी चैटबॉट्स - जिनमें OpenAI का ChatGPT, Google का Gemini और Character.AI शामिल हैं - से आत्महत्या, आत्म-हानि, सेक्स, खाने के विकार और ड्रग्स जैसे उच्च जोखिम वाले प्रॉम्प्ट पर उनकी प्रतिक्रियाओं का परीक्षण करना था । इस प्रोजेक्ट को आंतरिक रूप से कोडनेम 'कैनस' दिया गया था और यह कम से कम 21 अप्रैल, 2026 तक सक्रिय था ।

ठेकेदारों ने 18 वर्ष से कम उम्र के नकली खाते बनाए और हजारों संवेदनशील टेक्स्ट और इमेज प्रॉम्प्ट भेजे, जिनकी प्रतिक्रियाओं को स्प्रेडशीट में दर्ज किया गया । एक बड़े पैमाने पर परीक्षण में अगस्त 2025 में एक ही दौर में 45,000 से अधिक प्रॉम्प्ट चलाए गए । एक अन्य स्प्रेडशीट में 3,748 प्रॉम्प्ट सूचीबद्ध थे, जिनमें से सैकड़ों आत्महत्या/आत्म-हानि से संबंधित थे और सैकड़ों खाने के विकारों से संबंधित थे । एक मेटा प्रवक्ता ने इस अभ्यास को चैटबॉट सुरक्षा के परीक्षण के लिए "एक जिम्मेदार, उद्योग-मानक अभ्यास" बताकर इसका बचाव किया ।

लेकिन प्रतिस्पर्धियों का यह आक्रामक परीक्षण मेटा के अपने आंतरिक परिणामों के बिल्कुल विपरीत है।

बच्चों की सुरक्षा में मेटा की अपनी आंतरिक विफलता दर

मेटा के अपने आंतरिक रेड-टीमिंग आकलन - जिन्हें अदालत में सबूत के रूप में पेश किया गया और NYU के प्रोफेसर डेमन मैककॉय द्वारा उद्धृत किया गया - से पता चला कि एक मेटा चैटबॉट पहल लगभग 70% परीक्षण मामलों में नाबालिगों को यौन शोषण से बचाने में विफल रही । यह निष्कर्ष 16 फरवरी, 2026 को Axios द्वारा रिपोर्ट किया गया था । 6 जून, 2025 की एक रिपोर्ट में विस्तृत आंतरिक परीक्षण में कई श्रेणियों में विफलता दर का पता चला:

• बाल यौन शोषण परिदृश्य: 66.8% मामलों में विफल ।
• सेक्स से संबंधित अपराध, हिंसक अपराध और नफरत फैलाने वाली सामग्री: 63.6% मामलों में विफल ।
• आत्महत्या और आत्म-हानि प्रॉम्प्ट: 54.8% मामलों में विफल ।

ये आंतरिक विफलताएं अलग-थलग घटनाएं नहीं थीं। अगस्त 2025 में, रॉयटर्स ने एक आंतरिक मेटा नीति दस्तावेज प्राप्त किया जो उसके AI को नाबालिगों के साथ रोमांटिक या कामुक संवाद में शामिल होने की अनुमति देता था । जनवरी 2026 में, मेटा ने आंतरिक सुरक्षा चेतावनियों को नजरअंदाज किए जाने की रिपोर्टों के बाद, पुनर्निर्मित सुरक्षा उपायों के लंबित रहने तक किशोरों की अपने चैटबॉट्स तक पहुंच को अस्थायी रूप से अवरुद्ध कर दिया ।

मानव मॉडरेटर्स को AI से बदलने की मेटा की योजना और केन्याई परिणाम

दस्तावेजी सुरक्षा विफलताओं के बावजूद, मेटा 2026 के अंत तक अपने 90% से अधिक मानव कंटेंट मॉडरेटर्स को जनरेटिव AI से बदलने की योजना में तेजी ला रहा है, जो एक व्यापक लागत-कटौती अभियान का हिस्सा है । कंपनी ने जनवरी 2026 में इस बदलाव की पुष्टि की, और यह संक्रमण पहले से ही जोरों पर है ।

इस ऑटोमेशन की मानवीय कीमत पहले ही महसूस की जा चुकी है। अप्रैल 2026 में, मेटा ने Sama, केन्याई आउटसोर्सिंग फर्म के साथ अपना अनुबंध समाप्त कर दिया, जिसने नैरोबी में सैकड़ों कंटेंट मॉडरेटर्स को रोजगार दिया था। इसके बाद Sama ने 1,108 कर्मचारियों को नौकरी से निकाल दिया । एक अन्य केन्याई आउटसोर्सिंग फर्म ने भी अचानक दर्जनों कंटेंट-मॉडरेशन कर्मचारियों को बर्खास्त कर दिया, जब उन्होंने बेहतर वेतन और मानसिक स्वास्थ्य सुरक्षा के लिए संगठित होने का प्रयास किया। कर्मचारियों का कहना है कि उन्हें यूनियन बनाने का समर्थन करने और दर्दनाक काम करने की स्थितियों के बारे में चिंता जताने के लिए निशाना बनाया गया ।

मुख्य विरोधाभास: एक स्पष्ट दोहरा मापदंड

सबूत एक स्पष्ट विरोधाभास की ओर इशारा करते हैं। मेटा का अपना आंतरिक डेटा दिखाता है कि उसका AI अभी भी अधिकांश समय बच्चों की सुरक्षा करने में विफल रहता है, फिर भी कंपनी एक साथ उस मानव कार्यबल को खत्म कर रही है जिसने उन विफलताओं को पकड़ा, जबकि यह साबित करने के लिए ठेकेदारों को तैनात कर रही है कि उसके प्रतिस्पर्धियों का AI और भी बदतर है।

क्षेत्र	सबूत
आंतरिक परीक्षण परिणाम	मेटा के अपने चैटबॉट नाबालिगों को यौन शोषण से बचाने में लगभग 70% मामलों में विफल रहे
प्रतिस्पर्धी परीक्षण	मेटा ने उसी तरह की विफलताओं के लिए प्रतिद्वंद्वी चैटबॉट्स की जांच करने में भारी खर्च किया
ऑटोमेशन पर जोर	मेटा मानव मॉडरेटर्स को AI से बदल रहा है, और दावा कर रहा है कि AI बड़े पैमाने पर कंटेंट मॉडरेशन संभाल सकता है
मानवीय कीमत	1,100 से अधिक केन्याई श्रमिकों को अनुबंध समाप्त होने पर नौकरी से निकाल दिया गया - उनमें से कुछ खराब स्थितियों के बारे में शिकायत करने के बाद - जबकि उनकी जगह लेने वाले AI ने अभी तक बच्चों के लिए पर्याप्त सुरक्षा का प्रदर्शन नहीं किया है

यह दोहरा मापदंड मेटा की प्राथमिकताओं के बारे में गंभीर सवाल उठाता है। कंपनी अपने प्रतिस्पर्धियों के चैटबॉट्स को नाबालिगों के लिए असुरक्षित साबित करने में भारी निवेश करने को तैयार है, भले ही उसके अपने आंतरिक परीक्षण से पता चलता है कि उसके AI की बच्चों की सुरक्षा में 70% विफलता दर है - और जिन मानव सुरक्षा उपायों ने उन विफलताओं को पकड़ा, उन्हें नौकरी से निकाला जा रहा है, और उनकी जगह वही तकनीक लाई जा रही है जिसने खुद को सुरक्षित साबित नहीं किया है ।