Qwen के जवाबों में पक्षपात के दावों की पड़ताल

Alibaba का Qwen एक ओपन-वेट AI मॉडल है—यानी इसके मॉडल-वेट उपलब्ध हैं और संगठन इसे अपने सिस्टम पर चला सकते हैं। CBS News के मुताबिक, Airbnb और Uber जैसी पश्चिमी कंपनियों की सेवाओं में भी इसका इस्तेमाल हुआ है। इसलिए इसके जवाबों में संभावित चूक या पक्षपाती प्रस्तुति की पड़ताल मायने रखती है: मॉडल का जवाब आगे चलकर उस उत्पाद या सेवा तक पहुँच सकता है जिसमें उसे जोड़ा गया हो। हालांकि, हिरुंडो के निष्कर्ष यह साबित नहीं करते कि Qwen के सभी संस्करण एक जैसे जवाब देते हैं या इसका इस्तेमाल करने से कंपनी का डेटा Alibaba अथवा चीन की सरकार तक पहुँचता है।10

हिरुंडो ने क्या जाँचा और 89.8% का आँकड़ा क्या बताता है?

साइबर सुरक्षा स्टार्टअप हिरुंडो का कहना है कि उसने Qwen को 15 विषयों पर 500 प्रॉम्प्ट दिए। कंपनी के CEO बेन लूरिया के हवाले से Newsmax ने बताया कि राजनीतिक रूप से संवेदनशील सवालों पर मॉडल ने 89.8% मामलों में सेंसरशिप, प्रचार-अनुकूल प्रस्तुति या राजनीतिक पक्षपात दिखाया।11

यह हिरुंडो का बताया हुआ नतीजा है—Qwen के हर संस्करण, हर तरह के प्रॉम्प्ट या हर तैनाती में मिलने वाला स्वतंत्र रूप से दोहराया गया परिणाम नहीं। इस आँकड़े में कई तरह के जवाब शामिल हैं: सवाल से बचना, किसी खास राजनीतिक नजरिए के अनुकूल बात रखना और पक्षपाती जवाब देना। इसलिए इसे केवल साफ इनकार की दर समझना ठीक नहीं होगा।11

रिपोर्ट में दिए गए उदाहरणों में 1989 की तियानआनमेन स्क्वायर की हिंसक कार्रवाई और 2019 के हांगकांग विरोध प्रदर्शनों से जुड़े सवाल शामिल थे। हिरुंडो के बताए नतीजों में ऐसे जवाब भी थे जो घटनाओं की पुष्टि या स्वीकार नहीं करते थे। CBS की रिपोर्टिंग में भी हांगकांग और अन्य विवादास्पद विषयों पर Qwen के जवाबों को रेखांकित किया गया।1115

CBS की अलग जाँच से क्या जुड़ता है?

CBS News ने Qwen से संवेदनशील विषयों पर सवाल पूछे और कुछ चिंताजनक जवाबों की रिपोर्ट दी। यह हिरुंडो की बताई प्रवृत्ति का एक अतिरिक्त उदाहरण है, लेकिन सीमित जाँच अपने-आप में यह साबित नहीं करती कि हर Qwen मॉडल या हर कारोबारी इस्तेमाल में जवाब ऐसे ही होंगे।1015

यहाँ एक अहम फर्क है: मॉडल किसी विषय से बच सकता है, किसी राजनीतिक नजरिए को दोहरा सकता है या गलत जवाब दे सकता है—बिना सीधे यह कहे कि वह जवाब नहीं दे सकता। इसलिए सिर्फ यह देखना कि मॉडल ने साफ इनकार किया या नहीं, चूक या पक्षपात के दूसरे रूपों को पकड़ने के लिए काफी नहीं है।11

कंपनियों के लिए यह क्यों मायने रखता है—और क्या साबित नहीं होता?

CBS के मुताबिक, Qwen को 3 अरब से अधिक बार डाउनलोड किया गया था और Airbnb तथा Uber समेत कंपनियाँ इसका इस्तेमाल कर रही थीं।10 जब कोई कंपनी AI मॉडल को ग्राहकों के सामने आने वाले फीचर या अपने आंतरिक टूल में जोड़ती है, तो उसके जवाब उपयोगकर्ताओं तक पहुँच सकते हैं। इसलिए जिस खास मॉडल-संस्करण और तैनाती का इस्तेमाल करना हो, उसे उसी काम के लिए परखना उचित है। लेकिन हिरुंडो की रिपोर्ट अपने-आप यह साबित नहीं करती कि Qwen इस्तेमाल करने वाला हर उत्पाद राजनीतिक पक्षपात से प्रभावित है।

राजनीतिक पक्षपात और सुरक्षा जोखिमों को भी अलग-अलग परखना चाहिए। अमेरिकी प्रतिनिधि सभा की दो समितियों ने चीन में विकसित AI मॉडलों से जुड़े राष्ट्रीय सुरक्षा और साइबर सुरक्षा जोखिमों की जाँच शुरू की है; इसमें Airbnb द्वारा Qwen के कथित इस्तेमाल का मामला भी शामिल है। जाँच और उससे जुड़े सवाल, अपने-आप में, Qwen से डेटा लीक होने का सबूत नहीं हैं।

ओपन-वेट मॉडल कंपनी के अपने ढाँचे पर चलाया जा सकता है। इससे संवेदनशील डेटा पर नियंत्रण बढ़ सकता है, बजाय इसके कि वह किसी बाहरी सेवा प्रदाता को भेजा जाए। लेकिन अपने सर्वर पर मॉडल चलाने भर से उसके जवाबों में मौजूद संभावित पक्षपात दूर नहीं होता। किसी कंपनी की वास्तविक व्यवस्था और डेटा का प्रवाह भी मायने रखता है।

हिरुंडो के सुझाए समाधान को भी परखना बाकी है

हिरुंडो का दावा है कि उसने मॉडल के आंतरिक वेट में बदलाव करके Qwen का पक्षपात हटाने का तरीका खोजा है। CBS ने कंपनी की ओर से “वेस्टर्नाइज़्ड” यानी पश्चिमी संदर्भों के अनुरूप संस्करण जारी करने की योजना की भी खबर दी।10 यह एक तकनीकी समाधान का दावा है; उपलब्ध जानकारी से यह स्वतंत्र रूप से साबित नहीं होता कि बदलाव अलग-अलग विषयों, मॉडल-संस्करणों, भाषाओं और कारोबारी कामों में लगातार कारगर रहेगा।

Qwen पर विचार कर रही संस्थाओं के लिए व्यावहारिक कदम है कि वे इस्तेमाल किए जाने वाले ठीक उसी मॉडल और तैनाती को जाँचें। सामान्य और संवेदनशील—दोनों तरह के सवालों पर जवाब परखें, देखें कि कहीं जरूरी तथ्य छोड़े या तोड़े-मरोड़े तो नहीं जा रहे, और डेटा के प्रवाह व सुरक्षा नियंत्रणों की अलग से समीक्षा करें। रिपोर्ट में उठे सवाल गंभीरता से जाँचने लायक हैं, लेकिन वे हर इस्तेमाल के लिए अंतिम निष्कर्ष नहीं देते।