ये आंकड़े सभी चैटबॉट्स की सामान्य गलती-दर नहीं बताते। लेकिन वे यह जरूर दिखाते हैं कि स्रोतों से जुड़े खास रिसर्च टूल्स भी गलत या अधूरी जानकारी दे सकते हैं।
सामान्य वेब खोज में आप कई नतीजे देखते हैं, स्रोतों की तुलना करते हैं और फिर फैसला लेते हैं। एआई जवाब में यह पूरी प्रक्रिया अक्सर एक ही लिखे हुए उत्तर में सिमट जाती है। इससे समय बचता है, लेकिन जांच की जिम्मेदारी खत्म नहीं होती।
किसी स्रोत का नाम दिखना अपने-आप प्रमाण नहीं है। जरूरी यह है कि वही स्रोत उस खास दावे को सचमुच साबित कर रहा हो। खास तौर पर संख्या, उद्धरण, तारीख, कानूनी दावा और हालिया घटनाओं पर दिए गए जवाबों को खोलकर जांचना चाहिए। अगर स्रोत सिर्फ विषय से जुड़ा है, लेकिन बताई गई बात को सीधे साबित नहीं करता, तो जवाब सत्यापित नहीं माना जा सकता।
स्टैनफोर्ड AI Index 2025 में एंटरप्राइज यानी कारोबारी इस्तेमाल के संदर्भ में ‘असटीकता’ को एक प्रमुख चिंता बताया गया है: सर्वे में शामिल 64% अधिकारियों ने इसे समस्या के रूप में पहचाना। रिपोर्ट AI Incidents Database का भी उल्लेख करती है, जिसके अनुसार 2024 में एआई से जुड़े 233 घटनाक्रम दर्ज किए गए, जो 2023 की तुलना में 56.4% अधिक थे।
ये आंकड़े सीधे-सीधे यह नहीं बताते कि चैटबॉट कितनी बार गलत जवाब देते हैं। लेकिन वे यह समझाते हैं कि संस्थाओं को एआई परिणामों के लिए नियंत्रण, जिम्मेदारी और मानवीय निगरानी क्यों चाहिए।
एआई सबसे उपयोगी तब है जब उसे अंतिम फैसला देने वाली मशीन नहीं, बल्कि शुरुआत तेज़ करने वाला सहायक माना जाए। अच्छे उपयोगों में शामिल हैं:
यहां फायदा दिशा, गति और उत्पादकता का है। सत्यापन फिर भी अलग कदम है।
खास सावधानी तब जरूरी है जब जवाब:
कानूनी क्षेत्र यहां एक मजबूत चेतावनी देता है: स्टैनफोर्ड अध्ययन में खास कानूनी एआई-रिसर्च टूल्स ने भी हैलुसिनेशन किए या अधूरे जवाब दिए।
एआई जवाब खोज और समझ को तेज़ बना सकते हैं। लेकिन उपलब्ध डेटा अंधे भरोसे के खिलाफ चेतावनी देता है: कोई भरोसेमंद सार्वभौमिक सटीकता-दर नहीं है, खास टूल्स भी हैलुसिनेट कर सकते हैं, और असटीकता व्यावहारिक इस्तेमाल में अब भी बड़ा जोखिम है।
सबसे मजबूत नियम सरल है: एआई से पूछें, स्रोत मांगें, महत्वपूर्ण दावों को खोलकर जांचें। और जहां फैसला बड़ा हो—कानून, स्वास्थ्य, पैसा या सुरक्षा—वहां प्राथमिक स्रोत और योग्य विशेषज्ञ जरूरी हैं।
Comments
0 comments