जनरेटिव AI तेज़ी से जानकारी समेटने, मुश्किल विषय समझाने और शुरुआती दिशा देने में उपयोगी है। लेकिन यह गलत या अधूरी बात को भी पूरे आत्मविश्वास से तथ्य की तरह लिख सकता है। सूचना-सुरक्षा और शिक्षा से जुड़े संसाधन इस स्थिति को AI hallucination, यानी AI भ्रम, कहते हैं[4][
5]। Harvard Kennedy School की Misinformation Review ने भी AI hallucinations को जनरेटिव AI से पैदा होने वाली अशुद्धियों के नए स्रोतों में शामिल करके चर्चा की है[
3]।
इसलिए सवाल यह नहीं है कि जवाब पढ़ने में कितना सही लग रहा है। असली सवाल है: क्या यह दावा किसी ऐसे स्रोत तक वापस जाता है जिसे आप खुद जाँच सकें?
पहला नियम: AI संकेत दे सकता है, सबूत नहीं
AI से आप विषय की रूपरेखा बनवा सकते हैं, कठिन पैराग्राफ समझवा सकते हैं, अनुवाद करवा सकते हैं या आगे जाँचने लायक सवालों की सूची बनवा सकते हैं। लेकिन जहाँ जवाब में नाम, तारीख, आँकड़े, कानून, शोधपत्र, समाचार, स्वास्थ्य सलाह, कानूनी राय या पैसों से जुड़ा फैसला शामिल हो, वहाँ AI का जवाब अंतिम मंज़िल नहीं होना चाहिए।
NIST, यानी अमेरिका की सरकारी मानक संस्था National Institute of Standards and Technology, के जनरेटिव AI जोखिम-प्रबंधन दस्तावेजों में data provenance यानी डेटा के स्रोत का पता लगाना, auditing and assessment यानी ऑडिट व मूल्यांकन, monitoring यानी निगरानी, और risk-based controls यानी जोखिम के हिसाब से नियंत्रण जैसे उपाय शामिल हैं[1][
2]। रोज़मर्रा की भाषा में इसका मतलब है: AI की आत्मविश्वासी भाषा से ज्यादा भरोसा स्रोत, मूल दस्तावेज और सबूत की कड़ी पर करें।
AI जवाब जाँचने के 5 कदम
1. पहले AI से जाँचने लायक स्रोत मांगें
सिर्फ यह न पूछें कि जवाब क्या है। उससे कहें कि हर अहम दावे को स्रोत से जोड़कर बताए। उदाहरण के लिए:
इस जवाब को मुख्य दावों में बाँटें। हर दावे के सामने उसका स्रोत दें। प्राथमिकता आधिकारिक दस्तावेज, मूल शोध, सरकारी वेबसाइट, कंपनी की घोषणा या भरोसेमंद डेटाबेस को दें। यह भी बताएं कि कौन-सा स्रोत किस दावे को समर्थन देता है।
अगर AI सिर्फ यह लिखता है कि शोध बताते हैं, विशेषज्ञों का कहना है या कई रिपोर्टों के अनुसार, लेकिन दस्तावेज का नाम, संस्था, लिंक या खोजने लायक जानकारी नहीं देता, तो उस हिस्से को अभी अपुष्ट मानें। स्रोत तक पहुँचना जवाब के सुंदर दिखने से ज्यादा जरूरी है; NIST भी जनरेटिव AI जोखिम-प्रबंधन में डेटा स्रोत की पहचान और ऑडिट-मूल्यांकन जैसे उपायों को महत्व देता है[1][
2]।
2. स्रोत खोलकर देखें कि मूल पाठ सच में वही कहता है या नहीं
AI ने स्रोत दे दिया, इसका मतलब यह नहीं कि जवाब सही हो गया। कम से कम ये तीन बातें जाँचें:
- लिंक मौजूद है और खुलता है या नहीं।
- मूल दस्तावेज में वही जानकारी है या नहीं जो AI ने बताई है।
- AI ने मूल बात को बढ़ा-चढ़ाकर, बहुत सरल बनाकर या अलग निष्कर्ष में बदलकर तो नहीं लिख दिया।
सबसे आम जोखिमों में से एक है: जवाब में citation दिखता है, पर स्रोत और निष्कर्ष आपस में मेल नहीं खाते। फैक्ट-चेक का मकसद यही है कि AI के कहे हुए आधार को आप अपनी आँखों से देखें।
3. सबसे पहले उन विवरणों को मिलाएँ जहाँ गलती जल्दी पकड़ी जाती है
हर बार पूरी रिपोर्ट पढ़ना जरूरी नहीं। पहले वे चीजें देखें जो जल्दी जाँची जा सकती हैं और जिनमें गलती अक्सर साफ दिख जाती है:
- व्यक्ति और संस्था के नाम
- तारीख, वर्ष और version number
- आँकड़े, प्रतिशत, ranking
- कानून, नीति, नियम या दस्तावेज का सही शीर्षक
- शोधपत्र का नाम, लेखक और journal
- सीधे उद्धृत वाक्य
अगर AI कहता है कि किसी शोध में यह पाया गया, किसी कंपनी ने यह घोषणा की या किसी नियम में यह लिखा है, तो सीधे उस शोध, घोषणा या नियम को खोजें। मूल स्रोत नहीं मिलता, तो बात को पुष्टि-शुदा तथ्य की तरह इस्तेमाल न करें।
4. स्वतंत्र स्रोत से क्रॉस-चेक करें
एक स्रोत अधूरा हो सकता है, और AI का सारांश किसी जरूरी शर्त या सीमा को छोड़ सकता है। खासकर इन विषयों में कम से कम एक स्वतंत्र स्रोत से मिलान करें:
- स्वास्थ्य और चिकित्सा जानकारी
- कानून, टैक्स, कॉन्ट्रैक्ट या अधिकारों से जुड़े सवाल
- निवेश, बीमा, बैंकिंग या अन्य वित्तीय फैसले
- ताज़ा खबरें और सार्वजनिक घटनाएँ
- तकनीकी specification, साइबर सुरक्षा जोखिम या policy requirement
अगर अलग-अलग स्रोत अलग बातें कह रहे हैं, तो सिर्फ वह बात न चुनें जो सुनने में अच्छी लगे। ऐसे मामलों में प्रकाशित करने वाली संस्था, मूल दस्तावेज, पेशेवर डेटाबेस या जिम्मेदारी लेने वाले विशेषज्ञ तक लौटना बेहतर है।
5. जोखिम बड़ा हो तो AI को अंतिम फैसला न बनने दें
NIST का जनरेटिव AI जोखिम-प्रबंधन दृष्टिकोण सभी जवाबों को एक समान भरोसेमंद मानने के बजाय जोखिम के हिसाब से नियंत्रण, निगरानी और मूल्यांकन पर जोर देता है[1][
2]। व्यक्तिगत उपयोग में भी यही समझदारी है: जितना बड़ा जोखिम, उतनी मजबूत जाँच।
अगर जवाब से आपकी सेहत, कानूनी अधिकार, आर्थिक सुरक्षा, नौकरी का बड़ा निर्णय या सार्वजनिक सुरक्षा प्रभावित हो सकती है, तो AI को सिर्फ तैयारी का साधन बनाएं। अंतिम पुष्टि मूल दस्तावेज, डॉक्टर, वकील, चार्टर्ड अकाउंटेंट, निवेश सलाहकार या संबंधित पेशेवर से करें।
ये संकेत दिखें तो सावधान हो जाएँ
AI hallucination की मुश्किल यह है कि वह हमेशा गलत जैसा नहीं दिखता। जवाब धाराप्रवाह, व्यवस्थित और आत्मविश्वासी हो सकता है, फिर भी गलत हो सकता है[3][
4][
5]। इन स्थितियों में रुककर जाँचें:
- भाषा बहुत पक्की है, पर कोई स्रोत नहीं दिया गया।
- citation दिख रहा है, पर मूल दस्तावेज खोजने पर नहीं मिलता।
- स्रोत मौजूद है, लेकिन AI का निष्कर्ष उससे साबित नहीं होता।
- आँकड़े, तारीख या version number बिना स्रोत के दिए गए हैं।
- एक ही जवाब में आगे-पीछे विरोधाभास है।
- अनुमान, सामान्य राय या संभावना को तथ्य की तरह लिखा गया है।
कॉपी-पेस्ट करने लायक जाँच प्रॉम्प्ट
AI से अगली बार ये निर्देश देकर जवाब को ज्यादा जाँचने योग्य बना सकते हैं:
अपने जवाब को चार कॉलम में बाँटें: तथ्यात्मक दावा, स्रोत, मूल पाठ का आधार, और अनिश्चितता।
बताएं कि कौन-सी बातें स्रोत से समर्थित हैं और कौन-सी सिर्फ अनुमान हैं या मानव जाँच चाहती हैं।
केवल मेरे दिए हुए दस्तावेज के आधार पर जवाब दें। अगर दस्तावेज में जानकारी नहीं है, तो साफ लिखें कि जानकारी उपलब्ध नहीं है।
इस जवाब में जाँचने लायक पाँच सबसे महत्वपूर्ण विवरण बताएं, जैसे तारीख, आँकड़ा, उद्धरण, नीति का नाम या व्यक्ति का नाम।
अक्सर पूछे जाने वाले सवाल
क्या AI ने स्रोत दे दिया तो जवाब भरोसेमंद है?
जरूरी नहीं। स्रोत मौजूद न हो सकता है, लिंक टूट सकता है, या मूल पाठ AI के निष्कर्ष को समर्थन ही न देता हो। असली जाँच यह नहीं कि citation दिख रहा है या नहीं, बल्कि यह है कि स्रोत खुलता है, मूल बात मिलती है और दावा उसी से निकलता है या नहीं।
क्या हर AI जवाब की पूरी जाँच करनी चाहिए?
हर सवाल के लिए एक जैसी सख्ती जरूरी नहीं। कम जोखिम वाले सवालों में हल्का मिलान काफी हो सकता है। लेकिन स्वास्थ्य, कानून, वित्त, सार्वजनिक सुरक्षा या बड़े कामकाजी फैसलों में जाँच का स्तर बढ़ाना चाहिए। NIST के जोखिम-प्रबंधन दस्तावेज भी जोखिम के आधार पर नियंत्रण और निगरानी की दिशा अपनाते हैं[1][
2]।
स्रोत नहीं मिल रहा तो क्या करें?
जवाब को अपुष्ट मानें। उसे तथ्य की तरह quote, share या decision-making में इस्तेमाल न करें। आप AI से कह सकते हैं कि वह केवल जाँचे जा सकने वाले स्रोतों के आधार पर जवाब दोबारा बनाए, या आप खुद आधिकारिक दस्तावेज, मूल शोध, कंपनी घोषणा या भरोसेमंद डेटाबेस खोजें।
निष्कर्ष: आवाज़ नहीं, सबूत पर भरोसा करें
AI गलत बोल सकता है। इसका मतलब यह नहीं कि AI बेकार है; मतलब यह है कि धाराप्रवाह भाषा को सबूत न मानें। सबसे व्यावहारिक तरीका है: स्रोत मांगें, मूल पाठ पढ़ें, जरूरी विवरण मिलाएँ, स्वतंत्र स्रोत से क्रॉस-चेक करें, और जोखिम बड़ा हो तो विशेषज्ञ से पुष्टि करें। इस तरह AI एक तेज़ रिसर्च असिस्टेंट बन सकता है—बिना जाँचे फैसले सुनाने वाली मशीन नहीं।
