AI जवाबों को फैक्ट-चेक कैसे करें: हैलुसिनेशन और नकली उद्धरण से बचने की 5-स्टेप गाइड

मुख्य बात सीधी है: AI के आत्मविश्वास पर नहीं, जाँचे जा सकने वाले स्रोत पर भरोसा करें।

AI को शुरुआत मानें, सबूत नहीं

AI सवाल समझाने, संभावित स्रोत बताने, जाँच की सूची बनाने और जटिल विषय को सरल करने में काम आ सकता है। लेकिन जैसे ही जवाब में तथ्य, आँकड़े, नीति, इलाज, कानून, निवेश या कोई ताज़ा घटना शामिल हो, जाँच का आधार भाषा की चमक नहीं, बल्कि ये सवाल होने चाहिए:

• क्या यह दावा किसी मूल स्रोत तक पहुँचता है?
• क्या मूल पाठ सच में AI के निष्कर्ष का समर्थन करता है?
• तारीख, जगह, परिभाषा और संदर्भ सही हैं?
• क्या कोई दूसरा भरोसेमंद, स्वतंत्र स्रोत वही बात पुष्ट करता है?

अगर कोई दावा सिर्फ AI की बात तक लौटता है और उसके पीछे सार्वजनिक दस्तावेज़, मूल रिपोर्ट, डेटा या संबंधित संस्था का रिकॉर्ड नहीं है, तो उसे प्रमाणित तथ्य न मानें।

AI जवाब फैक्ट-चेक करने के 5 कदम

1. पहले जवाब को अलग-अलग दावों में तोड़ें

पूरे पैराग्राफ को एक साथ सही या गलत साबित करने की कोशिश न करें। उसे छोटे, जाँचे जा सकने वाले दावों में बाँटें: संख्या अलग, तारीख अलग, निष्कर्ष अलग और व्याख्या अलग।

कॉपी-पेस्ट करने लायक प्रॉम्प्ट:

ऊपर दिए गए जवाब को अलग-अलग जाँचे जा सकने वाले दावों में बाँटें। हर दावे के लिए मूल स्रोत, प्रकाशित करने वाली संस्था या लेखक, तारीख, URL और मूल उद्धरण दें। अगर स्रोत नहीं है, तो उसे अप्रमाणित लिखें।

ऐसा करते ही साफ दिखने लगता है कि कौन-सी बात स्रोत पर टिकती है और कौन-सी AI की भरपाई या अनुमान हो सकती है।

2. स्रोत खोलकर देखें कि वह सच में मौजूद है

स्रोत का नाम दिखना ही सत्यापन नहीं है। URL खोलें या मूल दस्तावेज़ खोजें। फिर जाँचें:

• लिंक खुल रहा है या नहीं;
• शीर्षक, लेखक या संस्था और तारीख AI के दावे से मिलते हैं या नहीं;
• मूल पाठ सच में वही बात कहता है या नहीं;
• उद्धरण पूरा है या संदर्भ से काटकर लिया गया है;
• AI ने अनुमान, राय या पृष्ठभूमि जानकारी को पक्का तथ्य बनाकर तो नहीं लिख दिया।

अगर स्रोत नहीं मिलता, तारीख मेल नहीं खाती या मूल लेख का अर्थ AI के सारांश से अलग है, तो उस दावे को अप्रमाणित या संदिग्ध मानें।

3. दूसरे हाथ की summary पर न रुकें, मूल स्रोत तक जाएँ

सबसे पहले उस दस्तावेज़ को खोजें जो घटना, डेटा या निर्णय के सबसे करीब हो। उदाहरण के लिए:

• सरकारी नोटिस, कानून, नियामकीय दस्तावेज़;
• अदालत के दस्तावेज़, फैसले, आधिकारिक रिकॉर्ड;
• कंपनी की घोषणाएँ, वार्षिक रिपोर्ट, प्रेस रिलीज़;
• शोध पत्र, अध्ययन रिपोर्ट, डेटा सेट;
• संबंधित व्यक्ति, संस्था या शोध टीम का सार्वजनिक बयान।

मीडिया रिपोर्ट, ब्लॉग या सोशल मीडिया पोस्ट संदर्भ समझाने में मदद कर सकते हैं। लेकिन अगर आप किसी बात को उद्धृत करने, साझा करने, रिपोर्ट में लिखने या निर्णय लेने जा रहे हैं, तो मूल दस्तावेज़ तक पहुँचना बेहतर है। अगर कई लेख एक-दूसरे को ही उद्धृत कर रहे हैं और कोई भी मूल स्रोत नहीं दिखा रहा, तो जोखिम बढ़ जाता है।

4. स्वतंत्र स्रोत से cross-check करें

एक स्रोत का मौजूद होना पूरी बात को सुरक्षित नहीं बना देता। दो-स्तरीय जाँच करें:

1. मूल स्रोत: पहले आधिकारिक दस्तावेज़, शोध पत्र, अदालत रिकॉर्ड, डेटा सेट या संस्था की घोषणा देखें।
2. स्वतंत्र स्रोत: फिर किसी अलग भरोसेमंद स्रोत से मिलाएँ, जैसे मुख्यधारा मीडिया, शैक्षणिक संस्था, नियामक संस्था या पेशेवर संगठन।

अगर दोनों स्रोत अलग-अलग बात कह रहे हैं, तो तुरंत निष्कर्ष न निकालें। पहले उसे विवादित या अपुष्ट चिह्नित करें। फिर देखें कि अंतर तारीख, परिभाषा, क्षेत्र, अपडेट या किसी गलत उद्धरण की वजह से तो नहीं है।

5. हर दावे को ग्रेड दें, जबरन true/false न करें

फैक्ट-चेक का मतलब हमेशा तुरंत सच या झूठ का फैसला नहीं होता। बेहतर तरीका है हर दावे को स्थिति दें:

यह तरीका AI को संभावित, अनुमानित या किसी के मत को पक्के तथ्य की तरह पेश करने से रोकता है।

6 जगहें जहाँ AI जवाब सबसे ज्यादा फिसलते हैं

आँकड़े: प्रतिशत, रकम, रैंकिंग, वृद्धि दर और sample size की जाँच करें। साल, क्षेत्र, denominator और data source देखें।

समय: नीति, कीमत, कानून, product feature और कंपनी की स्थिति बदल सकती है। सिर्फ प्रकाशित तारीख नहीं, update date भी देखें।

क्षेत्र: एक ही शब्द अलग देशों या राज्यों में अलग कानूनी, कर, स्वास्थ्य, निवेश या privacy ढाँचे से जुड़ सकता है। जवाब किस क्षेत्र के लिए है, यह स्पष्ट करें।

परिभाषा: AI, user, revenue, risk, compliance, effective जैसे शब्द उद्योग और दस्तावेज़ के हिसाब से बदल सकते हैं। मूल स्रोत में परिभाषा देखें।

उद्धरण: quotation marks दिखने का मतलब यह नहीं कि उद्धरण सही है। मूल वाक्य खोजें, पूरा संदर्भ पढ़ें और देखें कि AI की व्याख्या सही है या नहीं।

स्रोत की गुणवत्ता: स्रोत मौजूद है, इसलिए विश्वसनीय है—यह मान लेना गलती है। official document, academic research, news report, company content, personal blog और repost में फर्क करें।

हाई-रिस्क विषयों पर AI को अकेला न छोड़ें

इन क्षेत्रों में गलती की कीमत बहुत ज्यादा हो सकती है:

• मेडिकल diagnosis, दवा, इलाज;
• कानूनी सलाह, contract, litigation, immigration या tax;
• investment, insurance, personal finance;
• personal safety, cyber security, emergency response;
• breaking news, leak, allegation और political content।

कानूनी जोखिम इसका साफ उदाहरण है: OECD.AI ने generative AI hallucination से legal proceedings प्रभावित होने की घटना दर्ज की है और नुकसान को legal proceedings को प्रभावित करने वाली misinformation के रूप में वर्णित किया है । ऐसे विषयों में AI से checklist या सवाल बनवाना उपयोगी हो सकता है, लेकिन उसे official documents, qualified professionals या formal processes का विकल्प न बनाइए।

ये संकेत दिखें तो जवाब को high-risk मानें

• भाषा बहुत आत्मविश्वासी है, लेकिन कोई स्रोत नहीं है;
• “research shows” या “experts say” लिखा है, पर शोध, लेखक, संस्था या तारीख नहीं दी गई;
• बहुत बारीक details हैं, लेकिन मूल दस्तावेज़ नहीं मिलता;
• संख्या बहुत precise है, पर data source नहीं है;
• जवाब आपके विचार से इतना मेल खाता है कि आप तुरंत उसे सच मानना चाहते हैं;
• सभी स्रोत एक-दूसरे को quote कर रहे हैं, पर original source गायब है;
• विषय ताज़ा खबर से जुड़ा है, लेकिन update time साफ नहीं है।

NIST ने generated narratives की believability और believable but misleading narratives को अपने text evaluation के संदर्भ में शामिल किया है । यानी जो बात जितनी सच जैसी लगे, उसे उतनी ही गंभीरता से जाँचिए।

सीधे इस्तेमाल करने लायक verification prompts

कृपया सिर्फ ऐसे मूल स्रोत दें जिन्हें सार्वजनिक रूप से खोला और जाँचा जा सके। अनुमान न लगाएँ।

हर मुख्य दावे के साथ source link, publishing institution, date और original quote दें।

अगर आप निश्चित नहीं हैं, तो unknown या unable to verify लिखें; कृपया खाली जगह भरकर जवाब न बनाएँ।

इस जवाब को तीन हिस्सों में बाँटें: प्रमाणित, अप्रमाणित और अनुमान।

इस जवाब में सबसे संभावित गलती की जगहें बताइए: आँकड़े, तारीख, क्षेत्र, परिभाषा और उद्धरण।

आखिरी कसौटी

एक लाइन याद रखें:

जो दावा मूल स्रोत तक पहुँचता है, उसे पढ़कर परखा जा सकता है; जो सिर्फ AI तक लौटता है, उसे तथ्य न मानें।

AI को search starting point, सवालों का organiser और जाँच सूची बनाने वाला tool समझें। किसी जानकारी की असली विश्वसनीयता अब भी सार्वजनिक, संदर्भ सहित और स्वतंत्र रूप से जाँचे जा सकने वाले स्रोतों से तय होती है।