ऐसे शब्द जिनसे यह व्यवहार देखा गया:
अक्सर असली डिक्शनरी लिंक (जैसे Merriam‑Webster) अभी भी नीचे मौजूद रहते हैं, लेकिन AI Overview उन्हें स्क्रीन के नीचे धकेल देता है या छिपा देता है।
Google ने माना है कि AI Overviews कुछ “action‑related queries” को गलत तरीके से समझ रहे हैं। कंपनी ने अभी तक पूरा तकनीकी विवरण सार्वजनिक नहीं किया है, लेकिन व्यवहार से लगता है कि यह कमांड‑क्लासिफिकेशन की समस्या है।
बड़े भाषा मॉडल (LLMs) को अक्सर निर्देशों को समझने के लिए प्रशिक्षित किया जाता है। उदाहरण के लिए, AI चैटबॉट में लोग अक्सर लिखते हैं: “ignore previous instructions.”
जब सर्च क्वेरी सिर्फ एक क्रिया होती है—जैसे “ignore” या “dismiss”—तो सिस्टम कभी‑कभी उसे जानकारी खोजने की बजाय एक निर्देश समझ लेता है। तब AI उस निर्देश को “execute” करने की कोशिश करता है, न कि उस शब्द का अर्थ बताने की।
यह स्थिति AI सुरक्षा की एक जानी‑पहचानी समस्या prompt injection से मिलती‑जुलती लगती है, जहाँ मॉडल इनपुट में मौजूद निर्देशों को असली कार्य से ऊपर मान लेता है।
इस मामले में इनपुट दुर्भावनापूर्ण नहीं है—बस अस्पष्ट है। लेकिन नतीजा वही है: AI उपयोगकर्ता के इरादे को गलत समझ लेता है।
Google Search में AI Overviews पेज के सबसे ऊपर दिखाई देते हैं। जब सिस्टम को लगता है कि वह उपयोगी सारांश बना सकता है, तो वह पूरे शीर्ष भाग को अपने कब्ज़े में ले लेता है।
यदि क्वेरी को गलती से कमांड समझ लिया जाए, तो AI जानकारी की जगह बातचीत‑जैसा उत्तर देता है। इसका परिणाम यह होता है कि ऊपर एक अधूरा या खाली AI पैनल दिखता है, जबकि असली डिक्शनरी परिणाम नीचे चले जाते हैं।
उपयोगकर्ता के दृष्टिकोण से ऐसा लगता है जैसे Google अचानक साधारण शब्दों की परिभाषा बताना भूल गया हो—हालाँकि सही परिणाम वास्तव में नीचे मौजूद होते हैं।
यह पहली बार नहीं है जब Google के AI‑जनित सर्च सारांशों ने अजीब परिणाम दिए हों।
2024 में फीचर के व्यापक लॉन्च के तुरंत बाद कुछ वायरल उदाहरण सामने आए थे। उनमें से एक में AI Overviews ने सुझाव दिया कि पिज़्ज़ा पर चीज़ चिपकाने के लिए सॉस में गैर‑विषैला गोंद मिलाया जा सकता है, और दूसरे उदाहरण में कहा गया कि लोगों को रोज़ एक छोटा पत्थर खाना चाहिए ताकि उन्हें खनिज मिल सकें।
Google ने बाद में स्वीकार किया कि कुछ जवाब “अजीब, गलत या अनुपयोगी” थे। कंपनी ने इसका कारण गलत तरीके से समझी गई क्वेरी, व्यंग्यात्मक सामग्री, या विश्वसनीय स्रोतों की कमी बताया।
जब तक कंपनी स्थायी समाधान जारी नहीं करती, तब तक उपयोगकर्ता कुछ सरल तरीकों से सामान्य सर्च परिणाम पा सकते हैं।
Web टैब का उपयोग करें
सर्च के बाद ऊपर दिखाई देने वाले Web टैब को चुनने से कई AI‑आधारित तत्व हट जाते हैं और पारंपरिक लिंक परिणाम दिखते हैं।
क्वेरी में “-ai” जोड़ें
कुछ मामलों में सर्च के अंत में -ai जोड़ने से AI Overview दिखाई नहीं देता और सीधे सामान्य परिणाम मिलते हैं।
AI बॉक्स के नीचे स्क्रोल करें
अक्सर डिक्शनरी परिणाम अभी भी पेज पर मौजूद होते हैं—बस AI पैनल के नीचे।
ज़्यादा स्पष्ट खोज लिखें
जैसे “define disregard” या “disregard meaning” लिखने से सिस्टम के लिए यह समझना आसान हो जाता है कि उपयोगकर्ता परिभाषा चाहता है।
यह बग एक बड़ी डिजाइन चुनौती दिखाता है। पारंपरिक सर्च इंजन क्वेरी को जानकारी की मांग मानते हैं, जबकि भाषा मॉडल अक्सर उसे निर्देश समझते हैं।
जब दोनों सिस्टम एक साथ काम करते हैं, तो अस्पष्ट भाषा से भ्रम पैदा हो सकता है। एक ही शब्द—जैसे “ignore”—या तो किसी शब्द का अर्थ पूछ सकता है या AI को निर्देश दे सकता है।
इन दोनों स्थितियों के बीच भरोसेमंद तरीके से फर्क करना अभी भी AI इंटरफ़ेस डिजाइन की एक कठिन समस्या बना हुआ है। Google का कहना है कि वह इस बग को ठीक करने पर काम कर रहा है, लेकिन यह घटना दिखाती है कि AI‑आधारित सर्च अभी भी अप्रत्याशित गलतियों के प्रति संवेदनशील हो सकता है।
Comments
0 comments