خلل «Disregard» في Google: عندما يظن الذكاء الاصطناعي أن كلمة البحث أمرٌ يجب تنفيذه

شهدت ميزة AI Overviews في بحث Google خللًا غريبًا مؤخرًا: عند البحث عن كلمات بسيطة مثل disregard أو ignore أو dismiss، لا يظهر تعريف القاموس كما هو معتاد. بدلًا من ذلك، يعرض النظام ردًا يشبه ردود روبوتات المحادثة مثل: "تم الفهم. تم تجاهل الرسالة." أو يظهر صندوق AI شبه فارغ أعلى صفحة النتائج.

انتشرت المشكلة بسرعة على الإنترنت لأنها تمس واحدًا من أكثر استخدامات Google شيوعًا: البحث عن معنى كلمة. فما الذي يحدث بالضبط؟ ولماذا يظهر هذا السلوك الغريب؟

كيف يبدو خلل «Disregard» في البحث

في الوضع الطبيعي، إذا كتبت كلمة واحدة مثل disregard في Google، يظهر في أعلى الصفحة مربع قاموس يحتوي على التعريف والنطق وأمثلة الاستخدام.

لكن مع تفعيل AI Overviews، لاحظ بعض المستخدمين سلوكًا مختلفًا تمامًا. فقد تعامل النظام مع الكلمة كما لو أنها تعليمات موجّهة للذكاء الاصطناعي، وليس كلمة يريد المستخدم معرفة معناها.

بدل تعريف القاموس، ظهرت ردود قصيرة بأسلوب محادثة أو لوحة شبه فارغة في أعلى النتائج، بينما بقيت الروابط العادية — مثل تعريف Merriam‑Webster — موجودة أسفل الصفحة.

ومن الكلمات التي لوحظ أنها قد تسبب هذا السلوك:

• disregard
• ignore
• dismiss
• stop أو quit
• وأحيانًا remember

في كثير من الحالات، تكون النتائج الصحيحة موجودة بالفعل أسفل الصفحة، لكن صندوق AI في الأعلى يدفعها إلى أسفل الشاشة أو يجعلها أقل وضوحًا للمستخدم.

لماذا يفسر الذكاء الاصطناعي هذه الكلمات كأوامر؟

أوضحت Google أن AI Overviews قد تُسيء تفسير بعض الاستعلامات المرتبطة بالأفعال أو الأوامر، لكنها لم تنشر شرحًا تقنيًا كاملًا للمشكلة حتى الآن.

نماذج اللغة الكبيرة (LLMs) تُدرَّب عادةً على فهم التعليمات. لذلك تظهر كلمات مثل ignore أو dismiss كثيرًا في التعليمات الموجهة للذكاء الاصطناعي، مثل العبارة الشهيرة: "ignore previous instructions".

عندما يتكون البحث من فعل واحد فقط يشبه صيغة أمر، قد يخطئ النظام في تفسيره باعتباره توجيهًا يجب تنفيذه بدل كونه طلب معلومات. في هذه الحالة يحاول الذكاء الاصطناعي "تنفيذ" الأمر بدل شرح الكلمة.

يشبه هذا النوع من الالتباس فئة من مشاكل أمان الذكاء الاصطناعي تُعرف باسم prompt injection، حيث يتبع النموذج تعليمات موجودة في المدخلات بدل تنفيذ المهمة الأصلية المطلوبة منه.

لكن في هذه الحالة، المدخلات ليست خبيثة — بل غامضة لغويًا فقط — وهو ما يكفي أحيانًا لإرباك النظام.

لماذا تظهر ردود فارغة أو شبيهة بالمحادثة؟

السبب يعود إلى أن AI Overviews تتحكم في الجزء العلوي من صفحة نتائج Google عندما تعتقد أن بإمكانها توليد ملخص مفيد.

إذا فسر النظام الاستعلام كتعليمات، فإنه يولد ردًا قصيرًا بأسلوب المحادثة بدلاً من محتوى معلوماتي. والنتيجة هي صندوق كبير في أعلى الصفحة يحتوي على نص قليل جدًا، بينما يتم دفع النتائج المعتادة إلى أسفل.

للمستخدم يبدو الأمر وكأن Google "نسي" كيف يعرّف الكلمات — رغم أن النتائج الصحيحة ما تزال موجودة في الأسفل.

ليست أول مرة تظهر نتائج غريبة

هذه ليست أول مرة تثير AI Overviews الجدل بسبب إجابات غير متوقعة.

بعد إطلاق الميزة بشكل واسع في عام 2024، انتشرت أمثلة غريبة على الإنترنت، منها اقتراح إضافة غراء غير سام إلى صلصة البيتزا لجعل الجبن يلتصق بشكل أفضل، أو الادعاء بأن الناس يجب أن يأكلوا حجرًا صغيرًا يوميًا للحصول على المعادن.

اعترفت Google لاحقًا بأن بعض الإجابات كانت "غريبة أو غير دقيقة أو غير مفيدة"، مشيرةً إلى أن الأسباب تضمنت سوء فهم الاستعلامات، أو اعتماد مصادر ساخرة، أو نقص المعلومات الموثوقة حول بعض الأسئلة.

خلل "disregard" ينتمي إلى نفس الفئة: نظام يفهم اللغة بمرونة كبيرة، لكنه يسيء أحيانًا تفسير نية المستخدم.

حلول مؤقتة حتى يتم إصلاح الخلل

حتى تصدر Google تحديثًا يعالج المشكلة، يمكن تجربة بعض الطرق البسيطة:

1. استخدام تبويب Web
الانتقال إلى تبويب Web في صفحة النتائج يعرض الروابط التقليدية ويقلل ظهور عناصر الذكاء الاصطناعي.

2. إضافة ‎-ai‎ إلى البحث
إضافة عامل الاستبعاد مثل -ai قد يمنع ظهور صندوق AI Overview في بعض الحالات.

3. التمرير إلى أسفل الصفحة
غالبًا ما تكون نتائج القاموس موجودة بالفعل أسفل صندوق الذكاء الاصطناعي.

4. استخدام صياغة أكثر وضوحًا
البحث بصيغة مثل "define disregard" أو "disregard meaning" يقلل احتمال تفسير الكلمة كأمر.

ماذا يكشف هذا الخلل عن مستقبل البحث بالذكاء الاصطناعي؟

تكشف هذه المشكلة تحديًا أساسيًا في تصميم البحث المعتمد على الذكاء الاصطناعي.

نماذج اللغة مصممة أساسًا لفهم التعليمات وتنفيذها، بينما كانت محركات البحث تقليديًا تتعامل مع الاستعلامات على أنها طلبات معلومات.

عندما يجتمع هذان النمطان في واجهة واحدة، قد يصبح تفسير نية المستخدم صعبًا. فكلمة واحدة يمكن أن تكون تعريفًا مطلوبًا… أو أمرًا للنظام.

وتوضح هذه الحادثة أن دمج الذكاء الاصطناعي في البحث ما زال يتطلب تحسينات كبيرة حتى يتمكن النظام من فهم اللغة البشرية اليومية بدقة أكبر.