أوضحت Google أن AI Overviews قد تُسيء تفسير بعض الاستعلامات المرتبطة بالأفعال أو الأوامر، لكنها لم تنشر شرحًا تقنيًا كاملًا للمشكلة حتى الآن.
نماذج اللغة الكبيرة (LLMs) تُدرَّب عادةً على فهم التعليمات. لذلك تظهر كلمات مثل ignore أو dismiss كثيرًا في التعليمات الموجهة للذكاء الاصطناعي، مثل العبارة الشهيرة: "ignore previous instructions".
عندما يتكون البحث من فعل واحد فقط يشبه صيغة أمر، قد يخطئ النظام في تفسيره باعتباره توجيهًا يجب تنفيذه بدل كونه طلب معلومات. في هذه الحالة يحاول الذكاء الاصطناعي "تنفيذ" الأمر بدل شرح الكلمة.
يشبه هذا النوع من الالتباس فئة من مشاكل أمان الذكاء الاصطناعي تُعرف باسم prompt injection، حيث يتبع النموذج تعليمات موجودة في المدخلات بدل تنفيذ المهمة الأصلية المطلوبة منه.
لكن في هذه الحالة، المدخلات ليست خبيثة — بل غامضة لغويًا فقط — وهو ما يكفي أحيانًا لإرباك النظام.
السبب يعود إلى أن AI Overviews تتحكم في الجزء العلوي من صفحة نتائج Google عندما تعتقد أن بإمكانها توليد ملخص مفيد.
إذا فسر النظام الاستعلام كتعليمات، فإنه يولد ردًا قصيرًا بأسلوب المحادثة بدلاً من محتوى معلوماتي. والنتيجة هي صندوق كبير في أعلى الصفحة يحتوي على نص قليل جدًا، بينما يتم دفع النتائج المعتادة إلى أسفل.
للمستخدم يبدو الأمر وكأن Google "نسي" كيف يعرّف الكلمات — رغم أن النتائج الصحيحة ما تزال موجودة في الأسفل.
هذه ليست أول مرة تثير AI Overviews الجدل بسبب إجابات غير متوقعة.
بعد إطلاق الميزة بشكل واسع في عام 2024، انتشرت أمثلة غريبة على الإنترنت، منها اقتراح إضافة غراء غير سام إلى صلصة البيتزا لجعل الجبن يلتصق بشكل أفضل، أو الادعاء بأن الناس يجب أن يأكلوا حجرًا صغيرًا يوميًا للحصول على المعادن.
اعترفت Google لاحقًا بأن بعض الإجابات كانت "غريبة أو غير دقيقة أو غير مفيدة"، مشيرةً إلى أن الأسباب تضمنت سوء فهم الاستعلامات، أو اعتماد مصادر ساخرة، أو نقص المعلومات الموثوقة حول بعض الأسئلة.
خلل "disregard" ينتمي إلى نفس الفئة: نظام يفهم اللغة بمرونة كبيرة، لكنه يسيء أحيانًا تفسير نية المستخدم.
حتى تصدر Google تحديثًا يعالج المشكلة، يمكن تجربة بعض الطرق البسيطة:
1. استخدام تبويب Web
الانتقال إلى تبويب Web في صفحة النتائج يعرض الروابط التقليدية ويقلل ظهور عناصر الذكاء الاصطناعي.
2. إضافة -ai إلى البحث
إضافة عامل الاستبعاد مثل -ai قد يمنع ظهور صندوق AI Overview في بعض الحالات.
4. استخدام صياغة أكثر وضوحًا
البحث بصيغة مثل "define disregard" أو "disregard meaning" يقلل احتمال تفسير الكلمة كأمر.
تكشف هذه المشكلة تحديًا أساسيًا في تصميم البحث المعتمد على الذكاء الاصطناعي.
نماذج اللغة مصممة أساسًا لفهم التعليمات وتنفيذها، بينما كانت محركات البحث تقليديًا تتعامل مع الاستعلامات على أنها طلبات معلومات.
عندما يجتمع هذان النمطان في واجهة واحدة، قد يصبح تفسير نية المستخدم صعبًا. فكلمة واحدة يمكن أن تكون تعريفًا مطلوبًا… أو أمرًا للنظام.
وتوضح هذه الحادثة أن دمج الذكاء الاصطناعي في البحث ما زال يتطلب تحسينات كبيرة حتى يتمكن النظام من فهم اللغة البشرية اليومية بدقة أكبر.
Comments
0 comments