وتضمنت المقارنات الأخرى ما يلي:

• أظهرت تقارير أن عبارة عن وجود المستخدم وحده مع شخص مسلم تضمنت لغة مرتبطة بالسلامة، مثل مغادرة المنطقة أو طلب المساعدة إذا شعر بالخطر.
• في المقابل، قيل إن العبارة نفسها عند ذكر شخص إسرائيلي تلقت ردًا أكثر حيادًا، ما دفع إلى اتهامات بالإسلاموفوبيا.
• أما الصيغة التي ذكرت شخصًا أمريكيًا، فقيل إن الرد وصف الموقف بأنه «مقبول تمامًا»، ونصح بالحديث العادي وطرح أسئلة مباشرة والتحلي بالأدب.
• وبشأن شخص بريطاني، تضمنت الإجابة نصائح نمطية لكنها غير تهديدية، مثل تقديم الشاي، ومناقشة الطقس، والحفاظ على مسافة مهذبة.
• كما تحدثت تقارير عن إجابة أقل إيجابية عند ذكر شخص أوغندي، إلا أن الصياغة الدقيقة لا تظهر بصورة متسقة في الأدلة المتاحة هنا.

المشكلة لم تكن في ذكر السلامة بحد ذاته. فمن الطبيعي أن يقدم النظام إرشادات عامة إذا قال المستخدم إنه يشعر بالتهديد. موضع الاعتراض هو أن التحذير بدا وكأنه يتغير تبعًا للهوية المذكورة، رغم أن بنية السؤال تكاد تكون متطابقة. وهذا قد يحوّل سياسة سلامة عامة إلى إيحاء بأن بعض المجموعات أكثر خطورة بطبيعتها من غيرها.

ردود فعل المستخدمين والناشطين

سلّط مستخدمو Reddit الضوء على ما وصفوه بمعيار مزدوج، بينما قال Futurism إن لغة الاستجابة الطارئة تعزز صورًا نمطية عرقية ضارة. كما ركز ناشطون عبر الإنترنت على الفارق المزعوم بين السؤالين المتعلقين بشخص مسلم وشخص إسرائيلي، ووصفوه بأنه تحيز معادٍ للمسلمين.

ونشر الإمام عمر سليمان ردًا يرفض افتراض أن الشخص المسلم خطير لمجرد دينه. وفي لقطة شاشة لاحقة نُسبت إلى حسابه، وصفت الإجابة وجود المستخدم مع شخص مسلم بأنه أمر طبيعي وآمن، وأكدت أن مشاركة الدين لا تحدد شخصية الفرد أو مستوى التهديد الذي يمثله.

وتثبت هذه الصياغة اللاحقة أن ردًا مختلفًا عُرض في وقت ما، لكنها لا توضح متى تغيرت الإجابة، ولا ما إذا كان التغيير طُبق على جميع المستخدمين، ولا ما إذا كانت Google أجرته تحديدًا ردًا على منشور سليمان.

ماذا قالت Google؟

أفادت التغطيات المتاحة بأن Google أقرت بأن النتائج في هذه الفئة «ليست كما ينبغي»، وقالت إنها تعمل على إدخال تحسينات. ويتوافق ذلك مع آلية Google العامة التي تتيح للمستخدمين الإبلاغ عن الإجابات غير الدقيقة أو المتحيزة أو الإشكالية عبر أدوات الملاحظات الموجودة أسفل ملخص الذكاء الاصطناعي.

ولا تتضمن المواد المتاحة تفسيرًا تقنيًا مفصلًا من Google يحدد سبب اختلاف الإجابات. لذلك لا يمكن الجزم بما إذا كانت النتائج نتجت أساسًا عن سلوك النموذج، أو عن المحتوى الذي استُرجع من الويب، أو عن منطق أنظمة السلامة، أو عن تفاعل هذه العوامل معًا.

ليست المشكلة محصورة في هذه العبارات

تظهر AI Overviews في موضع بارز أعلى نتائج Google، ما قد يمنح الإجابة المولدة مظهرًا من authority حتى عندما تكون غير مدعومة أو خاطئة. وقد تعرضت الميزة سابقًا لانتقادات بسبب توصيات غريبة، من بينها اقتراح وضع الغراء على البيتزا وتناول الصخور، فضلًا عن تكرار ادعاء كاذب بأن باراك أوباما مسلم.

كما أثارت تقارير أخرى مخاوف بشأن معلومات صحية غير دقيقة في الملخصات التي ينتجها الذكاء الاصطناعي. ووفق تحليل أُشير إليه في تقرير Futurism، بلغت دقة الملخصات المولدة بالذكاء الاصطناعي نحو 91%، وهي نسبة قد تبدو مرتفعة، لكنها تعني مع ذلك عددًا كبيرًا من الإجابات الخاطئة عند التعامل مع حجم عمليات البحث الهائل لدى Google.

أما التفاصيل المحددة المتعلقة بادعاءات توليد صور عرقية غير دقيقة عبر Gemini، فلا توثقها المصادر المتاحة هنا بما يكفي لاعتبارها حقائق مثبتة. لكن الوقائع الأخرى تقدم مؤشرًا على مشكلة أوسع: يمكن للأنظمة المصممة لتلخيص المعلومات أن تنتج إجابات واثقة، لكنها مؤذية اجتماعيًا أو خاطئة واقعيًا، ثم تحتاج إلى تصحيح بعد أن يكشفها المستخدمون.

ما الذي ينبغي أن يفعله مستخدمو البحث المدعوم بالذكاء الاصطناعي؟

من الأفضل التعامل مع AI Overview باعتبارها نقطة بداية لا مرجعًا نهائيًا، خصوصًا عندما تتناول الإجابة سلامة شخص أو هويته أو دينه أو جنسيته. ويمكن للمستخدم مقارنة صيغ بحث متوازية، وفتح الروابط الأصلية، والإبلاغ عن النتائج المتحيزة أو غير الدقيقة من خلال أدوات الملاحظات في Google.

والأهم أن تقييم الخطر يجب أن يستند إلى السلوك والظروف الفعلية، لا إلى جنسية الشخص أو عرقه أو دينه. فالجدل يوضح أن هذا الفرق يجب أن يكون جزءًا من قواعد السلامة في النموذج، وكذلك من اختبارات التحيز التي تسبق وصول نتائج البحث إلى الجمهور.

وتضمنت المقارنات الأخرى ما يلي:

• أظهرت تقارير أن عبارة عن وجود المستخدم وحده مع شخص مسلم تضمنت لغة مرتبطة بالسلامة، مثل مغادرة المنطقة أو طلب المساعدة إذا شعر بالخطر.
• في المقابل، قيل إن العبارة نفسها عند ذكر شخص إسرائيلي تلقت ردًا أكثر حيادًا، ما دفع إلى اتهامات بالإسلاموفوبيا.
• أما الصيغة التي ذكرت شخصًا أمريكيًا، فقيل إن الرد وصف الموقف بأنه «مقبول تمامًا»، ونصح بالحديث العادي وطرح أسئلة مباشرة والتحلي بالأدب.
• وبشأن شخص بريطاني، تضمنت الإجابة نصائح نمطية لكنها غير تهديدية، مثل تقديم الشاي، ومناقشة الطقس، والحفاظ على مسافة مهذبة.
• كما تحدثت تقارير عن إجابة أقل إيجابية عند ذكر شخص أوغندي، إلا أن الصياغة الدقيقة لا تظهر بصورة متسقة في الأدلة المتاحة هنا.

المشكلة لم تكن في ذكر السلامة بحد ذاته. فمن الطبيعي أن يقدم النظام إرشادات عامة إذا قال المستخدم إنه يشعر بالتهديد. موضع الاعتراض هو أن التحذير بدا وكأنه يتغير تبعًا للهوية المذكورة، رغم أن بنية السؤال تكاد تكون متطابقة. وهذا قد يحوّل سياسة سلامة عامة إلى إيحاء بأن بعض المجموعات أكثر خطورة بطبيعتها من غيرها.

ردود فعل المستخدمين والناشطين

سلّط مستخدمو Reddit الضوء على ما وصفوه بمعيار مزدوج، بينما قال Futurism إن لغة الاستجابة الطارئة تعزز صورًا نمطية عرقية ضارة. كما ركز ناشطون عبر الإنترنت على الفارق المزعوم بين السؤالين المتعلقين بشخص مسلم وشخص إسرائيلي، ووصفوه بأنه تحيز معادٍ للمسلمين.

ونشر الإمام عمر سليمان ردًا يرفض افتراض أن الشخص المسلم خطير لمجرد دينه. وفي لقطة شاشة لاحقة نُسبت إلى حسابه، وصفت الإجابة وجود المستخدم مع شخص مسلم بأنه أمر طبيعي وآمن، وأكدت أن مشاركة الدين لا تحدد شخصية الفرد أو مستوى التهديد الذي يمثله.

وتثبت هذه الصياغة اللاحقة أن ردًا مختلفًا عُرض في وقت ما، لكنها لا توضح متى تغيرت الإجابة، ولا ما إذا كان التغيير طُبق على جميع المستخدمين، ولا ما إذا كانت Google أجرته تحديدًا ردًا على منشور سليمان.

ماذا قالت Google؟

أفادت التغطيات المتاحة بأن Google أقرت بأن النتائج في هذه الفئة «ليست كما ينبغي»، وقالت إنها تعمل على إدخال تحسينات. ويتوافق ذلك مع آلية Google العامة التي تتيح للمستخدمين الإبلاغ عن الإجابات غير الدقيقة أو المتحيزة أو الإشكالية عبر أدوات الملاحظات الموجودة أسفل ملخص الذكاء الاصطناعي.

ولا تتضمن المواد المتاحة تفسيرًا تقنيًا مفصلًا من Google يحدد سبب اختلاف الإجابات. لذلك لا يمكن الجزم بما إذا كانت النتائج نتجت أساسًا عن سلوك النموذج، أو عن المحتوى الذي استُرجع من الويب، أو عن منطق أنظمة السلامة، أو عن تفاعل هذه العوامل معًا.

ليست المشكلة محصورة في هذه العبارات

تظهر AI Overviews في موضع بارز أعلى نتائج Google، ما قد يمنح الإجابة المولدة مظهرًا من authority حتى عندما تكون غير مدعومة أو خاطئة. وقد تعرضت الميزة سابقًا لانتقادات بسبب توصيات غريبة، من بينها اقتراح وضع الغراء على البيتزا وتناول الصخور، فضلًا عن تكرار ادعاء كاذب بأن باراك أوباما مسلم.

كما أثارت تقارير أخرى مخاوف بشأن معلومات صحية غير دقيقة في الملخصات التي ينتجها الذكاء الاصطناعي. ووفق تحليل أُشير إليه في تقرير Futurism، بلغت دقة الملخصات المولدة بالذكاء الاصطناعي نحو 91%، وهي نسبة قد تبدو مرتفعة، لكنها تعني مع ذلك عددًا كبيرًا من الإجابات الخاطئة عند التعامل مع حجم عمليات البحث الهائل لدى Google.

أما التفاصيل المحددة المتعلقة بادعاءات توليد صور عرقية غير دقيقة عبر Gemini، فلا توثقها المصادر المتاحة هنا بما يكفي لاعتبارها حقائق مثبتة. لكن الوقائع الأخرى تقدم مؤشرًا على مشكلة أوسع: يمكن للأنظمة المصممة لتلخيص المعلومات أن تنتج إجابات واثقة، لكنها مؤذية اجتماعيًا أو خاطئة واقعيًا، ثم تحتاج إلى تصحيح بعد أن يكشفها المستخدمون.

ما الذي ينبغي أن يفعله مستخدمو البحث المدعوم بالذكاء الاصطناعي؟

من الأفضل التعامل مع AI Overview باعتبارها نقطة بداية لا مرجعًا نهائيًا، خصوصًا عندما تتناول الإجابة سلامة شخص أو هويته أو دينه أو جنسيته. ويمكن للمستخدم مقارنة صيغ بحث متوازية، وفتح الروابط الأصلية، والإبلاغ عن النتائج المتحيزة أو غير الدقيقة من خلال أدوات الملاحظات في Google.

والأهم أن تقييم الخطر يجب أن يستند إلى السلوك والظروف الفعلية، لا إلى جنسية الشخص أو عرقه أو دينه. فالجدل يوضح أن هذا الفرق يجب أن يكون جزءًا من قواعد السلامة في النموذج، وكذلك من اختبارات التحيز التي تسبق وصول نتائج البحث إلى الجمهور.