Одинаковый запрос — разные предупреждения: Google AI Overview столкнулся с обвинениями в предвзятости

Проблема заключалась не в самом упоминании личной безопасности. Если человек прямо говорит, что ему угрожают, общий совет обратиться за помощью может быть уместен. Вопрос вызвало то, что предупреждение, судя по опубликованным примерам, менялось в зависимости от названной идентичности при почти одинаковой структуре запроса. В таком виде нейтральная мера предосторожности может выглядеть как намёк, будто представители одних групп по природе опаснее других.

Реакция пользователей и активистов

Пользователи Reddit назвали различия двойными стандартами, а Futurism охарактеризовал экстренные рекомендации как способные закреплять расовые стереотипы. Онлайн-активисты отдельно обратили внимание на контраст между запросами о мусульманине и израильтянине, назвав его проявлением антимусульманской предвзятости.

Имам Омар Сулейман поделился ответом, в котором отверг саму идею считать мусульманина опасным только из-за его веры. На более позднем скриншоте, приписываемом его аккаунту, говорилось, что находиться наедине с мусульманином — обычная и безопасная ситуация, а общая религия не определяет характер человека и уровень угрозы.

Однако этот скриншот подтверждает лишь то, что в какой-то момент был показан другой ответ. Из доступных материалов нельзя установить, когда именно он изменился, был ли новый вариант применён ко всем пользователям и внесла ли Google изменения непосредственно после публикации Сулеймана.

Что заявила Google

Согласно имеющимся сообщениям, Google признала, что результаты в этой категории «не должны выглядеть таким образом», и заявила, что работает над улучшениями. Компания также предлагает пользователям сообщать о неточных, предвзятых или иных проблемных AI Overviews через кнопки обратной связи под блоком ответа.

Подробного технического объяснения от Google в предоставленных материалах нет. Поэтому нельзя утверждать, что именно стало причиной неравных ответов: поведение самой модели, найденные в интернете материалы, логика системы безопасности или сочетание этих факторов.

Почему этот случай важнее одного набора запросов

AI Overviews размещаются в верхней части страницы Google Search, поэтому сгенерированный текст может восприниматься как авторитетный ответ даже тогда, когда он ошибочен или не имеет достаточной опоры в источниках. Ранее функцию критиковали за абсурдные рекомендации — например, положить клей на пиццу или есть камни, — а также за повторение ложного утверждения, будто Барак Обама был мусульманином.

Другие расследования указывали на неточную медицинскую информацию в автоматически созданных сводках. Отдельный анализ, о котором писал Futurism, оценил точность таких сводок примерно в 91%. Даже при таком показателе на огромном масштабе Google это означает значительное количество ошибочных ответов.

Предоставленные источники не подтверждают конкретные детали утверждений о якобы неточной расовой генерации изображений в Gemini, поэтому считать их установленным фактом нельзя. Но они указывают на более широкую, повторяющуюся проблему: системы, призванные кратко пересказывать информацию, способны уверенно выдавать социально вредные или фактически ложные ответы, а исправления нередко появляются уже после того, как пользователи обнаруживают ошибку.

Как пользоваться ответами ИИ в поиске

AI Overview стоит воспринимать как отправную точку, а не как окончательный источник — особенно если ответ касается безопасности, религии, национальности или личности человека. Полезно сравнить похожие запросы, открыть ссылки под сводкой и сообщить о предвзятом или неточном результате через инструменты Google.

Главный принцип здесь прост: личную безопасность следует оценивать по поведению человека и конкретным обстоятельствам, а не выводить из его национальности, расы или религии. Этот скандал показывает, что такое различие должно быть заложено и в правила безопасности модели, и в процедуры проверки поисковых ответов до их публикации.