Баг «Disregard» в Google AI Overviews: когда поисковый запрос воспринимается как команда

Почему ИИ воспринимает слова как команды

Google подтвердил, что AI Overviews могут «неправильно интерпретировать некоторые запросы, связанные с действиями», хотя подробного технического объяснения компания пока не опубликовала.

Поведение системы очень похоже на проблему классификации команд.

Большие языковые модели обучены интерпретировать инструкции. В промптах часто встречаются фразы вроде:

• «ignore previous instructions»
• «dismiss this message»

Когда пользователь вводит одно слово‑глагол, система иногда принимает его не за объект поиска, а за директиву, которую нужно выполнить. В результате модель пытается «исполнить» команду вместо того, чтобы объяснить значение слова.

Такой эффект напоминает известный класс уязвимостей ИИ — prompt injection. В подобных случаях модель может следовать инструкциям, содержащимся во входных данных, вместо выполнения исходной задачи.

Здесь входные данные не вредоносные — просто неоднозначные. Но механизм сбоя похож: система трактует слово как команду.

Почему появляются пустые или «чатовые» ответы

Когда Google считает, что может сформировать полезное резюме, AI Overviews занимает верхнюю часть страницы результатов.

Если система ошибочно воспринимает запрос как команду, она генерирует короткий разговорный ответ вместо информации. В результате:

• сверху появляется большая AI‑панель;
• текст в ней минимален или странен;
• обычные результаты поиска смещаются вниз.

Со стороны это выглядит так, будто Google внезапно «разучился» объяснять значение обычных слов, хотя правильные результаты всё ещё есть ниже.

Это не первый странный ответ AI Overviews

AI‑резюме Google уже попадали в заголовки из‑за странных ответов.

После широкого запуска функции в 2024 году пользователи заметили несколько вирусных примеров, где система советовала:

• добавить нетоксичный клей в соус для пиццы, чтобы сыр лучше держался;
• есть по маленькому камню в день для получения минералов.

Google признал, что некоторые ответы AI Overviews были «странными, неточными или бесполезными». Компания объяснила это неправильной интерпретацией запросов, сатирическими источниками и нехваткой надёжной информации по редким вопросам.

Баг с «disregard» относится к той же категории: система, созданная для гибкой интерпретации языка, иногда неверно понимает намерение пользователя.

Как обойти проблему, пока её не исправили

Пока Google готовит исправление, есть несколько простых способов вернуть обычные результаты поиска.

1. Переключиться на вкладку Web
Она показывает классические ссылки и часто убирает AI‑резюме из верхней части страницы.

2. Добавить «-ai» к поисковому запросу
Некоторые пользователи используют оператор -ai, чтобы снизить вероятность появления AI Overviews.

3. Просто прокрутить страницу вниз
Во многих случаях словарные определения всё ещё находятся ниже AI‑панели.

4. Сделать запрос более явным
Фразы вроде «define disregard» или «disregard meaning» чаще воспринимаются как запрос определения.

Что этот баг говорит о будущем поиска

Инцидент показывает фундаментальную проблему поиска, усиленного ИИ.

Традиционные поисковые системы рассматривают запрос как просьбу найти информацию. Языковые модели, наоборот, обучены интерпретировать текст как инструкции.

Когда эти два режима пересекаются, возникает неоднозначность: одно слово может быть и словарным запросом, и командой. Надёжно различать эти случаи — всё ещё сложная задача для современных AI‑интерфейсов.

Google заявляет, что работает над исправлением. Но сама ошибка стала наглядным примером того, насколько хрупкими могут быть системы поиска, когда они начинают интерпретировать язык слишком буквально.