Почему Google AI Overviews ломается на словах вроде «disregard» и «ignore»

Примеры слов, которые вызывали сбой:

• disregard
• ignore
• dismiss
• иногда remember

Вместо того чтобы показать стандартную карточку словаря, AI Overviews отвечает так, будто пользователь дал системе инструкцию, а не попросил объяснить слово.

Почему ИИ принимает слова за команды

Google пока не раскрыла точную техническую причину. Однако компания признала, что система ошибочно трактует некоторые «действующие» запросы.

По наблюдениям специалистов и журналистов, поведение похоже на ошибку классификации команд или на проблему, связанную с механизмами prompt injection.

Prompt injection — это уязвимость, при которой ИИ начинает следовать инструкциям, найденным в тексте или данных, вместо того чтобы выполнять исходную задачу пользователя.

В случае с этим багом модель, похоже, интерпретирует слово вроде “ignore” не как объект поиска, а как императивную команду — «игнорируй». В результате она переключается в режим выполнения инструкции.

Почему появляется пустой или странный ответ

В обычной ситуации одно слово в поиске Google запускает словарную карточку с определением.

Но при срабатывании бага происходит следующее:

• блок AI Overviews появляется в верхней части страницы
• ИИ генерирует короткий «разговорный» ответ вроде «Message disregarded»
• под этим блоком часто остаётся большое пустое пространство

Из‑за этого стандартные результаты (например, определения из словарей вроде Merriam‑Webster) оказываются ниже первого экрана, хотя технически они всё ещё присутствуют в выдаче.

По данным 9to5Google, даже уточнение запроса вроде “disregard definition” иногда не решает проблему.

Похожие странные ответы AI Overviews в прошлом

Это не первый случай, когда AI‑резюме Google вызывают вопросы.

После запуска функции в 2024 году пользователи заметили несколько вирусных примеров:

• система советовала добавить клей в пиццу, чтобы сыр лучше держался
• в другом ответе утверждалось, что человеку стоит есть по одному камню в день для получения минералов

Google позже объяснила, что такие ошибки возникают из‑за неправильной интерпретации запросов, слабых источников или сатирического контента, который система не всегда распознаёт.

Что можно сделать, пока баг не исправлен

Если AI Overviews ломает выдачу, есть несколько временных способов обойти проблему:

• открыть вкладку Web в поиске — она показывает классические ссылки без AI‑резюме
• добавить к запросу оператор -AI, который иногда подавляет блок AI Overviews
• просто прокрутить страницу ниже, где обычно остаются обычные результаты и словарные определения

Насколько подтверждена проблема

Сам факт сбоя подтверждён несколькими технологическими изданиями и комментариями Google.

Однако утверждение, что это точно уязвимость prompt injection, пока остаётся предположением. Корректнее говорить, что поведение системы похоже на ошибку интерпретации команд или командную классификацию, но точная внутренняя причина Google публично не раскрыта.

Тем не менее ситуация показывает одну из сложностей современных ИИ‑поисковиков: когда система одновременно пытается быть и поисковой машиной, и чат‑ботом, граница между запросом и командой иногда начинает размываться.