Błąd „Disregard” w Google: Dlaczego AI Overviews traktuje wyszukiwane słowa jak komendy?

W normalnym wyszukiwaniu Google wpisanie pojedynczego słowa, np. disregard, zazwyczaj wywołuje karcie słownikową z definicją, wymową i przykładami. Jednak przy włączonej funkcji AI Overviews niektórzy użytkownicy zobaczyli coś zupełnie innego.

Zgłoszenia pokazują, że wyszukiwanie niektórych czasowników sprawiało, iż system AI zachowywał się jak chatbot, a nie wyszukiwarka. Zamiast definicji zwracał odpowiedzi konwersacyjne lub skąpe panele, pozostawiając dużą pustą przestrzeń nad standardowymi wynikami.

Zaobserwowano, że problematyczne słowa to między innymi:

• disregard
• ignore
• dismiss
• stop lub quit
• czasami remember

Podstawowe wyniki słownikowe często wciąż istniały niżej na stronie (np. linki do Merriam-Webster), ale źle działający panel AI przesuwał je poniżej widocznej części ekranu lub wizualnie je zasłaniał.

Dlaczego AI traktuje te słowa jak polecenia?

Google przyznało, że AI Overviews „błędnie interpretuje niektóre zapytania związane z działaniami”. Firma nie opublikowała jeszcze pełnego technicznego wyjaśnienia, ale obserwowane zachowanie silnie przypomina problem z klasyfikacją poleceń.

Duże modele językowe są szkolone do interpretowania instrukcji. Słowa takie jak ignore, dismiss czy disregard często pojawiają się w promptach jako komendy – na przykład „ignore previous instructions” („zignoruj poprzednie instrukcje”).

Gdy zapytanie składa się z pojedynczego czasownika przypominającego instrukcję, system może błędnie zaklasyfikować je jako dyrektywę, a nie prośbę o informację. AI próbuje wtedy „wykonać” polecenie, zamiast zwrócić informacje o samym słowie.

Ten rodzaj pomyłki przypomina klasę problemów bezpieczeństwa AI znaną jako prompt injection, gdzie model wykonuje instrukcje ukryte w danych wejściowych zamiast realizować zamierzone zadanie. W scenariuszach prompt injection ukryte lub niejednoznaczne instrukcje mogą spowodować, że system zmieni swoje zachowanie lub wyniki w nieoczekiwany sposób.

W tym przypadku dane wejściowe nie są złośliwe – są po prostu niejednoznaczne. Ale sposób działania błędu jest podobny: model wykonuje to, co uważa za polecenie, zamiast odpowiedzieć na zapytanie.

Dlaczego użytkownicy widzą puste lub chatbotowe odpowiedzi?

Dziwne odpowiedzi pojawiają się, ponieważ AI Overviews przejmuje kontrolę nad górną częścią strony wyników, gdy uzna, że może wygenerować użyteczne podsumowanie.

Gdy system błędnie zinterpretuje zapytanie jako instrukcję, generuje odpowiedź konwersacyjną zamiast treści informacyjnej. To pozostawia duży panel AI z minimalną ilością tekstu, podczas gdy zwykła karta słownikowa jest przesunięta niżej na stronie.

Dla użytkownika efekt wygląda tak, jakby wyszukiwarka Google nagle „zapomniała”, jak definiować powszechne słowa – mimo że prawidłowe wyniki wciąż istnieją pod blokiem AI.

To nie pierwszy dziwny wynik AI Overviews

Nie jest to pierwszy raz, gdy generowane przez AI podsumowania wyszukiwania Google dają nietypowe rezultaty.

Krótko po szerszym wdrożeniu funkcji w 2024 roku, kilka wiralowych przykładów pokazało, że AI Overviews udzielało dziwacznych rad, w tym sugerując dodawanie nietoksycznego kleju do sosu pomidorowego na pizzy, aby ser lepiej się trzymał oraz twierdząc, że ludzie powinni zjeść jeden mały kamień dziennie dla minerałów.

Google później przyznało, że niektóre odpowiedzi AI Overviews były „dziwne, niedokładne lub niepomocne”, przypisując wiele z nich błędnie zinterpretowanym zapytaniom, satyrze pojawiającej się w materiałach źródłowych lub lukom informacyjnym tam, gdzie brakowało wiarygodnych źródeł.

Błąd „disregard” wpisuje się w tę samą ogólną kategorię: system zaprojektowany do zbyt elastycznego interpretowania języka kończy na błędnym zrozumieniu intencji użytkownika.

Tymczasowe rozwiązania do czasu naprawy przez Google

Do czasu rozwiązania problemu przez Google kilka prostych trików może pomóc przywrócić normalne działanie wyszukiwarki.

1. Przełącz się na zakładkę „Web”
Wybranie filtra Web usuwa wiele elementów generowanych przez AI i wyświetla tradycyjne wyniki linków.

2. Dodaj „-ai” do zapytania
Niektórzy użytkownicy blokują podsumowania AI, dodając do zapytania operator wykluczający, np. -ai, co może zapobiec pojawieniu się panelu AI Overviews.

3. Przewiń panel AI
W wielu przypadkach wyniki słownikowe wciąż pojawiają się poniżej sekcji AI, nawet jeśli górny panel jest uszkodzony.

4. Używaj bardziej precyzyjnych sformułowań
Wyszukiwanie fraz takich jak „define disregard” lub „disregard meaning” może zmniejszyć ryzyko, że zapytanie zostanie zinterpretowane jako polecenie.

Co ujawnia ten błąd o wyszukiwaniu z AI?

Usterka uwypukla głębsze wyzwanie projektowe w wyszukiwaniu napędzanym AI: modele językowe są zbudowane do interpretowania instrukcji, podczas gdy wyszukiwarki tradycyjnie traktują zapytania jako prośby o informacje.

Gdy te dwa tryby się nakładają, niejednoznaczność może spowodować, że system źle odczyta intencję. Pojedynczy czasownik może być zapytaniem słownikowym – lub instrukcją. Rozróżnianie tych dwóch przypadków w sposób niezawodny wciąż pozostaje otwartym problemem w projektowaniu interfejsów AI.

Google twierdzi, że pracuje nad naprawą, ale incydent pokazuje, jak kruche może być wyszukiwanie wspomagane AI, gdy modele interpretują codzienny język w nieoczekiwany sposób.