Googles AI förväxlar sökord med kommandon – ”disregard”-buggen förklarad

Rapporter visar att sökning på vissa verb fick AI-systemet att bete sig som en chatbot istället för en sökmotor. Istället för definitioner kom konversationssvar eller en gles panel med ett stort tomt utrymme ovanför de vanliga sökresultaten.

Flera ord observerades utlösa beteendet, bland annat:

• disregard
• ignore
• dismiss
• stop eller quit
• ibland remember

De underliggande ordboksresultaten fanns ofta fortfarande längre ner på sidan (t.ex. länkar till Merriam-Webster), men den trasiga AI-översikten tryckte ned dem eller skymde dem visuellt.

Varför AI:n behandlar orden som kommandon

Google har bekräftat att AI-översikter ”feltolkar vissa handlingsrelaterade frågor”. Företaget har inte offentligt presenterat en fullständig teknisk förklaring än, men det observerade beteendet liknar starkt ett klassificeringsproblem för kommandon.

Stora språkmodeller tränas att tolka instruktioner. Ord som ignore, dismiss eller disregard förekommer ofta i uppmaningar som kommandon – till exempel ”ignore previous instructions.”

När en sökfråga består av ett enda verb som ser ut som en instruktion, kan systemet felklassificera den som ett direktiv istället för en förfrågan. AI:n försöker då ”utföra” instruktionen istället för att visa information om ordet.

Denna typ av förvirring påminner om en klass av AI-säkerhetsproblem som kallas prompt injection, där en modell följer instruktioner som är inbäddade i indata istället för att utföra den avsedda uppgiften. Vid prompt-injection kan dolda eller tvetydiga instruktioner få systemet att ändra sitt beteende eller ge oväntade utdata.

I detta fall är indatan inte skadlig – den är bara tvetydig. Men felet är liknande: modellen följer vad den tror är ett kommando istället för att besvara sökfrågan.

Varför användare ser tomma eller chatbot-liknande svar

De märkliga svaren beror på att AI-översikter tar kontroll över toppen av resultatsidan när den tror att den kan generera en användbar sammanfattning.

När systemet feltolkar frågan som en instruktion, producerar det ett konversationssvar istället för informativt innehåll. Det lämnar en stor AI-panel med minimal text, medan det vanliga ordbokskortet flyttas längre ner på sidan.

För användaren ser det ut som att Google Sök plötsligt ”glömt” hur man definierar vanliga ord – trots att de korrekta resultaten fortfarande finns nedanför AI-blocket.

Inte första gången AI-översikter beter sig märkligt

Det här är inte första gången Googles AI-genererade söksammanfattningar producerar ovanliga utdata.

Kort efter att funktionen lanserades bredare 2024 dök flera virala exempel upp där AI-översikter gav bisarra råd, bland annat att man skulle tillsätta icke-giftigt lim i pizzasåsen för att osten skulle fastna bättre och att man borde äta en liten sten om dagen för mineralerna.

Google medgav senare att vissa AI-översikter var ”konstiga, felaktiga eller oanvändbara” och hänförde många till feltolkade frågor, satir i källmaterial eller informationsluckor där tillförlitliga källor saknades.

”Disregard”-buggen passar in i samma kategori: ett system som är designat för att tolka språk alltför flexibelt feltolkar användarens avsikt.

Kringgå problemet i väntan på Googles fix

Tills Google löser problemet finns några enkla knep för att återställa normal sökning.

1. Växla till webbfliken
Genom att välja Webb-filtret tar du bort många AI-genererade element och får traditionella länkresultat istället.

2. Lägg till ”-ai” i din sökning
Vissa användare undertrycker AI-sammanfattningar genom att lägga till en negativ sökoperator som -ai i frågan, vilket kan förhindra att AI-panelen visas.

3. Bläddra förbi AI-rutan
I många fall finns ordboksresultaten fortfarande under AI-sektionen, även om den översta panelen är trasig.

4. Använd mer explicit formulering
Sökfraser som ”definiera disregard” eller ”disregard betydelse” kan minska risken för att frågan tolkas som ett kommando.

Vad buggen avslöjar om AI-sökning

Felet belyser en djupare designutmaning i AI-driven sökning: språkmodeller är byggda för att tolka instruktioner, medan sökmotorer traditionellt behandlar frågor som förfrågningar om information.

När dessa två lägen överlappar kan tvetydighet få systemet att misstolka avsikten. Ett enda verb kan vara en uppslagsfråga – eller en instruktion. Att på ett tillförlitligt sätt skilja mellan de två är fortfarande ett öppet problem inom AI-gränssnittsdesign.

Google uppger att man arbetar på en fix, men incidenten visar hur sårbar AI-förstärkt sökning kan vara när modeller tolkar vardagligt språk på oväntade sätt.