En normal Google-søgning på et enkelt ord som disregard udløser typisk et ordbogskort med definition, udtale og eksempler. Men med AI Overviews aktiveret oplevede nogle brugere noget helt andet.

Rapporter viser, at søgninger på bestemte udsagnsord fik AI-systemet til at opføre sig som en chatbot i stedet for en søgemaskine. I stedet for definitioner kom der samtaleagtige svar eller sparsomme paneler, der efterlod et stort tomt område over de almindelige søgeresultater.

Flere ord blev observeret at udløse fejlen, herunder:

• disregard
• ignore
• dismiss
• stop eller quit
• i nogle tilfælde remember

De underliggende ordbogsresultater fandtes ofte stadig længere nede på siden (fx links til Merriam-Webster), men det defekte AI Overview skubbede dem ned under folden eller skjulte dem visuelt.

Hvorfor AI'en behandler disse ord som kommandoer

Google har erkendt, at AI Overviews 'misforstår nogle handlingsrelaterede forespørgsler'. Virksomheden har endnu ikke offentliggjort en fuld teknisk forklaring, men den observerede adfærd minder meget om et klassifikationsproblem.

Store sprogmodeller er trænet til at fortolke instruktioner. Ord som ignore, dismiss eller disregard optræder ofte i prompter som kommandoer – for eksempel 'ignore previous instructions'.

Når en søgeforespørgsel består af et enkelt udsagnsord, der ligner en instruktion, kan systemet fejlklassificere det som en direktiv i stedet for en opslagsforespørgsel. AI'en forsøger så at 'udføre' instruktionen i stedet for at returnere information om selve ordet.

Denne form for forvirring minder om en klasse af AI-sikkerhedsproblemer kendt som prompt injection, hvor en model følger instruktioner, der er gemt i inputdata, i stedet for at udføre den tilsigtede opgave. I prompt-injection-scenarier kan skjulte eller tvetydige instruktioner få systemet til at ændre adfærd eller output uventet.

I dette tilfælde er inputtet ikke ondsindet – det er blot tvetydigt. Men fejltilstanden er den samme: Modellen følger, hvad den tror er en kommando, i stedet for at besvare søgeforespørgslen.

Hvorfor brugere ser tomme eller chatbot-lignende svar

De mærkelige svar opstår, fordi AI Overviews tager kontrol over toppen af resultatsiden, når den mener, den kan generere et nyttigt resumé.

Når systemet fejlfortolker forespørgslen som en instruktion, producerer det et samtaleagtigt svar i stedet for informationsindhold. Det efterlader et stort AI-panel med minimal tekst, mens det sædvanlige ordbogskort skubbes længere ned på siden.

For brugerne ser det ud, som om Google-søgning pludselig har 'glemt', hvordan man definerer almindelige ord – selvom de korrekte resultater stadig findes under AI-blokken.

Ikke første gang med bizarre AI Overviews-resultater

Det er ikke første gang, Googles AI-genererede søgeresuméer har produceret usædvanlige output.

Kort efter funktionens bredere lancering i 2024 dukkede flere virale eksempler op, hvor AI Overviews gav bizarre råd – herunder at tilsætte ikke-giftig lim til pizzasauce for at få osten til at sidde bedre fast og at man burde spise en lille sten om dagen for mineralernes skyld.

Google erkendte senere, at nogle AI Overviews-svar var 'mærkelige, unøjagtige eller uhensigtsmæssige', og tilskrev mange af dem til misforståede forespørgsler, satire i kildematerialet eller informationshuller, hvor pålidelige kilder var knappe.

'Disregard'-buggen passer ind i samme kategori: Et system, der er designet til at fortolke sprog for fleksibelt, ender med at misforstå brugerens hensigt.

Midlertidige løsninger indtil Google retter fejlen

Indtil Google løser problemet, kan et par simple tricks hjælpe med at genoprette normal søgeadfærd.

1. Skift til fanen 'Web'
Ved at vælge filteret Web fjernes mange AI-genererede elementer, og der vises i stedet traditionelle linkresultater.

2. Tilføj '-ai' til din søgning
Nogle brugere undertrykker AI-resuméer ved at tilføje en negativ søgeoperator som -ai til forespørgslen, hvilket kan forhindre AI Overview-panelet i at vises.

3. Scroll forbi AI-boksen
I mange tilfælde findes ordbogsresultaterne stadig under AI-sektionen, selv når toppanelet er i stykker.

4. Brug mere præcise formuleringer
Søgninger som 'define disregard' eller 'disregard meaning' kan reducere risikoen for, at forespørgslen bliver fortolket som en kommando.

Hvad fejlen afslører om AI-søgning

Fejlen fremhæver en dybere designudfordring i AI-drevet søgning: Sprogmodeller er bygget til at fortolke instruktioner, mens søgemaskiner traditionelt behandler forespørgsler som anmodninger om information.

Når disse to tilstande overlapper, kan tvetydighed få systemet til at misforstå hensigten. Et enkelt udsagnsord kan være et ordbogsopslag – eller en instruktion. At skelne pålideligt mellem de to er stadig et åbent problem inden for AI-grænsefladedesign.

Google siger, at de arbejder på en løsning, men episoden viser, hvor skrøbelig AI-forstærket søgning kan være, når modeller fortolker hverdagssprog på uventede måder.

En normal Google-søgning på et enkelt ord som disregard udløser typisk et ordbogskort med definition, udtale og eksempler. Men med AI Overviews aktiveret oplevede nogle brugere noget helt andet.

Rapporter viser, at søgninger på bestemte udsagnsord fik AI-systemet til at opføre sig som en chatbot i stedet for en søgemaskine. I stedet for definitioner kom der samtaleagtige svar eller sparsomme paneler, der efterlod et stort tomt område over de almindelige søgeresultater.

Flere ord blev observeret at udløse fejlen, herunder:

• disregard
• ignore
• dismiss
• stop eller quit
• i nogle tilfælde remember

De underliggende ordbogsresultater fandtes ofte stadig længere nede på siden (fx links til Merriam-Webster), men det defekte AI Overview skubbede dem ned under folden eller skjulte dem visuelt.

Hvorfor AI'en behandler disse ord som kommandoer

Google har erkendt, at AI Overviews 'misforstår nogle handlingsrelaterede forespørgsler'. Virksomheden har endnu ikke offentliggjort en fuld teknisk forklaring, men den observerede adfærd minder meget om et klassifikationsproblem.

Store sprogmodeller er trænet til at fortolke instruktioner. Ord som ignore, dismiss eller disregard optræder ofte i prompter som kommandoer – for eksempel 'ignore previous instructions'.

Når en søgeforespørgsel består af et enkelt udsagnsord, der ligner en instruktion, kan systemet fejlklassificere det som en direktiv i stedet for en opslagsforespørgsel. AI'en forsøger så at 'udføre' instruktionen i stedet for at returnere information om selve ordet.

Denne form for forvirring minder om en klasse af AI-sikkerhedsproblemer kendt som prompt injection, hvor en model følger instruktioner, der er gemt i inputdata, i stedet for at udføre den tilsigtede opgave. I prompt-injection-scenarier kan skjulte eller tvetydige instruktioner få systemet til at ændre adfærd eller output uventet.

I dette tilfælde er inputtet ikke ondsindet – det er blot tvetydigt. Men fejltilstanden er den samme: Modellen følger, hvad den tror er en kommando, i stedet for at besvare søgeforespørgslen.

Hvorfor brugere ser tomme eller chatbot-lignende svar

De mærkelige svar opstår, fordi AI Overviews tager kontrol over toppen af resultatsiden, når den mener, den kan generere et nyttigt resumé.

Når systemet fejlfortolker forespørgslen som en instruktion, producerer det et samtaleagtigt svar i stedet for informationsindhold. Det efterlader et stort AI-panel med minimal tekst, mens det sædvanlige ordbogskort skubbes længere ned på siden.

For brugerne ser det ud, som om Google-søgning pludselig har 'glemt', hvordan man definerer almindelige ord – selvom de korrekte resultater stadig findes under AI-blokken.

Ikke første gang med bizarre AI Overviews-resultater

Det er ikke første gang, Googles AI-genererede søgeresuméer har produceret usædvanlige output.

Kort efter funktionens bredere lancering i 2024 dukkede flere virale eksempler op, hvor AI Overviews gav bizarre råd – herunder at tilsætte ikke-giftig lim til pizzasauce for at få osten til at sidde bedre fast og at man burde spise en lille sten om dagen for mineralernes skyld.

Google erkendte senere, at nogle AI Overviews-svar var 'mærkelige, unøjagtige eller uhensigtsmæssige', og tilskrev mange af dem til misforståede forespørgsler, satire i kildematerialet eller informationshuller, hvor pålidelige kilder var knappe.

'Disregard'-buggen passer ind i samme kategori: Et system, der er designet til at fortolke sprog for fleksibelt, ender med at misforstå brugerens hensigt.

Midlertidige løsninger indtil Google retter fejlen

Indtil Google løser problemet, kan et par simple tricks hjælpe med at genoprette normal søgeadfærd.

1. Skift til fanen 'Web'
Ved at vælge filteret Web fjernes mange AI-genererede elementer, og der vises i stedet traditionelle linkresultater.

2. Tilføj '-ai' til din søgning
Nogle brugere undertrykker AI-resuméer ved at tilføje en negativ søgeoperator som -ai til forespørgslen, hvilket kan forhindre AI Overview-panelet i at vises.

3. Scroll forbi AI-boksen
I mange tilfælde findes ordbogsresultaterne stadig under AI-sektionen, selv når toppanelet er i stykker.

4. Brug mere præcise formuleringer
Søgninger som 'define disregard' eller 'disregard meaning' kan reducere risikoen for, at forespørgslen bliver fortolket som en kommando.

Hvad fejlen afslører om AI-søgning

Fejlen fremhæver en dybere designudfordring i AI-drevet søgning: Sprogmodeller er bygget til at fortolke instruktioner, mens søgemaskiner traditionelt behandler forespørgsler som anmodninger om information.

Når disse to tilstande overlapper, kan tvetydighed få systemet til at misforstå hensigten. Et enkelt udsagnsord kan være et ordbogsopslag – eller en instruktion. At skelne pålideligt mellem de to er stadig et åbent problem inden for AI-grænsefladedesign.

Google siger, at de arbejder på en løsning, men episoden viser, hvor skrøbelig AI-forstærket søgning kan være, når modeller fortolker hverdagssprog på uventede måder.