Google's AI Overzichten bug: waarom zoeken naar 'negeren' een chatbot-reactie oplevert

Bij een normale Google-zoekopdracht levert het typen van een enkel woord zoals disregard meestal een woordenboekkaart op met de definitie, uitspraak en voorbeelden. Maar met ingeschakelde AI Overzichten zagen sommige gebruikers iets heel anders.

Meldingen tonen aan dat het zoeken naar bepaalde werkwoorden ertoe leidde dat het AI-systeem zich gedroeg als een chatbot in plaats van een zoekmachine. In plaats van definities gaf het conversationele antwoorden of schaarse panelen die een grote lege ruimte achterlieten boven de standaard zoekresultaten.

Verschillende woorden veroorzaakten dit gedrag, waaronder:

• disregard (negeren)
• ignore (negeren)
• dismiss (afwijzen)
• stop of quit (stoppen)
• soms ook remember (onthouden)

De onderliggende woordenboekresultaten stonden vaak nog wel lager op de pagina (zoals links naar Van Dale of andere naslagwerken), maar de haperende AI Overzichten duwden ze onder de vouw of maakten ze visueel onzichtbaar.

Waarom de AI deze woorden als opdrachten behandelt

Google heeft toegegeven dat AI Overzichten 'sommige actiegerelateerde zoekopdrachten verkeerd interpreteren'. Het bedrijf heeft nog geen volledige technische uitleg gegeven, maar het waargenomen gedrag lijkt sterk op een commando-classificatieprobleem.

Grote taalmodellen zijn getraind om instructies te interpreteren. Woorden zoals ignore, dismiss of disregard komen in prompts vaak voor als opdrachten—bijvoorbeeld 'ignore previous instructions' (negeer eerdere instructies).

Wanneer een zoekopdracht uit een enkel werkwoord bestaat dat op een instructie lijkt, kan het systeem dit verkeerd classificeren als een directief in plaats van een zoekverzoek. De AI probeert vervolgens de 'opdracht' uit te voeren in plaats van informatie over het woord zelf terug te geven.

Dit soort verwarring lijkt op een klasse van AI-beveiligingsproblemen die bekendstaat als prompt-injectie, waarbij een model instructies volgt die in invoergegevens zijn verborgen in plaats van de beoogde taak uit te voeren. In prompt-injectiescenario's kunnen verborgen of dubbelzinnige instructies ervoor zorgen dat het systeem onverwacht gedrag vertoont of output geeft.

In dit geval is de invoer niet kwaadaardig—hij is simpelweg dubbelzinnig. Maar de foutmodus is vergelijkbaar: het model volgt wat het denkt dat een opdracht is, in plaats van de zoekopdracht te beantwoorden.

Waarom gebruikers lege of chatbot-achtige antwoorden zien

De vreemde antwoorden ontstaan omdat AI Overzichten de controle over het bovenste deel van de resultatenpagina overneemt wanneer het denkt een nuttige samenvatting te kunnen genereren.

Wanneer het systeem de zoekopdracht verkeerd interpreteert als een instructie, produceert het een conversationeel antwoord in plaats van informatieve inhoud. Dit laat een groot AI-paneel met minimale tekst achter, terwijl de gebruikelijke woordenboekkaart verder naar beneden op de pagina wordt verplaatst.

Voor gebruikers lijkt het alsof Google Zoeken plotseling is 'vergeten' hoe het veelvoorkomende woorden moet definiëren—ook al staan de juiste resultaten nog wel onder het AI-blok.

Niet het eerste vreemde resultaat van AI Overzichten

Dit is niet de eerste keer dat door AI gegenereerde zoeksamenvattingen van Google ongebruikelijke output produceren.

Kort na de bredere uitrol van de functie in 2024 verschenen er verschillende virale voorbeelden van AI Overzichten die bizar advies gaven, waaronder de suggestie om niet-giftige lijm aan pizzasaus toe te voegen om kaas beter te laten plakken en de bewering dat mensen minstens één klein steentje per dag moeten eten voor mineralen.

Google gaf later toe dat sommige antwoorden van AI Overzichten 'vreemd, onnauwkeurig of onbehulpzaam' waren, en voerde dit terug op verkeerd geïnterpreteerde zoekopdrachten, satire in bronmateriaal of informatiehiaten waar betrouwbare bronnen schaars waren.

De 'disregard'-bug past in dezelfde categorie: een systeem dat ontworpen is om taal te flexibel te interpreteren, begrijpt uiteindelijk de bedoeling van de gebruiker verkeerd.

Tijdelijke oplossingen tot Google het probleem verhelpt

Tot Google het probleem heeft opgelost, kunnen een paar eenvoudige trucjes helpen om normaal zoekgedrag te herstellen.

1. Schakel over naar het tabblad 'Web'
Door het filter Web te selecteren, verwijder je veel door AI gegenereerde elementen en zie je in plaats daarvan traditionele linkresultaten.

2. Voeg '-ai' toe aan je zoekopdracht
Sommige gebruikers onderdrukken AI-samenvattingen door een operator zoals -ai aan de zoekopdracht toe te voegen, wat kan voorkomen dat het AI Overzichten-paneel verschijnt.

3. Scroll voorbij het AI-venster
In veel gevallen verschijnen de woordenboekresultaten nog steeds onder het AI-gedeelte, zelfs als het bovenste paneel kapot is.

4. Gebruik explicietere bewoordingen
Zoekopdrachten zoals 'definitie disregard' of 'betekenis disregard' verkleinen de kans dat de zoekopdracht als een commando wordt geïnterpreteerd.

Wat de bug onthult over AI-zoekopdrachten

Deze storing belicht een dieperliggende ontwerpuitdaging in AI-gestuurd zoeken: taalmodellen zijn gebouwd om instructies te interpreteren, terwijl zoekmachines zoekopdrachten traditioneel behandelen als verzoeken om informatie.

Wanneer deze twee modi elkaar overlappen, kan dubbelzinnigheid ervoor zorgen dat het systeem de bedoeling verkeerd leest. Een enkel werkwoord kan een woordenboekzoekopdracht zijn—of een instructie. Het betrouwbaar onderscheiden van de twee is nog steeds een open probleem in AI-interfaceontwerp.

Google zegt dat het aan een oplossing werkt, maar het incident laat zien hoe kwetsbaar AI-verbeterd zoeken kan zijn wanneer modellen alledaagse taal op onverwachte manieren interpreteren.