Waarom Alexa+ en Gemini for Home na een jaar nog steeds onbetrouwbaar zijn

Een slimme speaker mag best aanvoelen als een gesprekspartner. Maar zodra iemand zegt: ‘Doe de keukenlamp uit’, verwacht diegene geen creatieve interpretatie. De lamp moet gewoon uitgaan.

Precies daar wringt het bij de nieuwe generatie spraakassistenten. Amazon en Google zetten met Alexa+ en Gemini for Home sterk in op generatieve AI: systemen die vrijere zinnen begrijpen, context kunnen onthouden en meerstapsroutines kunnen samenstellen. Toch blijken ze bij alledaagse opdrachten geregeld minder betrouwbaar dan de oudere, beperktere assistenten. 16

De fouten zijn opvallend alledaags

De problemen doen zich niet alleen voor bij ingewikkelde of uitzonderlijke verzoeken. Tijdens tests negeerde Gemini for Home muziekverzoeken, veranderde het systeem van onderwerp, beweerde het op een woensdag dat het dinsdag was en weigerde het slimme lampen uit te schakelen. Dat zijn juist de basistaken waarvoor mensen een slimme speaker aanschaffen. 1

Ook Alexa+ laat een wisselend beeld zien. Er zijn meldingen van een eerder goed werkende koffieroutine die niet meer werd uitgevoerd. Sommige gebruikers zeggen bovendien dat bestaande routines na de overstap naar Alexa+ verdwenen. Tegelijkertijd bleek uit een andere test dat Alexa+ op basis van een gesproken opdracht wél een behoorlijk complexe automatisering kon aanmaken en de juiste apparaten kon vinden. 267

Dat contrast is veelzeggend: het probleem is niet dat de systemen niets kunnen, maar dat je niet altijd kunt voorspellen wanneer ze het goed doen.

Een taalmodel werkt anders dan een klassieke assistent

Oudere spraakassistenten waren doorgaans opgebouwd rond vaste opdrachten. Een herkende zin werd gekoppeld aan een specifieke bedoeling en vervolgens aan een vooraf bepaalde API-aanroep. ‘Doe de keukenlampen uit’ moest dus steeds naar dezelfde actie leiden.

Een groot taalmodel werkt flexibeler, maar ook minder deterministisch. Het interpreteert de context en kiest op basis van waarschijnlijkheden welk hulpmiddel of welke API het moet aanroepen. Google omschrijft Gemini zelf als ‘non-deterministic’: het systeem volgt niet simpelweg telkens hetzelfde script. 15

Die flexibiliteit is handig voor natuurlijke gesprekken en complexe opdrachten. Maar bij huisautomatisering kan een kleine interpretatieverschil grote gevolgen hebben. Een zin die twee keer hetzelfde klinkt, kan anders worden geïnterpreteerd, naar een andere functie worden doorgestuurd of helemaal niet worden uitgevoerd. Bij ‘zet uit’ is dat geen acceptabel verschil: de fysieke handeling moet steeds hetzelfde zijn. 315

Snelheid en betrouwbaarheid wegen zwaarder dan conversatie

De terugkerende conclusie uit ervaringen van testers en gebruikers is dat niet de kwaliteit van het gesprek, maar de betrouwbaarheid en reactiesnelheid bepalend zijn voor een assistent in huis. Meldingen gaan over trage antwoorden, verkeerde reacties, gemiste opdrachten, fouten bij het selecteren van muziek en verdwenen routines. 1257

Een betere technische aanpak zou daarom zijn om het taalmodel niet de volledige controle te geven. Het model kan de vrije formulering van de gebruiker begrijpen, maar een afzonderlijke, deterministische laag moet vervolgens controleren of de opdracht geldig is en deze veilig uitvoeren. Zo blijft generatieve AI verantwoordelijk voor de interpretatie, terwijl vaste regels de daadwerkelijke bediening bewaken.

Ook Apple loopt tegen dezelfde grens aan

Apple vormt geen duidelijke uitzondering. Het bedrijf stelde gepersonaliseerde Siri-functies uit nadat de ontwikkeling werd geplaagd door technische problemen en bugs. Die vertraging werkt ook door in de plannen voor het slimme huis: een aangekondigd slim display werd uitgesteld terwijl Apple aan de nieuwe Siri werkt. 482

Daarnaast wijzen berichten erop dat bestaande HomePod-hardware onvoldoende rekenruimte heeft voor Apples nieuwere AI-ambities. Dat helpt verklaren waarom vernieuwingen van de hardware zijn vertraagd en waarom Siri niet overal even soepel presteert. 914

Een demo is nog geen betrouwbaar product

Een overtuigende demonstratie van gespreks-AI bewijst niet dat een systeem klaar is voor dagelijks gebruik. Apparaten die een huishouden bedienen, agenda’s beheren, aankopen doen of berichten versturen, moeten vooral voorspelbaar reageren. Ze moeten snel zijn, duidelijk aangeven wanneer iets niet lukt en kunnen terugvallen op een veilige, eenvoudige uitvoeringsmethode.

Als zulke eigenschappen nog niet op orde zijn, verschuift de last naar de klant. Die ontdekt dan de integratieproblemen, meldt de bugs en betaalt uiteindelijk de prijs van mislukte opdrachten. In de praktijk worden consumenten zo de bètatesters van een product dat als volwaardige assistent wordt verkocht.