Hvorfor AI-assistenter til det smarte hjem stadig fejler på det mest basale

Generativ AI har gjort stemmeassistenter bedre til at føre en naturlig samtale. Det har dog ikke gjort dem tilsvarende mere pålidelige. Forskellen bliver tydeligst ved de enkleste kommandoer: Tænd lyset. Sæt lysstyrken til 50 procent. Start aftenrutinen.

Her ønsker brugeren ikke et sandsynligt svar eller en venlig forklaring. Brugeren forventer, at den rigtige enhed skifter til den rigtige tilstand med det samme.

Problemerne rammer de helt basale kommandoer

Fejlene handler ikke kun om avancerede automatiseringer med mange trin. David Pogue oplyste, at Alexa+ fik "lige under halvdelen" af 135 forespørgsler rigtigt. Han skrev også, at assistenten havde problemer med at tænde lys og indstille lysdæmpere korrekt. Det er en enkeltstående og ikke-standardiseret test, men resultatet er opsigtsvækkende for en assistent, hvis centrale opgave netop er at styre enheder.

Google Home-brugere har rapporteret en mere specifik fejl: Gemini kan starte Home-rutiner, når telefonen ikke er forbundet til Android Auto, men kan fejle, når Android Auto er aktiv. Nogle brugere har i stedet fået tilfældige eller generiske svar.

Andre tests beskriver, hvordan Gemini nægtede at slukke smartlys og samtidig hævdede, at den ikke kunne styre belysning eller andre fysiske enheder. Android Authority har desuden beskrevet flere opdateringer, der skulle forbedre alarmer, timere, lysstyring og svartider samt rette fejl – blandt andet en fejl, der fik lys til at tænde eller slukke uden brugerens input.

Rapporterne dokumenterer ikke én samlet fejlprocent for hele branchen. De viser dog et tilbagevendende mønster: Evnen til at tale mere naturligt kan forbedres, mens den praktiske udførelse af hverdagskommandoer stadig er ustabil.

Naturligt sprog gør styringen sværere

Ældre stemmeassistenter var begrænsede, men deres styringsveje var til gengæld relativt faste. En genkendt kommando kunne kobles til en kendt hensigt og en forhåndsvalideret handling, for eksempel:

setBrightness(device = kitchen, level = 50)

Det krævede, at brugeren holdt sig til mere snævre formuleringer. Til gengæld var der færre mulige fortolkninger og en mere forudsigelig vej fra tale til handling.

En assistent baseret på en stor sprogmodel – en LLM – skal typisk løse langt flere opgaver på én gang. Den skal blandt andet:

1. forstå, hvad brugeren mener;
2. fortolke henvisninger som "her", "dem" eller "lyset";
3. finde det rigtige rum, den rigtige enhed og dens muligheder;
4. vælge det korrekte værktøj eller API;
5. angive gyldige parametre;
6. tage højde for enhedens aktuelle tilstand; og
7. fortælle korrekt, om handlingen faktisk lykkedes.

En fejl på et hvilket som helst trin kan give et forkert resultat. Assistenten kan vælge den forkerte lampe, misforstå et rum, forsøge at bruge en funktion, enheden ikke understøtter, sende en ugyldig parameter eller bygge på forældede oplysninger om enhedens tilstand. Den kan også hævde, at en handling er gennemført, uden at kontrollere, om enheden reelt ændrede tilstand.

Forskning i LLM-baseret styring af smarte hjem peger specifikt på ikke-deterministiske svar, forsinkelse og omkostninger ved beregning samt begrænset personalisering som hindringer for pålidelig enhedsstyring. Systemerne klarer sig bedre, når kommandoerne er tydelige og strukturerede, end når de selv skal udlede en bredere kontekst.

Samtale og udførelse kræver ikke den samme intelligens

De funktioner, Amazon og Google fremhæver, kan være nyttige. Alexa+ skal kunne koble en mundtlig beskrivelse til den relevante enhed og funktion, mens Google fremhæver kommandoer med flere dele, undtagelser og rettelser midt i en sætning.

Det kan være en fordel, når man vil:

• beskrive en stemning og få foreslået en scene;
• oprette en rutine uden at lede gennem en kompleks app;
• få forklaret, hvad en automatisering gør; eller
• omdanne en upræcis forespørgsel til en struktureret plan.

Men at fortolke en kommando er ikke det samme som at udføre den. "Gør stuen hyggelig til middagen" kræver rimeligvis en vis vurdering. "Sæt køkkenlyset til 50 procent" har derimod ét klart ønsket resultat. Den første opgave har gavn af en fleksibel model; den anden har gavn af en snæver og kontrollerbar styringsvej.

Det forklarer, hvorfor en assistent kan håndtere en kompleks sætning imponerende og samtidig fejle på en simpel lyskommando. Sproglig kompleksitet er ikke det samme som kompleksitet i selve udførelsen. En kommando til flere enheder kan lykkes, hvis modellen tilfældigvis vælger de rigtige værktøjer og parametre. En kort kommando kan fejle, hvis identifikationen af enheden eller dens funktioner går galt.

Forsinkelser påvirker også oplevelsen af pålidelighed

Korrekthed er kun den ene del af en stabil styring. En smart-home-kommando skal også reagere inden for en nogenlunde forudsigelig tidsramme. Et lys, der først tænder efter lang ventetid – eller efter at brugeren har gentaget kommandoen – føles upålideligt, selv hvis slutresultatet til sidst er korrekt.

En anmeldelse af Alexa+ fandt, at nogle svar kunne tage op til 15 sekunder, selv om simple handlinger som at tænde lys eller justere termostaten i visse tilfælde var hurtigere. Omtale af Gemini for Home har samtidig beskrevet opdateringer, der skulle give hurtigere svar og kortere replikker ved dagligdags kommandoer. Det tyder på, at svartid fortsat er et aktivt teknisk problem.

Cloudbehandling, valg af model, søgning efter enheder og kald til eksterne værktøjer kan alle lægge forsinkelse til. Resultatet kan blive et system, der er mere avanceret i teorien, men mindre forudsigeligt i det øjeblik, man faktisk bruger det.

Bliver de første brugere en del af testprogrammet?

Løbende softwareudrulning er normalt, og en trinvis forbedring kan være rimelig for samtalefunktioner med lav risiko. Styring af hjemmet er anderledes, fordi fejl påvirker fysiske enheder og rutiner, der tidligere har fungeret stabilt.

Hvis en opdatering ændrer adfærden for lys, alarmer eller automatiseringer, oplever brugeren det direkte i hjemmet – ikke i et abstrakt chatbotvindue. Gentagne klager efterfulgt af fejlrettelser og opdateringer beviser ikke, at producenterne bevidst har sendt ufærdige produkter på markedet. Det viser dog, at kunder møder problemer, mens systemerne stadig bliver justeret.

Rapporter om oversprungne automatiseringer, ødelagte rutiner, inkonsekvente svar og fortsatte brugerklager får modellen "udgiv, indsam­l data og forbedr" til at virke særligt dyr, når den anvendes på den daglige styring af hjemmet.

En sikrere udrulning ville bevare en pålidelig, deterministisk vej til de faste kommandoer og introducere generativ AI omkring den. Så kunne brugerne få en mere naturlig samtale uden at miste den grundlæggende aftale, som hjemmeautomatisering bør bygge på: Når man giver en kendt kommando, skal den ønskede enhed nå den ønskede tilstand.

Den sandsynlige løsning er en hybridmodel

Den mest praktiske løsning er ikke at fjerne LLM'er fra det smarte hjem. Det er at give dem en mere afgrænset rolle på det punkt, hvor fejl har størst konsekvenser.

Et robust system kunne bruge en sprogmodel til at forstå brugerens formulering og lægge en plan. Derefter skulle en separat kontrollag stå for selve udførelsen med:

• validering af enheder og parametre efter faste skemaer;
• tydelige tilladelser til følsomme handlinger;
• kontrol af den aktuelle tilstand før og efter udførelsen;
• forsøg igen og klar fejlhåndtering; samt
• en bekræftelse, der skelner mellem en planlagt handling og en gennemført handling.

En beslægtet forskningsretning beskriver en model, hvor en LLM genererer eksekverbare artefakter i en kompileringsfase, mens orkestreringen af arbejdsgangen håndterer forgreninger, værktøjsvalg, gentagelser og fejl deterministisk under selve kørslen.

Overført til det smarte hjem betyder princippet, at modellen kan hjælpe med at udtrykke brugerens hensigt, men ikke bør være den eneste instans, der hver gang afgør, hvilken fysisk handling der skal finde sted. Jo tættere en kommando er på en fast transaktion med en bestemt enhed, desto mere begrænset, testbar og kontrollerbar bør udførelsen være.

Konklusionen

Alexa Plus og Gemini for Home illustrerer en bredere lektie om generativ AI: At være bedre til at tale er ikke automatisk det samme som at være bedre til at betjene. Anmeldere, brugere og teknologimedier beskriver assistenter, der kan forstå mere kontekst og sammensætte mere ambitiøse forespørgsler, men som stadig snubler over lys, dæmpere, alarmer og rutiner.

Fremtidens stabile assistent til det smarte hjem bliver sandsynligvis en kombination af de to tilgange. Generativ AI kan gøre opsætning og samtale mere fleksibel. Klassisk, deterministisk software skal sikre, at den endelige handling er korrekt, hurtig og efterprøvbar.

Indtil den grænse er designet ordentligt, kan en mere samtaleorienteret assistent føles klogere – samtidig med at den udfører hjemmets mest grundlæggende opgaver mindre pålideligt.