Det smarte hjem kan tale bedre – men adlyder dårligere

Hvert ekstra led er en ny mulighed for misforståelser, ugyldige parametre, forældede oplysninger om enheder, timeout eller en integration, der fejler.

Mark Riedl fra Georgia Tech har beskrevet den centrale afvejning klart: Store sprogmodeller forstår flere måder at kommunikere på, men den åbenhed giver også flere muligheder for fejlfortolkning. Problemet handler dermed om mere end softwarekvalitet. Det handler om, at ældre systemer matchede skabeloner, mens transformerbaserede modeller genererer sandsynlige svar og handlinger. Den samme type forespørgsel kan derfor blive fortolket forskelligt.

Hvorfor de enkleste kommandoer afslører problemet

At dæmpe en lampe lyder enkelt, fordi det ønskede resultat er enkelt. Assistenten skal vælge ét mål, anvende én værdi og bekræfte, at apparatet faktisk nåede den ønskede tilstand.

Der er ikke meget plads til et svar, der lyder rigtigt, men ikke ændrer lampen – eller kun ændrer nogle af lamperne i en gruppe.

Den binære standard gør svaghederne tydelige. En model kan tale flydende, samtidig med at den misforstår et enhedsnavn, vælger den forkerte funktion eller erklærer opgaven for løst uden en sikker bekræftelse af apparatets tilstand.

Brugere kan acceptere, at en samtaleassistent stiller et opklarende spørgsmål. De er langt mindre tilgivende, når en godnat-rutine ikke slukker lyset, eller når lampen stadig står tændt, selv om systemet siger, at kommandoen er udført.

Udfordringen bliver større, fordi Alexa+ skal kombinere en sprogmodel med eksisterende tjenester og millioner af Alexa-kompatible enheder. Rapportering har beskrevet denne kombination som vanskelig, selv om den nye model er mere fleksibel og kan håndtere mere komplekse forespørgsler end forgængeren.

Hvad David Pogues test viser

Teknologijournalisten David Pogue oplyste, at han bad Alexa+ udføre 135 opgaver, og at assistenten klarede lige under halvdelen korrekt.

Det er ikke en kontrolleret undersøgelse af alle Alexa+-brugere eller af alle understøttede apparater. Resultatet kan derfor ikke læses som en universel fejlrate.

Men testen er stadig et vigtigt produktsignal. En assistent, der fejler i nærheden af så ofte i almindelig husholdningsbrug, er svær at stole på til lys, dæmpere, rutiner, musik eller andre gentagne handlinger. Pogue beskrev også, at den gamle Alexa for ham havde været mere pålidelig til velkendte opgaver som at tænde lys og indstille dæmpningen.

Forskellen er væsentlig: Flere funktioner er ikke det samme som højere pålidelighed. En assistent kan håndtere flere slags forespørgsler og samtidig blive mindre forudsigelig på de få kommandoer, som folk bruger hver dag.

Forsinkelsen får teknologien til at føles mindre som et apparat

Hastighed er også en del af pålidelighed i et smart hjem. En lyskontakt behøver ikke forklare, hvad den tænker. Den skal bare reagere.

Når en assistent bruger flere sekunder – og i nogle Alexa+-tests helt op til 15 sekunder – oplever brugeren ventetiden som usikkerhed: Virkede kommandoen, eller skal den gentages?

Lange svartider kan være et tegn på, at anmodningen skal gennem flere lag af fjernbaseret fortolkning, kontekstbehandling, koordinering og værktøjskald. Selv når apparatet til sidst reagerer, føles interaktionen ikke længere som betjening af et husholdningsapparat. Det føles som at vente på, at en tjeneste beslutter, hvad man mente.

Apple står over for den samme udfordring

Rapporter om Apples planer for HomePod og Apple TV viser, hvor tæt hardware og assistentsoftware er blevet knyttet sammen. Apple arbejder ifølge rapporter på AI-understøttelse til Siri på disse produkter, mens henvisninger i betakode tyder på, at virksomheden aktivt forbereder en integration af den næste Siri-generation i HomePod og Apple TV.

Andre rapporter har hævdet, at opdaterede HomePod- og Apple TV-modeller er blevet holdt tilbage, mens den nye Siri-oplevelse bliver færdig. Det er fortsat medieoplysninger og ikke en produktplan, Apple selv har bekræftet, så påstandene bør læses med forbehold.

Den bredere pointe rækker ud over en bestemt lanceringsdato: Når en smarthøjttalers værdi afhænger af en ny AI-assistent, kan en ufærdig assistent også forsinke eller svække produktet omkring den.

Det øger risikoen ved at lancere et system, som ser imponerende ud i demonstrationer, men ikke er stabilt nok til de rutiner, der gentages i hjemmet hver dag.

Den mere robuste løsning: AI foran, fast styring nedenunder

Den praktiske løsning er ikke nødvendigvis at opgive naturligt sprog. Generative modeller er gode til at omsætte fleksible formuleringer til en struktureret hensigt.

Problemet opstår, hvis en ubundet model får lov til at være den endelige myndighed over udførelsen.

En mere pålidelig arkitektur bør:

• omsætte forespørgslen til et fast skema for enhed, handling og parameter;
• begrænse valget af værktøjer til funktioner, der faktisk findes i hjemmet;
• afvise uklare eller ugyldige kommandoer i stedet for at gætte;
• kontrollere apparatets tilstand efter udførelsen; og
• skifte til en deterministisk kommando, hvis modellen er usikker eller utilgængelig.

Forskning i store sprogmodeller i smarte hjem understreger behovet for den slags sikkerhedsnet. I en evaluering af 13 modeller opnåede GPT-4o en succesrate på 0 procent for ugyldige instruktioner til flere enheder i det afprøvede scenarie – også når forskerne brugte teknikker som in-context learning, retrieval-augmented generation og finjustering.

Resultatet gælder en specifik eksperimentel opsætning og siger ikke noget direkte om den daglige ydeevne i alle hjem. Det illustrerer dog, hvorfor modeloutput bør valideres, før det får lov til at styre fysiske apparater.

Det smarte hjems identitetskrise

Amazon, Google og Apple forsøger at få ét produkt til at leve op til to modsatrettede forventninger.

Som samtalepartner må en AI-assistent gerne være undersøgende, udførlig og tolerant over for tvetydighed. Som kontrolsystem for hjemmet skal den være hurtig, diskret, bevidst om apparaternes faktiske tilstand og præcis.

De gamle systemer var frustrerende, fordi brugerne skulle lære stive kommandoer. De nye systemer lover at fjerne den byrde, men naturligt sprog er kun den forreste del af problemet. Bag enhver afslappet formulering gemmer der sig stadig en konkret handling: én enhed, én ændring af tilstanden og én pålidelig bekræftelse.

Indtil virksomhederne bevarer en fast og deterministisk udførelse under det samtalebaserede lag, risikerer ”smartere” assistenter at ødelægge det, der oprindeligt gjorde stemmestyring nyttig: tillid.

At udgive ufærdige systemer kan give virksomhederne værdifuld feedback. Men når testen foregår i betalende kunders hjem, er det kunderne, der betaler prisen for en arkitektur, som endnu ikke har gjort sig fortjent til samme pålidelighed som et almindeligt husholdningsapparat.