Derfor gjør generativ AI smarthjemmet mindre pålitelig

Generativ AI har gjort smarthøyttalere mer fleksible, men ikke nødvendigvis mer pålitelige. Amazon lanserte Alexa+ for at brukerne skulle kunne snakke mer naturlig – for eksempel be Alexa om å «dempe lyset litt» i stedet for å oppgi nøyaktig enhet og lysstyrke. Samtidig har tester og anmeldelser meldt om feil, forsinkelser, kommandoer som ikke blir utført, og funksjoner som tidligere fungerte mer stabilt.

Det er ikke nødvendigvis en selvmotsigelse. Samtaler belønner tolkning og improvisasjon. Styring av hjemmet belønner nøyaktighet: riktig lys, riktig styrke, med en gang – hver gang.

To arkitekturer som passer dårlig sammen

Eldre stemmeassistenter fungerte i stor grad ved å gjenkjenne bestemte fraser eller intensjoner og koble dem til en kjent handling. En presis kommando som

set bedroom lamp brightness to 45%

En generativ assistent må ta flere valg før noe skjer. Den skal tolke hva brukeren mener, finne riktig rom eller enhet, forstå sammenhengen, identifisere en tilgjengelig funksjon, lage riktig API- eller verktøykall og sende forespørselen gjennom smarthjemplattformen og de ulike integrasjonene. Hvert ekstra ledd gir nye muligheter for misforståelser, ugyldige parametere, utdatert enhetsinformasjon, tidsavbrudd eller integrasjoner som svikter.

Mark Riedl ved Georgia Tech har beskrevet hovedavveiningen tydelig: Store språkmodeller, eller LLM-er, forstår flere måter å kommunisere på, men denne åpenheten skaper også flere muligheter for feiltolkning. Omtale av smarthjem-problemet skiller på samme måte mellom eldre systemer basert på malgjenkjenning og sannsynlighetsbaserte transformersystemer, som kan gi ulike svar på samme type forespørsel.

Hvorfor de enkleste kommandoene avslører svakheten

Å be om å dempe en lampe høres enkelt ut fordi resultatet er lett å definere. Assistenten må velge én bestemt enhet, bruke én verdi og bekrefte at lampen faktisk nådde ønsket tilstand. Det er liten toleranse for et velformulert svar som ikke endrer lyset – eller bare endrer deler av en gruppe.

Denne binære standarden gjør svakhetene tydeligere enn i en åpen samtale. En modell kan høres flytende ut, samtidig som den misforstår et enhetsnavn, velger feil funksjon eller hevder at oppgaven er utført uten å ha bekreftet tilstanden. Brukere kan tilgi en samtaleassistent for å stille et oppfølgingsspørsmål. De er langt mindre tilgivende når leggetidsrutinen feiler, eller lyset fortsatt står på etter at systemet sier at det har ordnet saken.

Feilmønsteret henger også sammen med integrasjonsutfordringen i disse produktene. Alexa+ skal kombinere en språkmodell med eksisterende tjenester og millioner av Alexa-kompatible enheter – en kombinasjon som er krevende selv når modellen er mer fleksibel og kapabel enn forgjengeren.

Hva David Pogues test viser – og ikke viser

David Pogue har fortalt at han ba Alexa+ utføre 135 oppgaver, og at assistenten klarte litt under halvparten riktig. Dette var en praktisk test, ikke en kontrollert studie av alle Alexa+-brukere eller alle støttede enheter. Resultatet bør derfor ikke tolkes som en universell suksessrate.

Likevel er det et viktig produktsignal. En hjemmeassistent som feiler i nærheten av så ofte, vil være vanskelig å stole på for lys, dimmere, rutiner, musikk og andre handlinger som gjentas daglig. Pogue skrev også at den eldre Alexa-versjonen hadde vært mer pålitelig for enkelte vanlige oppgaver, blant annet styring av lys og innstilling av lysstyrke.

Forskjellen er viktig: Flere funksjoner betyr ikke nødvendigvis høyere pålitelighet. En assistent kan håndtere flere typer forespørsler, samtidig som den blir mindre forutsigbar på de få kommandoene folk bruker hver dag.

Forsinkelsen får teknologien til å føles mindre som et apparat

Hastighet er en del av påliteligheten i et smarthjem. En lysbryter trenger ikke forklare hva den gjør; den skal bare reagere. Når en assistent bruker flere sekunder – eller i enkelte tester av Alexa+ opptil 15 sekunder – opplever brukeren ventetiden som usikkerhet: Virket kommandoen, eller må den gjentas?

Lang ventetid kan tyde på at forespørselen går gjennom flere lag med ekstern modellkjøring, kontekstbehandling, koordinering og verktøykall. Selv når enheten til slutt reagerer, føles samhandlingen ikke lenger som å betjene et apparat. Det føles som å vente på at en tjeneste skal bestemme seg for hva du egentlig mente.

Den samme spenningen preger Apples planer for hjemmet

Rapporterte planer for HomePod og Apple TV viser hvor tett maskinvare og assistentprogramvare nå er knyttet sammen. Medier har meldt at Apple forbereder Siri-funksjoner basert på AI for disse produktene, mens referanser i betakode tyder på at selskapet arbeider med Siri-integrasjon på HomePod og Apple TV.

Andre rapporter har hevdet at oppdatert HomePod- og Apple TV-maskinvare ble holdt tilbake mens den neste Siri-opplevelsen skulle bli ferdig. Dette er fortsatt medieopplysninger, ikke en tidsplan Apple har bekreftet, og bør derfor leses med forbehold.

Det overordnede poenget er større enn en bestemt lanseringsdato: Når verdien av en smarthøyttaler avhenger av en ny AI-assistent, kan en uferdig assistent forsinke eller svekke produktet rundt den. Det øker risikoen ved å lansere et system som ser imponerende ut i demonstrasjoner, men er upålitelig i vanlig husholdningsbruk.

Den bedre modellen: AI foran, regelstyring under

Løsningen er ikke nødvendigvis å forkaste naturlige språkgrensesnitt. Generative modeller kan være nyttige til å oversette fleksible formuleringer til en strukturert intensjon. Det risikable er å la en ubundet modell være siste instans før en fysisk enhet utfører handlingen.

En mer pålitelig arkitektur bør:

• oversette forespørselen til et strengt skjema for enhet, handling og parameter;
• begrense verktøyvalget til funksjoner som faktisk finnes i hjemmet;
• avvise uklare eller ugyldige kommandoer i stedet for å gjette;
• kontrollere enhetens tilstand etter at handlingen er utført; og
• falle tilbake til en regelstyrt kommando når modellen er usikker eller utilgjengelig.

Forskning på LLM-er i smarthjem støtter behovet for slike sikkerhetsnett. I en evaluering av 13 modeller oppnådde GPT-4o en treffprosent på 0 i scenarioet med ugyldige instruksjoner for flere enheter, selv med metoder som læring i kontekst, retrieval-augmented generation og finjustering. Resultatet gjelder et bestemt eksperiment, ikke vanlig bruk i hjemmet, men illustrerer hvorfor modellens svar må valideres før det får kontrollere fysiske enheter.

Smarthøyttalerens identitetskrise

Amazon, Google og Apple forsøker å få ett og samme produkt til å oppfylle to motstridende forventninger. Som samtalepartner kan en AI-assistent utforske, være ordrik og tåle uklarhet. Som kontrollsenter for hjemmet må den være stille, rask, bevisst på enhetenes faktiske tilstand og helt presis.

De gamle systemene var frustrerende fordi brukerne måtte lære seg stive formuleringer. De nye systemene lover å fjerne denne byrden, men naturlig språk er bare første del av problemet. Bak enhver uformell forespørsel ligger fortsatt en konkret handling: én enhet, én tilstandsendring og én pålitelig bekreftelse.

Så lenge selskapene ikke bevarer regelstyrt utførelse under det samtalebaserte laget, vil «smartere» assistenter fortsette å sette det viktigste ved stemmestyring på spill: tillit. Å lansere uferdige systemer kan gi verdifulle tilbakemeldinger, men når testingen foregår i betalende hjem, er det kundene som bærer kostnaden for en arkitektur som ennå ikke har fortjent påliteligheten til et vanlig husholdningsapparat.