Proč AI asistenti chytré domácnosti stále selhávají u základních povelů

Tyto zprávy neudávají jednotnou míru chybovosti v celém odvětví. Ukazují však opakující se vzorec: schopnost vést konverzaci se může zlepšovat, zatímco každodenní provedení příkazů zůstává nekonzistentní.

Přirozený jazyk komplikuje přesné řízení

Starší hlasoví asistenti byli omezenější, jejich cesta od řeči k akci však bývala přehlednější. Rozpoznaný požadavek se mohl převést na známý záměr a předem ověřenou operaci, například:

Uživatelé se museli držet užších formulací. Odměnou jim ale byla menší nejistota a opakovatelnější převod hlasu na konkrétní příkaz.

Asistent založený na velkém jazykovém modelu musí zvládnout mnohem více kroků:

1. odhadnout, co uživatel myslí;
2. vyřešit odkazy jako „tady“, „tyhle“ nebo „světla“;
3. určit správnou místnost, zařízení a jeho schopnosti;
4. vybrat vhodný nástroj nebo API;
5. doplnit platné parametry;
6. zohlednit aktuální stav zařízení; a
7. přesně oznámit, zda se akce skutečně podařila.

Chyba v kterékoli fázi může vést k nesprávnému výsledku. Asistent zvolí jiné zařízení, špatně pochopí označení místnosti, použije nepodporovanou funkci, odešle neplatný parametr, pracuje se zastaralými informacemi o stavu domácnosti — nebo oznámí úspěch, aniž by se zařízení vůbec změnilo.

Výzkum řízení chytré domácnosti pomocí LLM označuje za konkrétní překážky spolehlivosti nedeterministické chování, latenci a náklady inference i omezenou personalizaci. Systémy si vedou lépe, když je požadavek výslovný a strukturovaný, než když musí samy domýšlet širší kontext.

Konverzace a provedení vyžadují jiný typ inteligence

Funkce, které propagují Amazon a Google, mají skutečnou hodnotu. Alexa+ má převést slovní popis na příslušné zařízení a jeho funkci. Google zase zdůrazňuje vícečástové příkazy, výjimky a opravy provedené uprostřed věty.

To se hodí například pro:

• popsání atmosféry, kterou uživatel chce vytvořit, a návrh odpovídající scény;
• vytvoření rutiny bez procházení složitých nabídek aplikace;
• vysvětlení, co automatizace dělá;
• převedení nejasného požadavku do strukturovaného plánu.

Porozumět požadavku je ale něco jiného než ho provést. Věta „udělej v obýváku útulnou atmosféru k večeři“ ponechává prostor pro uvážení. Příkaz „nastav světla v kuchyni na 50 procent“ má jednoznačný výsledek. První úloha těží z flexibility jazykového modelu, druhá z úzké a ověřitelné řídicí cesty.

Proto může asistent působivě zpracovat dlouhou a složitou větu, ale selhat u krátkého příkazu týkajícího se světla. Složitost jazyka není totéž co složitost provedení. Více zařízení se může ovládnout správně, pokud model zvolí správné nástroje a parametry. Krátký příkaz naopak selže třeba kvůli špatnému rozpoznání zařízení nebo jeho schopností.

Spolehlivost ovlivňuje i rychlost odpovědi

Správný výsledek je jen částí spolehlivého ovládání. Důležitá je také předvídatelná doba reakce. Světlo, které se rozsvítí až po dlouhé pauze nebo po zopakování příkazu, působí nespolehlivě, i když se nakonec dostane do správného stavu.

Recenze Alexa+ uváděla, že některé odpovědi trvaly až 15 sekund, přestože základní operace se světly a termostatem mohly být v některých případech rychlejší. Samostatné informace o Gemini pro Home popisovaly aktualizace zaměřené na rychlejší reakce a kratší odpovědi u běžných příkazů, což naznačuje, že latence zůstává aktivním technickým problémem.

Zpoždění může přidat zpracování v cloudu, výběr modelu, vyhledávání zařízení i volání nástrojů. Výsledkem je systém, který může být teoreticky schopnější, ale v konkrétní chvíli méně předvídatelný.

Stávají se první uživatelé součástí testovacího programu?

Průběžné nasazování aktualizací je u softwaru běžné. U konverzačních funkcí s nízkým rizikem může být postupné vylepšování rozumné. Ovládání chytré domácnosti je ale jiné: chyby zasahují fyzická zařízení a zaběhnuté rutiny. Když aktualizace změní chování světel, budíků nebo automatizací, uživatel to nezažije v abstraktním chatbotu, ale přímo doma.

Opakující se sled stížností po uvedení novinky, následovaných opravami a aktualizacemi spolehlivosti sám o sobě nedokazuje, že firmy vědomě vydaly nedokončené produkty. Ukazuje však, že zákazníci na problémy narážejí ve chvíli, kdy se systémy stále dolaďují. Zprávy o vynechaných automatizacích, nefunkčních rutinách, nekonzistentních odpovědích a pokračujících uživatelských stížnostech činí model „vydat, sbírat data a zlepšovat“ obzvlášť nákladným, pokud se používá pro každodenní řízení domácnosti.

Bezpečnější nasazení by zachovalo spolehlivou deterministickou cestu pro běžné příkazy a generativní funkce by přidalo kolem ní. Uživatelé by získali přirozenější komunikaci, aniž by přišli o základní příslib domácí automatizace: známý příkaz má změnit stav zamýšleného zařízení.

Řešením bude nejspíš hybridní architektura

Nejpraktičtější cesta nevede k úplnému odstranění LLM ze smart home. Jde spíše o to, dát jim užší roli v místě, kde mají chyby nejzávažnější důsledky.

Odolnější systém by mohl využít LLM pro porozumění jazyku a plánování, výsledek by pak předal řídicí vrstvě s těmito vlastnostmi:

• výběr zařízení a parametrů ověřovaný podle schématu;
• jasně nastavená oprávnění pro citlivé akce;
• kontrola aktuálního stavu před provedením i po něm;
• opakování příkazu a srozumitelné řešení chyb;
• potvrzení, které rozlišuje mezi naplánovanou a skutečně dokončenou akcí.

Související výzkumný směr popisuje přístup, při němž LLM vytvoří spustitelné artefakty ve fázi kompilace, zatímco orchestrace workflow následně deterministicky řeší větvení, výběr nástrojů, opakování i chyby.

V chytré domácnosti by to znamenalo, že model pomůže vyjádřit záměr, ale nebude pokaždé jedinou autoritou rozhodující o fyzické akci. Čím blíže je příkaz pevně definované transakci se zařízením, tím omezenější, testovatelnější a ověřitelnější by měla být jeho cesta k provedení.

Závěr

Alexa Plus a Gemini pro Home ukazují širší lekci generativní AI: lepší mluvení automaticky neznamená lepší ovládání. Zprávy recenzentů, uživatelů a technologických médií popisují asistenty, kteří zvládají bohatší kontext a ambicióznější požadavky, ale stále klopýtají u světel, stmívačů, budíků a rutin.

Trvale užitečný asistent chytré domácnosti proto pravděpodobně spojí oba přístupy. Generativní AI může zpříjemnit nastavování a učinit konverzaci flexibilnější. Deterministický software ale musí zajistit, aby byl konečný krok přesný, rychlý a ověřitelný. Dokud tato hranice nebude navržena správně, může konverzačnější asistent působit chytřeji — a přitom být u nejzákladnějších úkolů méně spolehlivý.