Generativní asistenti pro chytrou domácnost slibovali přirozenější rozhovor, lepší porozumění kontextu a možnost vytvářet automatizace běžnou řečí. Jenže přibližně rok po uvedení systémů, jako jsou Alexa+ a Gemini for Home, narážejí na zásadní rozpor: jazykový model pracuje s pravděpodobnostmi, zatímco uživatel očekává přesný výsledek.
Když člověk řekne „zhasni světlo v kuchyni“, nechce kreativní interpretaci ani doplňující dialog. Chce, aby se světlo okamžitě vypnulo.
Selhávají u těch nejbanálnějších úkolů
Nejde jen o okrajové nebo kuriózní chyby. Při testování Gemini for Home asistent ignoroval požadavky na přehrání hudby, odbočoval od tématu rozhovoru, tvrdil, že je úterý, přestože byla středa, a odmítl vypnout chytrá světla s vysvětlením, že nedokáže ovládat fyzická zařízení v domácnosti.
1
U Alexa+ se objevily zprávy o selhání dříve spolehlivé rutiny pro přípravu kávy. Někteří uživatelé také uvedli, že po přechodu na novou verzi zmizely jejich existující rutiny.
6
7 Zároveň ale testy ukázaly, že Alexa+ dokáže hlasem vytvořit funkční automatizaci s několika podmínkami — například zapnout světla při zachycení pohybu v určitém čase — a správně přiřadit zařízení, i když bylo v aplikaci pojmenované jinak.
2
To naznačuje, že problémem není úplná absence schopností. Jde především o nekonzistentní chování: stejný typ požadavku může jednou fungovat výborně a podruhé selhat.
Proč starší asistenti působili spolehlivěji
Tradiční hlasové ovládání obvykle rozpoznalo příkaz, přiřadilo ho k předem definovanému záměru a odeslalo konkrétní volání do rozhraní API. Věta „vypni světla v kuchyni“ tak vedla ke stejnému typu akce pokaždé.
Velký jazykový model funguje jinak. Z kontextu odhaduje, co uživatel pravděpodobně zamýšlí, a následně navrhuje, který nástroj nebo příkaz API použít. Google sám popisuje Gemini jako „nedeterministický“ systém — neřídí se tedy jednoduše jedním neměnným skriptem.
15
Tato pružnost je výhodou při běžné konverzaci. U ovládání zařízení se však může stát problémem. Zdánlivě stejný požadavek může být v různých okamžicích jinak interpretován, jinam směrován nebo doplněn o zbytečnou odpověď. U fyzické akce přitom „vypnout“ musí vždy znamenat totéž.
3
15
Rychlost a jistota jsou důležitější než efektní demo
Opakující se zkušenosti uživatelů i hodnocení produktů ukazují na stejné slabiny: pomalé odpovědi, chybné reakce, ztracené příkazy, nesprávný výběr hudby a nefunkční rutiny. Hlavními výzvami proto zůstávají spolehlivost, latence a hodnota, kterou produkt za svou cenu nabízí.
12
5
7
Technicky z toho plyne poměrně jasné řešení. Jazykový model by neměl být jediným rozhodovacím článkem. Měl by pouze převést přirozenou řeč na návrh akce, kterou následně ověří a provede deterministická vrstva. Ta může zkontrolovat, zda zařízení existuje, zda je příkaz bezpečný a zda odpovídá přesně tomu, co uživatel požadoval.
Apple na tom není zásadně lépe
Podobným problémům se nevyhnul ani Apple. Společnost odložila pokročilejší personalizované funkce Siri kvůli technickým potížím a softwarovým chybám. Zpoždění se promítlo také do plánů pro chytrou domácnost: připravovaný domácí displej byl odložen, protože Apple čeká na novou verzi Siri.
4
8
2
Podle dalších zpráv navíc současný hardware třídy HomePodu nemusí mít dostatečný výkon pro nové ambice společnosti v oblasti AI. To pomáhá vysvětlit odklady nových zařízení i nevyrovnaný výkon Siri.
9
14
Chytrý asistent nesmí z uživatele udělat testera
Působivé demo konverzační AI ještě není důkazem připravenosti pro každodenní provoz. U systému, který ovládá domácnost — nebo pracuje s kalendářem, nákupy či komunikací — by měly být základními měřítky předvídatelnost, rychlá odezva, srozumitelné chybové stavy a bezpečné záložní řešení.
Pokud jsou tyto vlastnosti stále nedotažené, výrobce v praxi přenáší testování integrací, odhalování chyb i cenu neúspěšných příkazů na platící zákazníky. Jinými slovy: místo hotového produktu dostávají lidé další beta test.