Chytřejší konverzace, horší ovládání domácnosti? Proč AI asistenti stále selhávají u základních příkazů

Generativní asistenti pro chytrou domácnost slibovali přirozenější rozhovor, lepší porozumění kontextu a možnost vytvářet automatizace běžnou řečí. Jenže přibližně rok po uvedení systémů, jako jsou Alexa+ a Gemini for Home, narážejí na zásadní rozpor: jazykový model pracuje s pravděpodobnostmi, zatímco uživatel očekává přesný výsledek.

Když člověk řekne „zhasni světlo v kuchyni“, nechce kreativní interpretaci ani doplňující dialog. Chce, aby se světlo okamžitě vypnulo.

Selhávají u těch nejbanálnějších úkolů

Nejde jen o okrajové nebo kuriózní chyby. Při testování Gemini for Home asistent ignoroval požadavky na přehrání hudby, odbočoval od tématu rozhovoru, tvrdil, že je úterý, přestože byla středa, a odmítl vypnout chytrá světla s vysvětlením, že nedokáže ovládat fyzická zařízení v domácnosti. 1

U Alexa+ se objevily zprávy o selhání dříve spolehlivé rutiny pro přípravu kávy. Někteří uživatelé také uvedli, že po přechodu na novou verzi zmizely jejich existující rutiny. 67 Zároveň ale testy ukázaly, že Alexa+ dokáže hlasem vytvořit funkční automatizaci s několika podmínkami — například zapnout světla při zachycení pohybu v určitém čase — a správně přiřadit zařízení, i když bylo v aplikaci pojmenované jinak. 2

To naznačuje, že problémem není úplná absence schopností. Jde především o nekonzistentní chování: stejný typ požadavku může jednou fungovat výborně a podruhé selhat.

Proč starší asistenti působili spolehlivěji

Tradiční hlasové ovládání obvykle rozpoznalo příkaz, přiřadilo ho k předem definovanému záměru a odeslalo konkrétní volání do rozhraní API. Věta „vypni světla v kuchyni“ tak vedla ke stejnému typu akce pokaždé.

Velký jazykový model funguje jinak. Z kontextu odhaduje, co uživatel pravděpodobně zamýšlí, a následně navrhuje, který nástroj nebo příkaz API použít. Google sám popisuje Gemini jako „nedeterministický“ systém — neřídí se tedy jednoduše jedním neměnným skriptem. 15

Tato pružnost je výhodou při běžné konverzaci. U ovládání zařízení se však může stát problémem. Zdánlivě stejný požadavek může být v různých okamžicích jinak interpretován, jinam směrován nebo doplněn o zbytečnou odpověď. U fyzické akce přitom „vypnout“ musí vždy znamenat totéž. 315

Rychlost a jistota jsou důležitější než efektní demo

Opakující se zkušenosti uživatelů i hodnocení produktů ukazují na stejné slabiny: pomalé odpovědi, chybné reakce, ztracené příkazy, nesprávný výběr hudby a nefunkční rutiny. Hlavními výzvami proto zůstávají spolehlivost, latence a hodnota, kterou produkt za svou cenu nabízí. 1257

Technicky z toho plyne poměrně jasné řešení. Jazykový model by neměl být jediným rozhodovacím článkem. Měl by pouze převést přirozenou řeč na návrh akce, kterou následně ověří a provede deterministická vrstva. Ta může zkontrolovat, zda zařízení existuje, zda je příkaz bezpečný a zda odpovídá přesně tomu, co uživatel požadoval.

Apple na tom není zásadně lépe

Podobným problémům se nevyhnul ani Apple. Společnost odložila pokročilejší personalizované funkce Siri kvůli technickým potížím a softwarovým chybám. Zpoždění se promítlo také do plánů pro chytrou domácnost: připravovaný domácí displej byl odložen, protože Apple čeká na novou verzi Siri. 482

Podle dalších zpráv navíc současný hardware třídy HomePodu nemusí mít dostatečný výkon pro nové ambice společnosti v oblasti AI. To pomáhá vysvětlit odklady nových zařízení i nevyrovnaný výkon Siri. 914

Chytrý asistent nesmí z uživatele udělat testera

Působivé demo konverzační AI ještě není důkazem připravenosti pro každodenní provoz. U systému, který ovládá domácnost — nebo pracuje s kalendářem, nákupy či komunikací — by měly být základními měřítky předvídatelnost, rychlá odezva, srozumitelné chybové stavy a bezpečné záložní řešení.

Pokud jsou tyto vlastnosti stále nedotažené, výrobce v praxi přenáší testování integrací, odhalování chyb i cenu neúspěšných příkazů na platící zákazníky. Jinými slovy: místo hotového produktu dostávají lidé další beta test.