Proč generativní AI stále rozbíjí chytrou domácnost

Každý další krok může přinést nejasnost, chybný parametr, zastaralé informace o zařízení, vypršení časového limitu nebo selhání propojení. Mark Riedl z Georgia Tech popsal základní kompromis výstižně: velké jazykové modely rozumějí více způsobům komunikace, ale právě tato otevřenost vytváří více prostoru pro chyby při interpretaci. Podobně odborné rozbory rozlišují mezi dřívějším párováním šablon a pravděpodobnostními transformerovými systémy, které mohou stejný typ požadavku vyhodnotit pokaždé trochu jinak.

Proč problém odhalí právě jednoduché úkoly

„Ztlum lampu“ zní jako banální požadavek, protože jeho výsledek je jednoznačný. Asistent musí vybrat jedno zařízení, nastavit jednu hodnotu a ověřit, že se zařízení skutečně dostalo do požadovaného stavu. U takového úkolu neexistuje mnoho prostoru pro odpověď, která zní rozumně, ale světlo ve skutečnosti nezmění — nebo změní jen část skupiny zařízení.

Tato binární laťka odhaluje slabiny, které se v otevřené konverzaci snadno přehlédnou. Model může mluvit plynule, a přesto špatně pochopit název zařízení, zvolit nesprávnou funkci nebo oznámit úspěch bez spolehlivého ověření stavu. U chatbota uživatel možná toleruje doplňující otázku. Mnohem méně ji ale ocení ve chvíli, kdy večerní rutina nezhasne světla nebo když zařízení zůstane zapnuté navzdory ujištění, že příkaz byl proveden.

Potíž zvyšuje i samotná integrační složitost. Alexa+ má spojovat jazykový model s existujícími službami a miliony zařízení podporujících Alexu. Podle dostupného zpravodajství jde o obtížnou kombinaci i ve chvíli, kdy je nový model schopnější a flexibilnější než jeho předchůdce.

Co ukázal test Davida Poguea

Technologický publicista David Pogue uvedl, že Alexe+ zadal 135 úkolů a správně jich zvládla jen necelou polovinu. Nejde o kontrolovanou studii všech uživatelů ani o univerzální míru úspěšnosti pro každé podporované zařízení. Výsledek proto nelze vydávat za přesnou statistiku spolehlivosti celé služby.

Jako praktický signál je ale významný. Domácí asistent, který by selhával přibližně v takové míře, by se jen obtížně stal důvěryhodným nástrojem pro světla, stmívače, rutiny, hudbu a další opakované úkony. Pogue zároveň popsal, že starší Alexa byla u některých známých funkcí spolehlivější — například při rozsvěcení světel nebo nastavení úrovně stmívače.

To je důležité rozlišení: širší schopnosti neznamenají automaticky vyšší spolehlivost. Asistent může zvládat více typů požadavků, ale být méně předvídatelný u úzké skupiny příkazů, které lidé používají každý den.

Zpoždění ničí pocit, že ovládáte spotřebič

V chytré domácnosti je rychlost součástí spolehlivosti. Vypínač nemusí vysvětlovat, co právě dělá. Musí zareagovat. Pokud asistent odpovídá několik sekund — a v některých testech Alexa+ to trvalo až 15 sekund — uživatel si není jistý, zda příkaz vůbec proběhl.

Dlouhé čekání může znamenat, že požadavek putuje přes více vrstev vzdáleného vyhodnocování, práce s kontextem, koordinace a volání nástrojů. I když zařízení nakonec zareaguje, interakce už nepůsobí jako ovládání spotřebiče. Spíše čekáte, až vzdálená služba rozhodne, co jste vlastně chtěli.

Stejné napětí ovlivňuje i Apple

Zprávy o plánech Applu pro HomePod a Apple TV ukazují, jak těsně se dnes propojuje hardware s asistentem. Podle dostupných informací Apple připravuje podporu AI pro Siri na těchto zařízeních a odkazy v testovacím kódu naznačují, že na integraci nové generace Siri aktivně pracuje.

Jiné zprávy tvrdí, že aktualizovaný hardware HomePodu a Apple TV byl odložen, dokud nová verze Siri nedožene vývoj. To však zůstává pouze mediálním tvrzením, nikoli společností Apple potvrzeným harmonogramem, a je proto namístě opatrnost.

Širší pointa nespočívá v konkrétním datu uvedení produktu. Jakmile hodnota chytrého reproduktoru závisí na nové AI asistentce, nedokončený software může brzdit celý produkt kolem něj. Firmy tak čelí vyšší ceně za uvedení systému, který je působivý při demonstraci, ale v běžné domácnosti stále nezvládá základní úkony na úrovni spolehlivého spotřebiče.

Lepší architektura: AI vpředu, přesné řízení pod ní

Praktickým řešením nemusí být odmítnutí přirozeného jazyka. Generativní model je užitečný jako překladač volně formulované řeči do strukturovaného záměru. Rizikové je nechat nekontrolovaný model, aby měl poslední slovo při samotném provedení.

Spolehlivější systém by měl:

• převést požadavek do přesného schématu zařízení, akce a parametru;
• povolit pouze funkce, které dané zařízení skutečně podporuje;
• nejasné nebo neplatné příkazy odmítnout, místo aby hádal;
• po provedení ověřit skutečný stav zařízení;
• při nejistotě nebo nedostupnosti modelu použít deterministickou záložní cestu.

Výzkum využití jazykových modelů v chytrých domácnostech potřebu těchto pojistek potvrzuje. V jednom hodnocení 13 modelů dosáhl GPT-4o v testovaném scénáři neplatných pokynů pro více zařízení úspěšnosti 0 procent, a to navzdory technikám, jako je učení z kontextu, generování s podporou vyhledávání a dolaďování modelu. Výsledek se týká konkrétního experimentálního nastavení, nikoli běžného používání. Ukazuje však, proč je nutné výstup modelu před ovládáním skutečných zařízení validovat.

Krize identity chytrého reproduktoru

Amazon, Google i Apple se snaží, aby jeden produkt splňoval dvě protichůdná očekávání. Jako konverzační společník může být asistent objevitelský, upovídaný a tolerantní k nejasnostem. Jako řídicí centrum domácnosti však musí být rychlý, úsporný, přesný a mít přehled o skutečném stavu zařízení.

Starší systémy uživatele frustrovaly tím, že vyžadovaly rigidní formulace. Nové systémy slibují, že tuto zátěž odstraní. Přirozený jazyk je ale jen přední část celého problému. Za každým nenuceným příkazem se stále skrývá konkrétní akce: jedno zařízení, jedna změna stavu a jedno spolehlivé potvrzení.

Dokud firmy neuchovají deterministické provádění pod konverzační vrstvou, budou „chytřejší“ asistenti ohrožovat to, co udělalo hlasové ovládání užitečným: důvěru. Vydávání nedokončených systémů může firmám přinést cennou zpětnou vazbu. Pokud se však testování odehrává v domácnostech platících zákazníků, náklady na architekturu, která si ještě nezasloužila spolehlivost běžného spotřebiče, nesou právě oni.