Dlaczego generatywna AI wciąż psuje inteligentny dom

Generatywna AI sprawiła, że inteligentne głośniki stały się bardziej elastyczne, ale nie stały się przez to równie niezawodne. Alexa+ miała pozwolić na używanie zwykłego, naturalnego języka — na przykład prośbę „przyciemnij trochę światła” zamiast wskazywania konkretnego urządzenia i wartości procentowej. Recenzje nadal opisują jednak błędy, opóźnienia, niewykonane polecenia oraz funkcje, które wcześniej działały stabilniej.

Nie ma w tym koniecznie sprzeczności. Rozmowa korzysta z interpretacji i improwizacji. Automatyka domowa wymaga natomiast precyzji: właściwe światło, właściwy poziom jasności, natychmiast i za każdym razem.

Dwa różne sposoby działania

Starsze asystenty głosowe zazwyczaj rozpoznawały określoną frazę albo intencję i przypisywały ją do znanej czynności. Polecenie w rodzaju

ustaw jasność lampki w sypialni na 45%

Asystent generatywny musi podjąć znacznie więcej decyzji, zanim cokolwiek się wydarzy. Powinien ustalić, co użytkownik ma na myśli, rozpoznać właściwe pomieszczenie i urządzenie, uwzględnić kontekst, wybrać dostępną funkcję, utworzyć wywołanie API lub narzędzia, a następnie przekazać żądanie przez platformę inteligentnego domu i powiązane integracje.

Każdy dodatkowy etap to kolejne miejsce, w którym może pojawić się niejednoznaczność, nieprawidłowy parametr, nieaktualny stan urządzenia, przekroczenie limitu czasu albo błąd integracji.

Mark Riedl z Georgia Tech trafnie opisał ten kompromis: modele językowe rozumieją więcej sposobów komunikacji, ale ta otwartość zwiększa także ryzyko błędnej interpretacji. Analizy problemów inteligentnego domu podobnie zestawiają dawne dopasowywanie szablonów z probabilistycznymi systemami opartymi na modelach transformerowych, które mogą różnie reagować na podobne polecenia.

Dlaczego najprostsze polecenia obnażają problem

Prośba o przyciemnienie lampy wydaje się banalna, bo łatwo określić oczekiwany rezultat. Asystent musi wybrać jeden cel, zastosować jedną wartość i potwierdzić, że urządzenie rzeczywiście osiągnęło wymagany stan. Nie wystarczy odpowiedź brzmiąca wiarygodnie, jeśli lampa się nie zmieniła albo zmieniła się tylko część urządzeń należących do grupy.

Taki zero-jedynkowy standard szybko ujawnia słabości, które mogą być mniej widoczne w swobodnej rozmowie. Model może mówić płynnie, a jednocześnie pomylić nazwę urządzenia, wybrać niewłaściwą funkcję albo oznajmić wykonanie polecenia bez wiarygodnego sprawdzenia stanu.

Użytkownik może wybaczyć asystentowi pytanie doprecyzowujące w rozmowie. Znacznie trudniej zaakceptować sytuację, w której wieczorna rutyna nie działa albo światło nadal się świeci, mimo że system zapewnia, iż wykonał polecenie.

Problem wynika również ze skali integracji. Alexa+ musi połączyć model językowy z istniejącymi usługami i milionami urządzeń obsługujących Alexę. Doniesienia wskazują, że jest to trudne nawet wtedy, gdy nowy model jest bardziej elastyczny i potrafi obsłużyć więcej rodzajów próśb niż poprzednik.

Co pokazuje test Davida Pogue’a

David Pogue poinformował, że poprosił Alexa+ o wykonanie 135 zadań, a system poprawnie poradził sobie z niespełna połową. To test praktyczny, a nie kontrolowane badanie obejmujące wszystkich użytkowników Alexa+ i wszystkie obsługiwane urządzenia. Wyniku nie należy więc traktować jako uniwersalnego wskaźnika skuteczności.

Mimo to jest to ważny sygnał dotyczący produktu. Domowy asystent, który zawodzi z częstotliwością zbliżoną do opisanej przez Pogue’a, szybko traci wiarygodność przy sterowaniu światłami, ściemniaczami, rutynami, muzyką i innymi codziennymi funkcjami. W jego relacji pojawiła się także obserwacja, że starsza Alexa była przy niektórych dobrze znanych zadaniach bardziej niezawodna — między innymi przy włączaniu świateł i ustawianiu poziomu jasności.

To ważne rozróżnienie: większy zakres możliwości nie oznacza większej niezawodności. Asystent może obsługiwać więcej typów próśb, a jednocześnie stać się mniej przewidywalny przy kilku poleceniach, których domownicy używają każdego dnia.

Opóźnienie także jest problemem z niezawodnością

W inteligentnym domu szybkość jest częścią niezawodności. Włącznik światła nie musi tłumaczyć, co „zrozumiał”; powinien po prostu zareagować. Gdy asystent potrzebuje kilku sekund, a w niektórych testach Alexa+ nawet 15 sekund, użytkownik zaczyna się zastanawiać, czy polecenie zostało wykonane.

Długie oczekiwanie może oznaczać, że żądanie przechodzi przez więcej etapów: zdalne wnioskowanie, analizę kontekstu, koordynację usług i wykonanie wywołania narzędzia. Nawet jeśli urządzenie ostatecznie zareaguje, interakcja przestaje przypominać obsługę sprzętu domowego. Zaczyna przypominać oczekiwanie na usługę, która dopiero decyduje, co właściwie oznaczało polecenie.

Dlaczego podobne napięcie widać w planach Apple

Doniesienia dotyczące planów Apple dla HomePoda i Apple TV pokazują, jak mocno sprzęt i oprogramowanie asystenta są dziś ze sobą powiązane. Według tych informacji Apple przygotowuje obsługę Siri z funkcjami AI dla tych produktów, a odniesienia znalezione w wersji beta kodu wskazują, że firma aktywnie pracuje nad integracją Siri z HomePodem i Apple TV.

Inne raporty sugerowały, że odświeżone modele HomePoda i Apple TV mogły zostać wstrzymane do czasu poprawy kolejnej generacji Siri. Są to jednak doniesienia medialne, a nie potwierdzony przez Apple harmonogram premier, dlatego należy podchodzić do nich ostrożnie.

Szerszy wniosek nie zależy od konkretnej daty premiery. Jeśli wartość inteligentnego głośnika zależy od nowego asystenta AI, niedopracowane oprogramowanie może opóźnić cały produkt. Wzrasta wtedy koszt wypuszczenia systemu, który robi dobre wrażenie podczas prezentacji, ale nie radzi sobie z rutynowymi zadaniami w domu.

Lepszy model: AI na wejściu, deterministyczne sterowanie pod spodem

Praktyczną odpowiedzią nie musi być odrzucenie interfejsów w języku naturalnym. Modele generatywne dobrze nadają się do przekształcania swobodnej wypowiedzi w uporządkowaną intencję. Ryzykowne jest natomiast pozostawienie nieskrępowanemu modelowi ostatecznej decyzji o wykonaniu działania.

Bardziej niezawodna architektura powinna:

• tłumaczyć polecenie na ścisły schemat urządzenia, czynności i parametrów;
• ograniczać wybór narzędzi do funkcji, które rzeczywiście istnieją w danym domu;
• odrzucać niejednoznaczne lub nieprawidłowe polecenia zamiast zgadywać;
• sprawdzać stan urządzenia po wykonaniu operacji;
• przełączać się na deterministyczną ścieżkę działania, gdy model jest niepewny albo niedostępny.

Badania nad wykorzystaniem modeli językowych w inteligentnych domach wzmacniają potrzebę takich zabezpieczeń. W jednym z eksperymentów obejmujących 13 modeli GPT-4o uzyskał 0-procentową skuteczność w scenariuszu nieprawidłowych instrukcji dotyczących wielu urządzeń — nawet przy użyciu technik takich jak uczenie kontekstowe, generowanie wspomagane wyszukiwaniem i dostrajanie modelu. Wynik dotyczy konkretnego układu eksperymentalnego, a nie codziennego działania asystentów, ale pokazuje, dlaczego odpowiedzi modelu należy zweryfikować, zanim zaczną sterować fizycznymi urządzeniami.

Kryzys tożsamości inteligentnego głośnika

Amazon, Google i Apple próbują sprawić, by jeden produkt spełniał dwa sprzeczne oczekiwania. Jako rozmówca AI może być elastyczny, rozwlekły i tolerować niejednoznaczność. Jako centrum sterowania domem powinien działać cicho, szybko, świadomie uwzględniać stan urządzeń i być dokładny.

Starsze systemy irytowały użytkowników, ponieważ wymagały zapamiętywania sztywnych formuł. Nowsze obiecują usunąć tę przeszkodę, ale język naturalny to tylko przednia warstwa problemu. Za każdą swobodną prośbą nadal kryje się konkretna czynność: jedno urządzenie, jedna zmiana stanu i jedno wiarygodne potwierdzenie.

Dopóki firmy nie zachowają deterministycznego wykonania pod warstwą konwersacyjną, „inteligentniejsi” asystenci będą ryzykować utratę tego, co uczyniło sterowanie głosem użytecznym: zaufania. Wypuszczanie niedopracowanych systemów może dostarczać cennych informacji zwrotnych, ale gdy testy odbywają się w domach płacących klientów, to oni ponoszą koszt architektury, która nie zasłużyła jeszcze na niezawodność zwykłego urządzenia domowego.