Чому генеративний ШІ досі ламає розумний дім

Генеративний ШІ зробив розумні колонки більш гнучкими, але не зробив їх стабільно надійними. Alexa+ створювали зокрема для того, щоб люди могли говорити звичайною мовою — наприклад, попросити «трохи приглушити світло», а не називати конкретний пристрій і відсоток яскравості. Однак огляди й тести продовжують фіксувати помилки, затримки, невиконані команди та збої функцій, які раніше працювали передбачуваніше.

На перший погляд це здається суперечністю. Але розмова винагороджує здатність інтерпретувати й імпровізувати. Домашня автоматизація вимагає протилежного: потрібне світло, у потрібній кімнаті, на потрібному рівні яскравості, негайно й щоразу.

Архітектурний конфлікт

Старі голосові асистенти зазвичай розпізнавали заздалегідь визначену фразу або намір і прив’язували їх до конкретної дії. Запит на кшталт

set bedroom lamp brightness to 45%

Генеративний асистент перед виконанням команди має зробити набагато більше висновків. Йому потрібно зрозуміти, що саме мав на увазі користувач, визначити кімнату або пристрій, врахувати контекст, обрати доступну функцію, сформувати правильний виклик API чи інструмента, а потім передати його платформі розумного дому та підключеним сервісам. Кожен додатковий етап створює нову можливість для неоднозначності, неправильного параметра, застарілих даних про пристрій, тайм-ауту або збою інтеграції.

Марк Рідл із Технологічного інституту Джорджії описав головний компроміс доволі прямо: великі мовні моделі розуміють більше форм комунікації, але саме ця відкритість збільшує кількість можливих помилок інтерпретації. У матеріалах про проблему розумного дому це також протиставляють старому зіставленню шаблонів імовірнісним трансформерним системам, які можуть по-різному реагувати на запити одного типу.

Чому прості команди найкраще демонструють проблему

Прохання приглушити лампу здається елементарним, адже бажаний результат легко описати. Асистент має вибрати один об’єкт, застосувати одне значення й переконатися, що пристрій справді змінив стан. Тут немає місця для просто правдоподібної відповіді, яка звучить переконливо, але не змінює лампу — або змінює лише частину групи пристроїв.

Саме така бінарна вимога й оголює слабкі місця, менш помітні у вільній розмові. Модель може говорити плавно, але неправильно зрозуміти назву пристрою, вибрати не ту функцію або заявити про успіх без надійної перевірки стану. Користувач може пробачити співрозмовнику-ШІ уточнювальне запитання. Але коли не спрацьовує нічний сценарій або світло залишається ввімкненим після повідомлення «готово», терпіння швидко закінчується.

Цей тип збоїв відповідає і складності інтеграції таких продуктів. Alexa+ має поєднати мовну модель із наявними сервісами та мільйонами пристроїв із підтримкою Alexa — завдання, яке, за повідомленнями, виявилося складним навіть попри більшу гнучкість нової системи.

Що показує тест Девіда Пога — і чого він не доводить

Девід Пог повідомив, що попросив Alexa+ виконати 135 завдань, і система правильно впоралася трохи менш ніж із половиною. Це практичний тест, а не контрольоване дослідження всіх користувачів Alexa+ чи всіх підтримуваних пристроїв. Тому його результат не можна сприймати як універсальний показник успішності.

Водночас це важливий сигнал про продукт. Домашньому асистенту, який помиляється з близькою частотою, складно довірити світло, димери, сценарії, музику або інші регулярні дії. У своєму описі Пог також зазначав, що для деяких звичних завдань, зокрема керування освітленням і рівнем димування, попередня Alexa була надійнішою.

Ця різниця принципова: ширші можливості не означають вищої надійності. Асистент може навчитися обробляти більше типів запитів і водночас стати менш передбачуваним у вузькому наборі команд, якими люди користуються щодня.

Затримка перетворює колонку на не дуже розумний сервіс

Швидкість — частина надійності розумного дому. Вимикач не має пояснювати хід міркувань: він просто повинен спрацювати. Коли асистент відповідає кілька секунд або, за деякими тестами Alexa+, до 15 секунд, користувач уже не розуміє, чи команда виконана.

Тривале очікування може свідчити про те, що запит проходить через додаткові рівні віддаленого висновування, обробки контексту, оркестрації та виконання інструментів. Навіть якщо пристрій зрештою реагує, взаємодія перестає нагадувати керування побутовим приладом. Натомість виникає відчуття, ніби доводиться чекати, поки сервіс вирішить, що саме ви сказали.

Та сама дилема впливає на стратегію Apple

Повідомлення про плани Apple щодо HomePod і Apple TV показують, наскільки тісно тепер пов’язані домашнє обладнання та програмне забезпечення асистента. За даними преси, компанія готує орієнтовану на ШІ версію Siri для цих продуктів, а згадки в тестовому коді свідчать, що Apple активно працює над інтеграцією Siri з HomePod і Apple TV.

Інші публікації стверджували, що оновлені HomePod та Apple TV могли відкласти, доки не буде готовий наступний досвід взаємодії із Siri. Однак це повідомлення ЗМІ, а не підтверджений Apple графік релізів, тому їх слід сприймати обережно.

Важливий тут не конкретний термін запуску, а ширший висновок: якщо цінність розумної колонки залежить від нового ШІ-асистента, незавершеність асистента може стримувати й продукт навколо нього. Це підвищує ціну випуску системи, яка ефектно виглядає в демонстрації, але нестабільно працює у звичайному домі.

Надійніша модель: ШІ спереду, точне керування — під ним

Практичне рішення не обов’язково полягає у відмові від природної мови. Генеративні моделі добре підходять для перекладу гнучкого усного запиту в структурований намір. Небезпечно лише дозволяти необмеженій моделі залишатися останньою інстанцією, яка вирішує, що саме виконувати.

Надійніша архітектура мала б:

• переводити запит у сувору схему «пристрій — дія — параметр»;
• дозволяти вибір лише тих функцій, які справді доступні в конкретному домі;
• відхиляти неоднозначні або некоректні команди, а не вгадувати;
• перевіряти стан пристрою після виконання; і
• переходити на детермінований канал команд, якщо модель не впевнена або недоступна.

Дослідження LLM у сценаріях розумного дому також підтверджують потребу в таких запобіжниках. В одному з експериментів із 13 моделями GPT-4o показала 0% успішності для некоректних інструкцій із кількома пристроями в тестованому сценарії — навіть із використанням навчання в контексті, генерації з доповненням пошуком і донавчання. Це стосується конкретної експериментальної постановки, а не повсякденної роботи асистента, однак добре ілюструє, чому результат моделі потрібно перевіряти до того, як він отримає контроль над реальними пристроями.

Криза ідентичності ШІ-колонки

Amazon, Google та Apple намагаються змусити один продукт відповідати двом суперечливим очікуванням. Як співрозмовник асистент може бути дослідницьким, багатослівним і терпимим до неоднозначності. Як центр керування домом він має бути тихим, швидким, обізнаним про стан пристроїв і точним.

Старі системи дратували тим, що вимагали запам’ятовувати жорсткі формулювання. Нові обіцяють позбавити нас цього тягаря, але природна мова — лише передня частина проблеми. За кожним невимушеним проханням усе одно стоїть конкретна дія: один пристрій, одна зміна стану, одне надійне підтвердження.

Поки компанії не збережуть детерміноване виконання під розмовним шаром, «розумніші» асистенти ризикують втратити те, що зробило голосове керування корисним спочатку, — довіру. Випуск незавершених систем може дати цінний зворотний зв’язок, але якщо таке тестування відбувається в оселях платних користувачів, саме вони оплачують експеримент із архітектурою, яка ще не заслужила надійності побутового приладу.