Почему умные колонки с ИИ всё ещё не справляются с простыми командами

Эти сообщения не позволяют вывести единую для всей отрасли частоту отказов. Но они показывают устойчивую закономерность: разговорные способности помощников улучшаются, тогда как повседневное выполнение команд остаётся непредсказуемым.

Почему естественная речь усложняет управление

Старые голосовые помощники были ограниченнее, зато их путь от распознанной фразы к действию был сравнительно простым. Команда сопоставлялась с известным намерением и заранее проверенной операцией, например:

Пользователю приходилось придерживаться более узких формулировок. Зато система имела меньше вариантов интерпретации, а результат обычно проходил по повторяемому маршруту — от голоса к конкретному вызову API.

Помощнику на основе большой языковой модели приходится решать гораздо больше задач одновременно. Он должен:

1. понять, что именно имеет в виду пользователь;
2. разрешить ссылки вроде «здесь», «те» или «свет»;
3. определить нужную комнату, устройство и доступные ему функции;
4. выбрать подходящий инструмент или API;
5. передать корректные параметры;
6. учесть текущее состояние устройства;
7. точно сообщить, удалось ли выполнить действие.

Ошибка на любом этапе может привести к неверному результату. Помощник выберет не то устройство, неправильно поймёт комнату, использует неподдерживаемую функцию, отправит некорректный параметр, будет опираться на устаревшие данные или заявит об успехе, не проверив, изменилось ли состояние устройства.

Исследование управления умным домом с помощью LLM называет среди препятствий недетерминированность моделей, задержки и стоимость инференса, а также ограниченную персонализацию. Такие системы лучше справляются с чёткими и структурированными запросами, чем с командами, где нужно самостоятельно восстанавливать широкий контекст.

Хороший разговор — ещё не хорошее выполнение

Возможности, которые рекламируют Amazon и Google, действительно полезны. Alexa+ должна сопоставлять описание пользователя с нужным устройством и его функцией, а Google делает акцент на составных командах, исключениях и исправлениях прямо посреди фразы.

Это удобно, когда нужно:

• описать желаемую атмосферу и превратить её в предложение по сценарию;
• создать автоматизацию без поиска нужных пунктов в приложении;
• объяснить, что делает уже существующий сценарий;
• преобразовать неоднозначную просьбу в структурированный план.

Но понять запрос и выполнить его — не одно и то же. Фраза «сделай в комнате уютно к ужину» допускает интерпретацию. У команды «установи яркость кухонного света на 50 процентов» есть вполне определённый результат. Для первой полезна гибкая модель, для второй — узкий и проверяемый механизм управления.

Именно поэтому помощник может впечатляюще обработать длинную сложную фразу и одновременно провалить короткую команду для лампы. Сложность языка не равна сложности выполнения. Запрос на несколько устройств иногда срабатывает, если модель правильно выбрала инструменты и параметры, а короткая команда ломается из-за ошибки в определении устройства или его возможностей.

Задержка тоже воспринимается как ненадёжность

Надёжность — это не только правильный результат. Команда умного дома должна выполняться за разумное и относительно предсказуемое время. Если лампа включается после долгой паузы или только после повторения запроса, система кажется ненадёжной, даже когда в итоге всё сработало.

В обзоре Alexa+ отмечалось, что некоторые ответы занимали до 15 секунд, хотя базовые действия со светом и термостатом в отдельных случаях выполнялись быстрее. В материалах о Gemini for Home отдельно упоминались обновления, направленные на ускорение ответов и сокращение реплик в повседневных командах, что указывает на сохраняющуюся проблему задержек.

Облачная обработка, выбор модели, поиск устройств и вызовы инструментов могут добавлять время. В результате система теоретически становится мощнее, но в конкретный момент — менее предсказуемой.

Не превращаются ли первые пользователи в тестировщиков?

Непрерывный выпуск обновлений — обычная практика для программного обеспечения. Для разговорных функций с низким риском постепенное улучшение может быть оправданным. Но управление домом — другая задача: сбои затрагивают физические устройства и привычные сценарии. Если после обновления иначе начинают вести себя свет, будильники или автоматизации, пользователь сталкивается с последствиями у себя дома, а не в интерфейсе абстрактного чат-бота.

Повторяющаяся последовательность «жалобы после запуска — исправления — новые обновления надёжности» сама по себе не доказывает, что производители намеренно выпускают незаконченные продукты. Однако она показывает: клиенты сталкиваются с проблемами в то время, когда системы ещё настраиваются. Сообщения о пропущенных автоматизациях, неработающих сценариях и непоследовательных ответах делают модель «выпустить, собрать данные, улучшить» особенно болезненной, когда речь идёт о повседневном управлении домом.

Более безопасный вариант — сохранить надёжный детерминированный путь для обычных команд и добавить генеративные функции поверх него. Тогда пользователь получит естественный диалог, но не потеряет базовый договор умного дома: известная команда должна привести нужное устройство в нужное состояние.

Наиболее реалистичный вариант — гибридная архитектура

Практическое решение не в том, чтобы полностью убрать LLM из умного дома. Гораздо разумнее ограничить роль модели там, где ошибка может иметь наиболее заметные последствия.

Надёжная система могла бы использовать LLM для понимания речи и планирования, а затем передавать результат в отдельный слой управления, который обеспечивает:

• проверку устройств и параметров по заданной схеме;
• явные разрешения для чувствительных действий;
• проверку текущего состояния до и после выполнения;
• повторные попытки и понятную обработку ошибок;
• различие между запланированным действием и подтверждённым выполнением.

Похожий подход описан в исследовательской работе о «скомпилированном ИИ»: языковая модель создаёт исполняемые артефакты на этапе компиляции, а затем оркестрация рабочих процессов выполняет ветвление, выбор инструментов, обработку ошибок и повторные попытки детерминированно, уже без участия LLM в основном цикле управления.

Для умного дома это означает, что модель может помогать сформулировать намерение, но не должна каждый раз единолично решать, какое физическое действие произойдёт. Чем ближе команда к фиксированной транзакции с устройством, тем более ограниченным, проверяемым и предсказуемым должен быть путь её выполнения.

Главное

Alexa Plus и Gemini for Home показывают общий принцип генеративного ИИ: умение лучше разговаривать не означает автоматического умения лучше работать. Сообщения обозревателей, пользователей и технологических изданий описывают помощников, которые лучше понимают контекст и составляют более амбициозные запросы, но всё ещё спотыкаются на свете, диммерах, будильниках и сценариях.

Будущее надёжного умного дома, вероятно, принадлежит сочетанию двух подходов. Генеративный ИИ может сделать настройку и диалог гибкими, а детерминированное программное обеспечение должно обеспечить точное, быстрое и проверяемое выполнение финальной команды. Пока граница между этими ролями выстроена недостаточно хорошо, более разговорчивый помощник может казаться умнее — и при этом хуже справляться с самыми базовыми задачами дома.