알렉사+와 제미나이 포 홈, 똑똑해졌지만 기본 명령에 약한 이유

한마디로 말하면, ‘말을 잘하는 AI’와 ‘정확히 작동하는 제어 시스템’은 다르다

아마존과 구글은 알렉사+와 제미나이 포 홈을 통해 스마트 스피커를 더 자연스럽게 대화하는 기기로 바꾸려 했다. 사용자가 정해진 문구를 외우지 않아도 맥락을 이해하고, 여러 단계의 작업을 한 번에 처리하게 하겠다는 구상이다.

하지만 스마트홈에서 이용자가 원하는 것은 때로 아주 단순하다. “주방 불 꺼줘”, “음악 틀어줘”, “타이머 10분 맞춰줘” 같은 명령은 창의적인 해석보다 매번 같은 결과를 내는 것이 중요하다. 생성형 AI의 핵심인 확률적 추론과 스마트홈 제어에 필요한 정확성이 충돌하는 지점이다. 16

문제는 거창한 예외가 아니라 일상적인 명령에서 드러난다

제미나이 포 홈을 대상으로 한 테스트에서는 음악 요청을 무시하고, 대화 중 갑자기 다른 주제로 넘어가며, 수요일에 화요일이라고 주장하는 일이 있었다. 스마트 조명을 꺼달라는 요청에도 물리적 기기를 제어할 수 없다고 답했다. 스마트 스피커의 가장 기본적인 역할을 수행하지 못한 셈이다. 1

알렉사+ 역시 비슷한 불만을 낳았다. 기존에는 문제없이 작동하던 커피 제조 루틴이 실패했다는 사례가 나왔고, 업그레이드 이후 기존 루틴이 삭제됐다는 사용자 제보도 있었다. 67

다만 알렉사+가 항상 무능한 것은 아니다. 한 리뷰에서는 사용자가 음성으로 조건을 설명하자 특정 시간대와 동작 감지 조건을 포함한 조명 자동화 루틴을 제대로 만들었다. 기기 이름을 앱에 등록한 명칭과 다르게 말했는데도 의도한 조명을 찾아냈다. 이는 기능이 없어서라기보다, 같은 기능이 매번 안정적으로 실행되지 않는 것이 핵심 문제임을 보여준다. 2

기존 음성 비서와 생성형 AI는 작동 방식부터 다르다

전통적인 음성 비서는 대체로 정해진 명령어와 기기 이름을 특정 의도에 연결한 뒤, 사전에 정의된 API 호출을 실행했다. “주방 조명을 꺼줘”라는 문장은 매번 같은 제어 명령으로 변환되는 식이다.

반면 대규모 언어 모델(LLM)은 대화의 맥락을 해석하고, 여러 가능성 가운데 다음 행동이나 도구 호출을 확률적으로 선택한다. 구글도 제미나이를 “비결정적(non-deterministic)” 시스템으로 설명한다. 즉, 미리 정해진 스크립트를 그대로 따르는 방식이 아니다. 15

이 구조는 자연스러운 대화와 복잡한 요청에는 유리하다. 하지만 겉보기에 같은 명령도 대화의 흐름이나 표현에 따라 다르게 해석되거나, 다른 도구로 전달되거나, 아예 실행되지 않을 수 있다. “꺼줘”가 언제나 동일한 물리적 동작을 의미해야 하는 스마트홈에서는 치명적인 약점이다. 315

사용자가 원하는 것은 대화의 매끄러움보다 신뢰성이다

관련 보도와 사용자 경험에서 반복해서 언급되는 문제는 신뢰성, 지연 시간, 가격 대비 가치다. 응답이 늦고, 잘못된 답을 하며, 명령을 놓치거나, 음악을 엉뚱하게 선택하고, 기존 루틴이 사라졌다는 불만이 이어졌다. 1257

따라서 기술적으로는 LLM이 기기 제어의 최종 결정자가 되어서는 안 된다는 지적이 나온다. 언어 모델은 사용자의 자연어를 해석하되, 실제 실행 전에는 허용된 기기인지, 요청한 동작이 가능한지, 위험한 변경은 아닌지 결정론적인 검증 계층이 확인해야 한다. 최종 실행 역시 예측 가능한 제어 시스템이 담당하는 편이 안전하다.

쉽게 말해 AI가 “무슨 뜻인지” 이해하는 역할과 기기가 “실제로 무엇을 할지” 결정하는 역할을 분리해야 한다는 뜻이다.

애플도 같은 벽을 피하지 못했다

애플은 개인화된 차세대 시리 기능을 개발 과정의 문제와 버그 때문에 연기했다. 새 시리를 기다리는 동안 계획했던 스마트홈 디스플레이 출시도 미뤄진 것으로 전해졌다. 482

기존 홈팟급 하드웨어가 애플의 새로운 AI 기능을 처리하기에 충분한 연산 여력을 갖추지 못했다는 보도도 있다. 이는 홈팟 관련 제품 обнов화가 늦어지고, 시리 성능이 기기와 기능에 따라 고르지 못한 이유를 설명하는 요인으로 거론된다. 914

화려한 시연과 상용 제품 사이의 간극

생성형 AI가 자연스럽게 대화를 이어가고 복잡한 자동화를 한 번에 만들어내는 시연은 인상적이다. 그러나 그것만으로 실제 제품에 투입할 준비가 됐다고 보기는 어렵다.

가정의 조명과 가전뿐 아니라 일정 관리, 구매, 메시지 전송처럼 실수의 비용이 큰 작업에서는 기준이 달라야 한다. 빠른 응답, 예측 가능한 동작, 명확한 오류 안내, 문제가 생겼을 때의 안전한 대체 경로가 먼저 마련돼야 한다.

이 조건이 갖춰지기 전에 제품을 출시하면 통합 테스트와 버그 발견, 실패 비용이 소비자에게 넘어간다. 결국 돈을 내고 제품을 산 사람들이 사실상 베타테스터가 되는 셈이다. 스마트홈 AI의 다음 경쟁력은 얼마나 사람처럼 말하느냐가 아니라, 간단한 명령을 얼마나 꾸준히 틀리지 않고 실행하느냐에 달려 있다.