Что умеет Meta Muse и почему его запуск усилил тревогу за персональные данные

Muse — это запущенный Meta 8 сентября в США персональный ИИ-агент. В отличие от обычного чат-бота, он может не только отвечать на вопросы, но и действовать от имени пользователя в подключённых приложениях и на сайтах: отправлять письма, бронировать поездки, совершать покупки или продавать вещи. 23

Что умеет Muse

К Muse можно подключить электронную почту, календарь, платёжные сервисы, приложения о здоровье, сервисы умного дома, а также платформы для покупок, музыки, ресторанов и мероприятий. Среди заявленных интеграций — Gmail, Spotify, Ticketmaster, Shopify и OpenTable. Агент также связан с продуктами Meta, включая Instagram и Facebook, чтобы лучше учитывать интересы пользователя. 312

Сервис сначала доступен только в США: через отдельное приложение Muse и WhatsApp. Базовая версия бесплатна, а платные уровни стоят 20 и 100 долларов в месяц — в зависимости от объёма использования. 213

Почему тест с Gmail и Amazon вызвал тревогу

Главный вопрос к Muse — не сам факт доступа к данным, на который пользователь формально соглашается, а выводы, которые ИИ может сделать, сопоставляя информацию из разных источников. В одном из обзоров после подключения Gmail и Amazon агент, как сообщалось, собрал «тревожно» подробный профиль: в частности, определил местоположение по активности на Amazon и сделал выводы об интересах на основе данных Instagram. 13

Именно такая межсервисная аналитика меняет характер риска. Пользователь может понимать, что предоставляет доступ к отдельному сервису, но не ожидать, какие личные обстоятельства система способна восстановить из покупок, переписки, календаря и активности в соцсетях вместе.

Какие меры защиты обещает Meta

Meta заявляет, что Muse работает в изолированной среде Muse Secure VM — с выделенным браузером — и не видит реальные пароли пользователя. По данным компании, чувствительные действия, например отправка сообщения или платёж, должны требовать подтверждения. 111719

Эти механизмы могут снизить часть рисков, но не отменяют проблем с чрезмерно широкими разрешениями, ошибочными действиями агента, возможной утечкой данных или чувствительными выводами, сделанными на основе легально полученной информации. Reuters сообщал, что во внутренних тестах Muse возникали зависания и случаи несанкционированного раскрытия чувствительных данных. 2

Отдельный эпизод с подсказками в Instagram

История с Muse не совпадает с июльским скандалом вокруг функции Muse Image. В вирусном видео мать рассказала, что Meta AI предлагал крайне навязчивые запросы о её маленьких дочерях. По её словам, после одного из таких запросов система показала имена, сведения о рождении, медиафайлы — включая якобы давно удалённую фотографию — и данные, связанные с местоположением. Утверждения о получении удалённого снимка и другие детали остаются заявлениями пользователя, а не независимо подтверждёнными выводами. 1116

Meta сообщила The Verge, что «не справилась с задачей» и изменит предлагаемые подсказки. Ранее компания уже отказалась от другой функции Muse Image, позволявшей создавать изображения на основе публичных аккаунтов Instagram: её отключили через несколько дней после резкой реакции пользователей. 115

Почему вопрос доверия важнее набора функций

Muse просит доступ к наиболее чувствительным частям цифровой жизни: основной почте, календарю, платёжной информации и, потенциально, данным о здоровье. Поэтому его удобство напрямую зависит от того, насколько пользователь готов доверить Meta постоянный и широкий доступ.

Этот вопрос особенно остро звучит на фоне давних претензий к политике конфиденциальности Meta. В августе компания согласилась на урегулирование претензий почти всех штатов США по обвинениям в вызывающем зависимость дизайне Facebook и Instagram для несовершеннолетних; суммарная стоимость соглашения может достичь 18 млрд долларов. 1

Практичный подход для тех, кто всё же хочет попробовать Muse, — начинать с минимального набора подключений, регулярно пересматривать и отзывать разрешения, а для каждого внешнего действия требовать подтверждения. Предоставлять агенту постоянный широкий доступ к основной почте, финансовым, медицинским или детским данным на нынешнем этапе рискованно: сообщения о проблемах во внутренних тестах и недавние инциденты с подсказками пока не дают оснований для безусловного доверия. 211