ОтветыОпубликовано19 источники
Muse может собирать сведения не только о пользователе, но и о его окружении
По данным TIME и WIRED, инструкции Muse предусматривают ежечасное обновление профилей пользователей и страниц о людях, упоминаемых в доступных ассистенту переписках и письмах. В инструкциях также говорится о попытках угадывать невысказанные желания пользователя, подбирать персональные подсказки и обновлять память по...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- По данным TIME и WIRED, инструкции Muse предусматривают ежечасное обновление профилей пользователей и страниц о людях, упоминаемых в доступных ассистенту переписках и письмах.
- В инструкциях также говорится о попытках угадывать невысказанные желания пользователя, подбирать персональные подсказки и обновлять память по итогам просмотра разговоров.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did TIME and Wired report about how Meta’s Muse AI assistant builds and updates profiles of users and people they mention, including no. Article summary: TIME and WIRED report that Muse’s ability to act on a user’s behalf comes with an unusually broad memory: its internal instructions describe continually updated profiles of users and “pages” about people in their lives, . Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
TIME и WIRED сообщают, что внутренние инструкции персонального ИИ-ассистента Meta Muse описывают не только обычную память о беседах. В них говорится о регулярном обновлении профилей пользователей и отдельных страниц о людях из их окружения — в том числе о тех, кто сам никогда не пользовался Muse. По данным TIME, к 6 октября у ассистента было около 4 миллионов пользователей — менее чем через месяц после сентябрьского запуска. 5
17
Эти сведения поднимают вопрос о том, какие данные ИИ-помощник может сохранять о людях вокруг владельца аккаунта. При этом важно не делать выводов сверх того, что подтверждают публикации: речь идёт об изученных инструкциях и предусмотренных возможностях, а не о доказательстве, что Muse создаёт каждый возможный профиль для каждого пользователя или что Meta использовала такие профили для рекламы. 5
17
Что Muse, согласно инструкциям, запоминает
TIME сообщает, что внутренние инструкции описывают процесс, который может обновлять сведения о пользователе и людях, упомянутых в разговорах, сообщениях и письмах, прочитанных Muse. Страницы о людях могут отражать связи между ними и сохранять контекст: откуда люди знают друг друга, что их объединяет, какие между ними разногласия и напряжённость в группе. 17
WIRED также пишет, что инструкции предусматривают страницы о людях в жизни пользователя — друзьях, родственниках и коллегах. Поскольку сведения поступают из материалов, доступных через аккаунт пользователя Muse, человек может попасть в такую запись, даже если сам не устанавливал ассистент. 5
17
Это важное различие с точки зрения приватности: человек может сам решить, пользоваться ли Muse, но не обязательно может контролировать, что о нём передаст ассистенту другой человек. Публикации не доказывают, что профили создаются обо всех контактах или что Muse получает данные, помимо подключённых пользователем источников и предоставленных им материалов. 5
17
Угадывать желания и подбирать подсказки
Согласно TIME, инструкции предписывают Muse пытаться понять, чего хочет пользователь, даже если тот не сформулировал это прямо. Ассистенту также предлагается учитывать, какие персональные подсказки могут повлиять на поведение пользователя. 17
Это выходит за рамки запоминания предпочтений ради более уместного ответа: речь идёт о попытке предугадывать потребности и направлять предложения. Однако сами публикации не показывают, как часто Muse действует по этим инструкциям и к каким последствиям приводят такие подсказки. 17
Проверка разговоров и просьбы «забыть»
По данным TIME, Muse просматривает разговоры, чтобы обновлять память. В инструкциях также проводится различие между удалением чего-либо из запомненных сведений и удалением исходного сообщения. Как пишет TIME, Muse предписано не объяснять это различие пользователю, если он просит что-то забыть. 17
40
Поэтому просьба «забыть» не обязательно означает, что исходная переписка или материал, из которого взята информация, будут стёрты. Публикации не подтверждают, что такая команда удаляет исходные сообщения. 40
Что заявляет Meta — и что пока неясно
Meta заявляет, что пользователи могут выбирать, к каким приложениям подключать Muse и какой доступ ей предоставлять. Компания также утверждает, что переписки и данные виртуальной машины не передаются рекламным системам Meta, и описывает возможность отказаться от использования взаимодействий с ассистентом для обучения ИИ-моделей. Это заявления компании о мерах защиты, а не независимая проверка всех потоков данных. 35
В других материалах говорится, что Muse работает в отдельной виртуальной машине для каждого пользователя и что Meta обсуждала возможность использовать обезличенные данные для улучшения сервиса. Защиту Confidential VM описывали как будущую меру шифрования, а не как уже действующую повсеместно функцию. 39
42
45
Эти заверения не снимают всех вопросов, которые вызвали инструкции о профилировании. В частности, в доступных публикациях не установлено, могут ли люди, не пользующиеся Muse, просматривать или удалять сведения о себе из памяти ассистента другого человека. 5
17
Уязвимость добавила вопросов о безопасности
Исследователи смогли извлечь внутренние рабочие файлы Muse и изучить инструкции ассистента. WIRED также сообщила о серьёзной уязвимости безопасности, присутствовавшей при запуске; Meta заявила, что исправила её. Это отдельная проблема, не связанная напрямую с профилями контактов, но она усиливает вопросы о рисках ассистента, работающего с чувствительной информацией. 2
5
7
По данным WIRED, Muse скачали миллионы людей, а некоторые пользователи подключали к ней источники с чувствительными сведениями — например, банковские данные, сообщения и информацию о здоровье. Поэтому вопрос не только в том, что ассистент запоминает о своём пользователе, но и в том, как он может систематизировать и сохранять сведения о других людях, если они встречаются в подключённых материалах. 2
5
Самый точный вывод пока ограничен, но важен: в изученных инструкциях описана ежечасная память о социальных связях, включая страницы о людях, которые могут не пользоваться Muse. Это повод внимательно изучить работу системы, но доступные данные не показывают, насколько широко этот механизм применяется на практике и какие средства контроля доступны людям, которых упоминают другие. 5
17
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Muse может собирать сведения не только о пользователе, но и о его окружении»?
По данным TIME и WIRED, инструкции Muse предусматривают ежечасное обновление профилей пользователей и страниц о людях, упоминаемых в доступных ассистенту переписках и письмах.
Какие ключевые моменты необходимо проверить в первую очередь?
По данным TIME и WIRED, инструкции Muse предусматривают ежечасное обновление профилей пользователей и страниц о людях, упоминаемых в доступных ассистенту переписках и письмах. В инструкциях также говорится о попытках угадывать невысказанные желания пользователя, подбирать персональные подсказки и обновлять память по итогам просмотра разговоров.
Источники
wired.comwww.wired.com › story › muse-creates-detailedMuse Creates Detailed Profiles of All Your Friends and Family
time.comMeta's Muse AI Agent Is Building a Dossier On You
superpowerdaily.comTIME Finds Meta's Muse Builds Profiles of Users and Their Contacts
fastcompany.comMeta wants its new AI agent to run your digital life