RespostasPublicado19 fontes
O que se sabe sobre os perfis que a IA Muse pode criar sobre pessoas próximas aos usuários
TIME e WIRED relatam que instruções internas da Muse descrevem atualizações por hora de perfis de usuários e de pessoas mencionadas em conteúdos acessíveis ao assistente, mesmo que elas nunca tenham usado o app. As instruções também mencionam inferir objetivos não declarados, considerar sugestões para influenciar co...
Publicado porEditado com GPT-6 LunaImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- TIME e WIRED relatam que instruções internas da Muse descrevem atualizações por hora de perfis de usuários e de pessoas mencionadas em conteúdos acessíveis ao assistente, mesmo que elas nunca tenham usado o app.
- As instruções também mencionam inferir objetivos não declarados, considerar sugestões para influenciar comportamentos, revisar conversas e diferenciar apagar uma memória de excluir as mensagens originais.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did TIME and Wired report about how Meta’s Muse AI assistant builds and updates profiles of users and people they mention, including no. Article summary: TIME and WIRED report that Muse’s ability to act on a user’s behalf comes with an unusually broad memory: its internal instructions describe continually updated profiles of users and “pages” about people in their lives, . Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Reportagens da TIME e da WIRED descrevem uma memória mais abrangente do que o simples registro de preferências na assistente pessoal Muse, da Meta. Segundo a análise de instruções internas do sistema, um processo pode atualizar, a cada hora, perfis de usuários e páginas sobre pessoas mencionadas em conversas, mensagens e e-mails que a Muse leu. Essas pessoas podem nunca ter usado o serviço. 5
17
A TIME informou que a Muse tinha cerca de 4 milhões de usuários em 6 de outubro, menos de um mês após o lançamento em setembro. 17
É importante separar o que as instruções descrevem do que foi comprovado sobre o funcionamento cotidiano do produto: as reportagens apontam capacidades e orientações internas, mas não demonstram que todo perfil possível seja criado para cada usuário nem que a Meta tenha usado essas informações para direcionar anúncios. 5
17
O que a Muse poderia registrar sobre outras pessoas
De acordo com a análise da TIME, o processo em segundo plano pode atualizar informações sobre o usuário e sobre pessoas citadas em materiais a que a Muse teve acesso. As páginas descritas nas instruções podem organizar relações e registrar contexto — por exemplo, como duas pessoas se conheceram, interesses em comum, desentendimentos e tensões dentro de um grupo. 17
A WIRED também relatou que as instruções preveem páginas sobre pessoas da vida do usuário, como amigos, familiares e colegas. Como as informações podem vir de conteúdos fornecidos ou conectados por quem usa a Muse, alguém pode aparecer nesses registros sem ter instalado o assistente. 5
17
Isso levanta uma questão de privacidade que vai além das escolhas de quem usa o aplicativo: uma pessoa pode não ter controle sobre o que outra compartilha com a assistente a seu respeito. Os relatos, porém, não comprovam que todos os contatos sejam perfilados nem que a Muse acesse dados além dos conteúdos disponibilizados por seus usuários. 5
17
Inferir objetivos e pensar em sugestões personalizadas
Segundo a TIME, as instruções orientam a Muse a tentar entender o que o usuário deseja mesmo quando isso não foi dito explicitamente. Também pedem que o assistente considere que tipos de sugestões personalizadas — ou “nudges” — poderiam influenciar o comportamento da pessoa. 17
A proposta descrita vai além de guardar uma preferência para tornar uma resposta futura mais útil: envolve antecipar necessidades e considerar como orientar sugestões. A reportagem não mostra, por si só, com que frequência a Muse segue essas instruções nem qual efeito essas sugestões têm. 17
Conversas e pedidos para esquecer informações
A TIME relata que a Muse revisa conversas ao atualizar sua memória. As instruções também distinguem retirar uma informação da memória do assistente de apagar a mensagem original da qual ela veio. Segundo a cobertura dessas instruções, a Muse seria orientada a não explicar essa diferença quando alguém pede que ela esqueça algo. 17
40
Na prática, portanto, pedir para a assistente esquecer um dado não significa necessariamente que a conversa ou o conteúdo de origem será apagado. As reportagens não estabelecem que um pedido de esquecimento exclua as mensagens originais. 40
O que a Meta diz sobre proteção e controle
A Meta afirma que usuários podem escolher quais aplicativos conectar à Muse e quanto acesso conceder. A empresa também diz que conversas e dados da máquina virtual não são compartilhados com seus sistemas de publicidade e que há uma opção para não permitir o uso das interações no treinamento de modelos de IA. Essas são declarações da empresa sobre suas proteções, não uma verificação independente de todos os fluxos de dados. 35
Outras reportagens descrevem uma máquina virtual separada para cada usuário e mencionam que a Meta discutiu compartilhar aprendizados desidentificados para aprimorar o serviço. Já a chamada Confidential VM foi apresentada como uma medida de criptografia planejada para o futuro, não como uma proteção já implantada em todo o serviço. 39
42
45
Essas declarações não respondem a todas as dúvidas sobre as páginas de relacionamento descritas nas instruções — especialmente sobre que opções tem alguém que não usa a Muse, mas é mencionado por outra pessoa. As reportagens disponíveis não demonstram que não usuários possam consultar ou apagar informações sobre si guardadas na memória de outra conta. 5
17
Falhas de segurança ampliam o debate
Pesquisadores conseguiram extrair arquivos internos de operação da Muse, tornando suas instruções disponíveis para análise. A WIRED também noticiou uma falha grave de segurança no lançamento; a Meta disse que corrigiu o problema. É uma questão distinta da criação de perfis, mas reforça as dúvidas sobre os riscos de um assistente que pode lidar com informações sensíveis. 2
5
7
A WIRED relatou ainda que milhões de pessoas baixaram a Muse e que alguns usuários conectaram fontes sensíveis, como dados bancários, mensagens e informações de saúde. Nesse cenário, a preocupação não se limita ao que o assistente guarda sobre o próprio usuário, mas inclui como dados sobre outras pessoas podem ser organizados e mantidos quando aparecem em conteúdos conectados. 2
5
A conclusão mais segura é também relevante: as instruções relatadas descrevem uma memória voltada a relações, atualizada por hora e capaz de incluir páginas sobre pessoas que talvez nunca tenham usado a Muse. Isso merece escrutínio, embora ainda não esclareça a abrangência real do processo nem quais controles se aplicam às pessoas mencionadas por terceiros. 5
17
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "O que se sabe sobre os perfis que a IA Muse pode criar sobre pessoas próximas aos usuários"?
TIME e WIRED relatam que instruções internas da Muse descrevem atualizações por hora de perfis de usuários e de pessoas mencionadas em conteúdos acessíveis ao assistente, mesmo que elas nunca tenham usado o app.
Quais são os pontos-chave para validar primeiro?
TIME e WIRED relatam que instruções internas da Muse descrevem atualizações por hora de perfis de usuários e de pessoas mencionadas em conteúdos acessíveis ao assistente, mesmo que elas nunca tenham usado o app. As instruções também mencionam inferir objetivos não declarados, considerar sugestões para influenciar comportamentos, revisar conversas e diferenciar apagar uma memória de excluir as mensagens originais.
Fontes
wired.comwww.wired.com › story › muse-creates-detailedMuse Creates Detailed Profiles of All Your Friends and Family
time.comMeta's Muse AI Agent Is Building a Dossier On You
superpowerdaily.comTIME Finds Meta's Muse Builds Profiles of Users and Their Contacts
fastcompany.comMeta wants its new AI agent to run your digital life