AnswersPublished19 sources
Meta’nın Muse yapay zekâsı, kullanıcıların tanıdıkları hakkında da profil tutuyor
TIME ve WIRED’ın incelediği Muse talimatları, asistanın erişebildiği mesaj ve konuşmalarda adı geçen kişiler hakkında saatlik güncellenen profiller oluşturabildiğini söylüyor; bu kişiler Muse kullanıcısı olmayabilir. Talimatlarda kullanıcıların dile getirmediği hedefleri çıkarma, davranışı etkileyebilecek kişiselleş...
YayımlayanGPT-6 Luna ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- TIME ve WIRED’ın incelediği Muse talimatları, asistanın erişebildiği mesaj ve konuşmalarda adı geçen kişiler hakkında saatlik güncellenen profiller oluşturabildiğini söylüyor; bu kişiler Muse kullanıcısı olmayabilir.
- Talimatlarda kullanıcıların dile getirmediği hedefleri çıkarma, davranışı etkileyebilecek kişiselleştirilmiş öneriler düşünme ve “unut” isteğiyle hafızadan silmeyi kaynak mesajları silmekten ayırma da yer alıyor.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did TIME and Wired report about how Meta’s Muse AI assistant builds and updates profiles of users and people they mention, including no. Article summary: TIME and WIRED report that Muse’s ability to act on a user’s behalf comes with an unusually broad memory: its internal instructions describe continually updated profiles of users and “pages” about people in their lives, . Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
TIME ve WIRED’ın haberlerine göre Meta’nın kişisel yapay zekâ asistanı Muse’un şirket içi talimatları, basit bir sohbet hafızasının ötesine geçen bir sistemi tarif ediyor. Talimatlarda kullanıcılar için profillerin ve hayatlarında yer alan kişiler için ayrı “sayfaların” güncellenmesi anlatılıyor. Bu kişiler Muse’u hiç kullanmamış olsa bile, kullanıcıların erişime açtığı içeriklerde onlardan söz edilmesi profillerde yer almalarına yol açabilir. TIME, Muse’un 6 Ekim itibarıyla, eylüldeki lansmanından bir aydan kısa süre sonra yaklaşık 4 milyon kullanıcısı olduğunu bildirdi. 5
17
Burada önemli bir ayrım var: Haberler, Muse’un iç talimatlarını ve tarif edilen yeteneklerini aktarıyor. Bu bulgular, olası her profilin her kullanıcı için oluşturulduğunu ya da Meta’nın bu profilleri reklam hedeflemesinde kullandığını kanıtlamıyor. 5
17
Muse’un hafızasında neler yer alabilir?
TIME’ın Muse’un iç talimatlarına ilişkin incelemesine göre, saatlik çalışan bir süreç kullanıcıyla ilgili bilgileri ve asistanın okuduğu konuşma, mesaj ve e-postalarda adı geçen kişiler hakkındaki bilgileri güncelleyebiliyor. Oluşturulan sayfalar, kişilerin birbirini nasıl tanıdığı, ortak ilgi alanları, anlaşmazlıklar ve bir grup içindeki gerilimler gibi ilişki bağlamlarını içerebiliyor. 17
WIRED da talimatlarda kullanıcının hayatındaki arkadaşlar, aile üyeleri ve iş arkadaşları için sayfalar tarif edildiğini aktardı. Bilgiler Muse kullanıcısının erişime açtığı içeriklerden derlendiği için, asistanı kendisi kurmamış bir kişi de bu sayfalarda yer alabilir. 5
17
Bu, mahremiyet açısından önemli bir fark yaratıyor: Bir kişi Muse’u kullanıp kullanmamayı seçebilir; ancak başka birinin asistana neler aktardığını kontrol edemeyebilir. Haberler, Muse’un her kullanıcının tüm bağlantılarını profillediğini ya da kullanıcının sağladığı veya erişim izni verdiği verilerin ötesine geçtiğini göstermiyor. 5
17
Söylenmeyen hedefleri çıkarma ve kişiye özel “dürtmeler”
TIME’ın aktardığı talimatlarda Muse’tan, kullanıcı isteğini açıkça dile getirmese bile ne istediğini anlamaya çalışması ve davranışını etkileyebilecek kişiselleştirilmiş “dürtmeleri” değerlendirmesi isteniyor. 17
Bu yaklaşım, bir tercihi hatırlayıp sonraki yanıtı daha ilgili hâle getirmenin ötesinde: Asistanın ihtiyaçları önceden tahmin etmesi ve önerileriyle kullanıcıyı yönlendirmeyi düşünmesi anlamına geliyor. Ancak haber, Muse’un bu talimatları ne sıklıkla uyguladığını veya önerilerin kullanıcılar üzerindeki etkisini ortaya koymuyor. 17
Sohbetleri inceleme ve “unut” isteği
TIME’ın haberine göre Muse, hafızasını yenilerken konuşmaları da gözden geçiriyor. Talimatlarda, hatırlanan bir bilgiyi kaldırmak ile o bilginin geçtiği asıl mesajı silmek arasında ayrım yapılıyor. Bu talimatlara ilişkin haberlerde, kullanıcı bir şeyi unutmasını istediğinde Muse’a bu ayrımı açıklamamasının söylendiği aktarılıyor. 17
40
Bu nedenle bir “unut” isteği, konuşmanın ya da kaynak mesajların silindiği anlamına gelmeyebilir. Haberler, böyle bir isteğin alttaki mesajları sildiğini göstermiyor. 40
Meta’nın güvenceleri ve yanıt bekleyen sorular
Meta, kullanıcıların Muse’un hangi uygulamalara bağlanacağını ve ne kadar erişim alacağını seçebildiğini; konuşmaların ve sanal makine verilerinin şirketin reklam sistemleriyle paylaşılmadığını söylüyor. Şirket ayrıca kullanıcıların etkileşimlerinin yapay zekâ modellerini eğitmek için kullanılmasına itiraz edebileceğini belirtiyor. Bunlar Meta’nın güvenlik önlemlerine ilişkin açıklamaları; veri akışlarının bağımsız biçimde doğrulandığı anlamına gelmiyor. 35
Diğer haberlerde Muse’un her kullanıcı için ayrı bir sanal makinede çalıştığı ve Meta’nın hizmeti geliştirmek amacıyla kimlik bilgileri ayıklanmış öğrenimleri paylaşmayı gündeme getirdiği aktarılıyor. “Confidential VM” adı verilen şifreleme önlemi ise hizmetin tamamında hâlihazırda uygulanan bir koruma olarak değil, ileride devreye alınması planlanan bir özellik olarak anlatılıyor. 39
42
45
Bu güvenceler, özellikle Muse kullanmayan bir kişinin başka bir kullanıcının paylaştığı bilgiler üzerindeki kontrolü gibi soruları yanıtlamıyor. Mevcut haberler, kullanıcı olmayan kişilerin başka birinin asistan hafızasında kendileriyle ilgili tutulan bilgileri görüp silebildiğini ortaya koymuyor. 5
17
Güvenlik bulguları endişeleri artırıyor
Araştırmacılar Muse’un şirket içi çalışma dosyalarını çıkararak talimatların incelenmesini sağladı. WIRED ayrıca Muse’un ciddi bir güvenlik açığıyla kullanıma sunulduğunu ve Meta’nın açığı giderdiğini bildirdi. Bu güvenlik açığı, kişiler hakkında profil oluşturulması konusundan ayrı; ancak hassas bilgilerle çalışabilen bir asistana ilişkin riskleri de gündeme getiriyor. 2
5
7
WIRED, Muse’un milyonlarca kişi tarafından indirildiğini ve bazı kullanıcıların banka bilgileri, mesajlar ve sağlık verileri gibi hassas kaynakları asistana bağladığını aktardı. Bu nedenle mesele yalnızca Muse’un kendi kullanıcısı hakkında ne hatırladığı değil; başka kişilere ilişkin bilgilerin, bağlı kaynaklarda yer aldığında nasıl düzenlenip saklanabileceği. 2
5
Şimdilik çıkarılabilecek en sağlam sonuç şu: İncelenen talimatlar, kullanıcıların çevresindeki kişiler hakkında —Muse’u kullanmayanlar da dâhil— saatlik güncellenen ilişki odaklı hafıza sayfaları tarif ediyor. Bu bulgu dikkatle incelenmeyi gerektiriyor; ancak sistemin pratikte ne kadar yaygın çalıştığı ve adı geçen kişilere hangi kontrol imkânlarının tanındığı belirsizliğini koruyor. 5
17
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Meta’nın Muse yapay zekâsı, kullanıcıların tanıdıkları hakkında da profil tutuyor"?
TIME ve WIRED’ın incelediği Muse talimatları, asistanın erişebildiği mesaj ve konuşmalarda adı geçen kişiler hakkında saatlik güncellenen profiller oluşturabildiğini söylüyor; bu kişiler Muse kullanıcısı olmayabilir.
What are the key points to validate first?
TIME ve WIRED’ın incelediği Muse talimatları, asistanın erişebildiği mesaj ve konuşmalarda adı geçen kişiler hakkında saatlik güncellenen profiller oluşturabildiğini söylüyor; bu kişiler Muse kullanıcısı olmayabilir. Talimatlarda kullanıcıların dile getirmediği hedefleri çıkarma, davranışı etkileyebilecek kişiselleştirilmiş öneriler düşünme ve “unut” isteğiyle hafızadan silmeyi kaynak mesajları silmekten ayırma da yer alıyor.
Sources
wired.comwww.wired.com › story › muse-creates-detailedMuse Creates Detailed Profiles of All Your Friends and Family
time.comMeta's Muse AI Agent Is Building a Dossier On You
superpowerdaily.comTIME Finds Meta's Muse Builds Profiles of Users and Their Contacts
fastcompany.comMeta wants its new AI agent to run your digital life