Meta Muse nedir? Yeni yapay zekâ ajanı neden gizlilik endişesi yarattı?

Meta’nın 8 Eylül’de ABD’de kullanıma sunduğu Muse, yalnızca sorulara yanıt veren bir sohbet botu değil. Kullanıcının bağladığı uygulama ve sitelerde onun adına işlem yapabilen bir kişisel yapay zekâ ajanı. E-posta gönderebilir, takvim düzenleyebilir, alışveriş ve seyahat işlemlerini yürütebilir, hatta ürün satışına yardımcı olabilir. Bu yetenekler kolaylık sağlarken, tek bir sistemin çok sayıda hassas hizmete erişmesi ciddi bir mahremiyet ve güvenlik alanı da oluşturuyor. 23

Muse ne yapabiliyor, ne kadar ücretli?

Kullanıcılar Muse’u e-posta, takvim, ödeme, sağlık, akıllı ev, alışveriş, yemek, müzik ve etkinlik hizmetleriyle bağlayabiliyor. Ardından asistandan e-posta taslağı hazırlamasını ya da göndermesini, görev planlamasını, ürün satın almasını veya satmasını, seyahat rezervasyonu yapmasını ve uzun süren işleri takip etmesini isteyebiliyor. 2310

Hizmet ilk aşamada yalnızca ABD’de, bağımsız Muse uygulaması ve WhatsApp üzerinden sunuldu. Meta’nın ücretsiz bir katmanı bulunuyor; daha yoğun kullanım için aylık 20 dolar ve 100 dolar fiyatlı abonelik seçenekleri de bildirildi. 2313

Gmail ve Amazon bağlantısı neden endişe yarattı?

Tartışmanın merkezinde, Muse’un yalnızca kullanıcının izin verdiği verileri okuması değil; bu verileri hizmetler arasında birleştirerek yeni sonuçlar çıkarması var. Gmail ve Amazon hesabını bağlayan bir incelemeci, Muse’un Amazon hareketlerinden konum çıkarımı yapabildiğini ve Instagram verilerinden ilgi alanları oluşturabildiğini; ortaya çıkan kişisel profilin “rahatsız edici” ölçüde ayrıntılı olduğunu aktardı. 13

Bu tür bir sistemde risk, tek tek uygulamaların bildiği bilgilerden daha büyük bir resim oluşması. Kullanıcı, örneğin alışveriş geçmişini paylaşmayı kabul etmiş olabilir; ancak bu verinin e-posta, sosyal medya ve diğer bağlantılarla birlikte yorumlanarak hassas hayat bilgilerine dair tahminler üretmesini ayrıca beklemeyebilir.

Meta hangi güvenlik önlemlerini vurguluyor?

Meta, Muse’un kendi tarayıcısına sahip yalıtılmış bir bilgisayar ortamı olan Muse Secure VM içinde çalıştığını belirtiyor. Şirket, sistemin kullanıcının gerçek parolalarını görmediğini ve mesaj gönderme ya da ödeme gibi belirli hassas eylemlerden önce onay istediğini de söylüyor. 1119

Bunlar önemli tasarım iddiaları olsa da, geniş kapsamlı izinlerin doğurabileceği riskleri tamamen ortadan kaldırmıyor. Hatalı işlem, verinin yanlış kişiye veya hizmete aktarılması, aşırı yetki verilmesi ve yasal olarak erişilen verilerden beklenmedik hassas çıkarımlar yapılması hâlâ mümkün. Reuters’ın aktardığına göre Muse’un iç testlerinde sistemin takıldığı ve hassas verilerin yetkisiz biçimde açığa çıktığı durumlar görüldü. 216

Instagram’daki çocuklarla ilgili istem olayı ayrı bir tartışma

Muse Image ile ilgili temmuzdaki tartışmadan ayrı olarak, bir annenin viral videosu Meta AI’ın küçük yaştaki kızları hakkında son derece müdahaleci istemler önerdiğini gündeme getirdi. Anne, önerilerden birini takip ettiğinde isimler, doğum bilgileri, medya içerikleri — aralarında uzun süre önce silindiğini öne sürdüğü bir fotoğrafın da bulunduğu — ve konumla bağlantılı bilgilere ulaşıldığını iddia etti. Bu silinmiş fotoğrafa erişim ve diğer belirli geri getirme iddiaları, bağımsız biçimde doğrulanmış kamu bulguları değil; kullanıcının beyanı niteliğinde. 1116

Meta, The Verge’e yaptığı açıklamada önerilen istemlerde “hedefi tutturamadığını” ve bunları değiştireceğini söyledi. Şirket, daha önce de herkese açık Instagram hesapları temel alınarak yapay zekâ görselleri üretilmesine izin veren farklı bir Muse Image özelliğini, gelen tepkilerin ardından birkaç gün içinde durdurmuştu. 58

Asıl mesele: Muse’a ne kadar güvenilebilir?

Muse’un faydası, kullanıcının günlük dijital hayatına derinden bağlanabilmesinden geliyor. Aynı nedenle, birincil e-posta hesabı, ödeme araçları, sağlık verileri veya çocuklarla ilgili bilgiler gibi alanlarda hata payı çok daha ağır sonuçlar doğurabilir.

Bu tartışma Meta’nın daha geniş güven geçmişinden de bağımsız değil. Şirket, çocukları bağımlı kılacak şekilde tasarlanmış sosyal medya ürünleriyle ilgili iddiaları çözmek üzere ABD eyaletlerinin neredeyse tamamıyla, değeri 18 milyar dolara kadar çıkabilen bir anlaşmaya yakın zamanda vardı. 1

Değerlendirme: Meta’nın e-posta, takvim, ödeme bilgileri ya da sağlık verilerine sınırsız ve kalıcı erişim için henüz koşulsuz güven kazandığını söylemek zor. Muse, dar kapsamlı ve istenildiğinde geri alınabilen bağlantılarla; her dış işlemde açık onay şartıyla yararlı olabilir. Ancak bildirilen iç test sorunları ve istem olayı, özellikle sağlık, finans, çocuklar ve ana e-posta hesabı gibi veriler için geniş erişim vermeden önce ihtiyatlı davranılması gerektiğine işaret ediyor. 211