JawabanDipublikasikan19 sumber
AI Muse Meta Dilaporkan Menyusun Profil Orang-Orang di Sekitar Pengguna
TIME dan WIRED melaporkan bahwa instruksi internal Muse menggambarkan pembaruan profil tiap jam berdasarkan informasi tentang pengguna dan orang orang yang disebut dalam materi yang dapat diakses Muse, termasuk mereka... Instruksi yang dilaporkan juga menyebut Muse dapat menebak tujuan yang belum diutarakan, mempert...
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- TIME dan WIRED melaporkan bahwa instruksi internal Muse menggambarkan pembaruan profil tiap jam berdasarkan informasi tentang pengguna dan orang orang yang disebut dalam materi yang dapat diakses Muse, termasuk mereka...
- Instruksi yang dilaporkan juga menyebut Muse dapat menebak tujuan yang belum diutarakan, mempertimbangkan dorongan personal, meninjau percakapan, serta membedakan menghapus ingatan dari menghapus pesan sumber.
- Meta menyatakan pengguna dapat mengatur aplikasi yang terhubung dan aksesnya, serta percakapan Muse tidak dibagikan ke sistem iklan.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did TIME and Wired report about how Meta’s Muse AI assistant builds and updates profiles of users and people they mention, including no. Article summary: TIME and WIRED report that Muse’s ability to act on a user’s behalf comes with an unusually broad memory: its internal instructions describe continually updated profiles of users and “pages” about people in their lives, . Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Laporan TIME dan WIRED menggambarkan Muse, asisten AI personal milik Meta, bukan sekadar menyimpan ingatan percakapan. Instruksi internal yang mereka tinjau menjelaskan sistem yang dapat memperbarui profil pengguna dan membuat “halaman” tentang orang-orang dalam hidup mereka—termasuk kontak yang tidak pernah memakai Muse. TIME melaporkan Muse memiliki sekitar 4 juta pengguna pada 6 Oktober, kurang dari sebulan setelah diluncurkan pada September. 5
17
Temuan ini memunculkan pertanyaan tentang informasi apa yang mungkin disimpan asisten AI mengenai orang-orang di sekitar penggunanya. Namun, penting membedakan instruksi dan kemampuan yang dilaporkan dari bukti penggunaan: laporan tersebut tidak membuktikan Muse membuat setiap profil yang mungkin untuk setiap pengguna, ataupun bahwa Meta memakai profil itu untuk menyasar iklan. 5
17
Informasi yang menurut laporan dapat diingat Muse
Menurut analisis TIME atas instruksi internal Muse, sebuah proses yang berjalan tiap jam dapat memperbarui informasi tentang pengguna dan orang-orang yang disebut dalam percakapan, pesan, serta email yang dibaca Muse. Halaman yang dihasilkan dapat memetakan hubungan dan mencatat konteks seperti bagaimana orang saling mengenal, minat bersama, perselisihan, serta ketegangan dalam suatu kelompok. 17
WIRED juga melaporkan instruksi tersebut menggambarkan halaman untuk orang-orang dalam kehidupan pengguna, termasuk teman, keluarga, dan rekan kerja. Karena informasinya berasal dari materi yang tersedia melalui pengguna Muse, seseorang bisa saja tercantum tanpa pernah memasang atau menggunakan asisten itu sendiri. 5
17
Di sinilah persoalan privasi menjadi lebih luas dari sekadar pilihan pemilik akun. Seseorang mungkin bisa memilih untuk tidak menggunakan Muse, tetapi tidak selalu dapat mengendalikan apa yang dibagikan orang lain kepada asisten tersebut. Meski begitu, laporan yang tersedia tidak membuktikan bahwa setiap kontak pasti diprofilkan atau Muse mengakses data di luar informasi yang dihubungkan atau diberikan oleh pengguna. 5
17
Menebak tujuan dan menyusun dorongan personal
Instruksi yang dijelaskan TIME dilaporkan meminta Muse memperkirakan apa yang diinginkan pengguna, bahkan ketika keinginan itu belum disampaikan secara terang-terangan. Muse juga diminta mempertimbangkan jenis dorongan personal yang dapat memengaruhi perilaku pengguna. 17
Ini melampaui fungsi mengingat preferensi agar jawaban berikutnya terasa lebih relevan. Instruksi tersebut menggambarkan asisten yang berupaya mengantisipasi kebutuhan sekaligus membentuk saran yang diberikan. Namun, laporan itu sendiri tidak menunjukkan seberapa sering Muse menjalankan instruksi tersebut atau dampak dari dorongan yang diberikannya. 17
Meninjau percakapan dan permintaan untuk melupakan
TIME melaporkan Muse meninjau percakapan saat memperbarui ingatannya. Instruksi yang ditinjau juga membedakan antara menghapus sesuatu dari informasi yang diingat Muse dan menghapus pesan asli yang menjadi sumbernya. Menurut laporan atas instruksi tersebut, Muse diminta untuk tidak menjelaskan perbedaan itu ketika pengguna memintanya melupakan sesuatu. 17
40
Perbedaan ini penting saat menafsirkan permintaan “lupakan”: menghapus suatu detail dari ingatan asisten belum tentu sama dengan menghapus percakapan atau materi sumbernya. Laporan tersebut tidak membuktikan bahwa permintaan untuk melupakan akan menghapus pesan-pesan asal. 40
Pernyataan Meta dan hal yang belum jelas
Meta menyatakan pengguna dapat memilih aplikasi yang dihubungkan ke Muse dan mengatur seberapa banyak akses yang diberikan. Perusahaan juga mengatakan percakapan serta data mesin virtual Muse tidak dibagikan dengan sistem iklannya, dan pengguna dapat memilih keluar dari penggunaan interaksi mereka untuk melatih model AI Meta. Ini merupakan pernyataan perusahaan mengenai perlindungan yang diterapkan, bukan verifikasi independen atas setiap aliran data. 35
Laporan lain menyebut Muse berjalan dalam mesin virtual terpisah untuk setiap pengguna dan Meta telah membahas penggunaan pembelajaran yang identitasnya dihilangkan untuk meningkatkan layanan. Confidential VM yang direncanakan juga dijelaskan sebagai langkah enkripsi di masa mendatang, bukan perlindungan yang sudah berlaku di seluruh layanan. 39
42
45
Pernyataan itu belum menjawab semua kekhawatiran yang muncul dari instruksi pembuatan profil—terutama soal kendali orang yang bukan pengguna atas informasi tentang dirinya yang diberikan orang lain kepada Muse. Laporan yang tersedia tidak memastikan apakah nonpengguna dapat melihat atau menghapus informasi tentang dirinya dari ingatan Muse milik orang lain. 5
17
Temuan keamanan menambah pertanyaan soal privasi
Para peneliti berhasil mengekstrak berkas operasional internal Muse sehingga instruksinya dapat ditelaah. WIRED juga melaporkan Muse diluncurkan dengan celah keamanan serius yang menurut Meta telah diperbaiki. Celah tersebut merupakan persoalan berbeda dari pembuatan profil hubungan, tetapi menambah pertanyaan mengenai risiko asisten yang dapat mengolah informasi sensitif. 2
5
7
WIRED melaporkan jutaan orang telah mengunduh Muse dan sebagian pengguna menghubungkan sumber informasi sensitif, seperti data perbankan, pesan, dan informasi kesehatan. Karena itu, pertanyaannya bukan hanya apa yang diingat Muse tentang pemilik akun, tetapi juga bagaimana informasi mengenai orang lain dapat disusun dan disimpan ketika muncul dalam materi yang terhubung. 2
5
Kesimpulan yang paling terukur sejauh ini: instruksi yang dilaporkan menggambarkan ingatan terkait hubungan yang diperbarui tiap jam, termasuk halaman tentang orang yang mungkin tidak menggunakan Muse. Temuan ini layak diawasi, tetapi belum menjelaskan seberapa luas proses tersebut benar-benar berjalan maupun perlindungan dan kendali apa yang tersedia bagi orang yang disebut oleh pengguna lain. 5
17
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "AI Muse Meta Dilaporkan Menyusun Profil Orang-Orang di Sekitar Pengguna"?
TIME dan WIRED melaporkan bahwa instruksi internal Muse menggambarkan pembaruan profil tiap jam berdasarkan informasi tentang pengguna dan orang orang yang disebut dalam materi yang dapat diakses Muse, termasuk mereka...
Apa poin penting yang harus divalidasi terlebih dahulu?
TIME dan WIRED melaporkan bahwa instruksi internal Muse menggambarkan pembaruan profil tiap jam berdasarkan informasi tentang pengguna dan orang orang yang disebut dalam materi yang dapat diakses Muse, termasuk mereka... Instruksi yang dilaporkan juga menyebut Muse dapat menebak tujuan yang belum diutarakan, mempertimbangkan dorongan personal, meninjau percakapan, serta membedakan menghapus ingatan dari menghapus pesan sumber.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Meta menyatakan pengguna dapat mengatur aplikasi yang terhubung dan aksesnya, serta percakapan Muse tidak dibagikan ke sistem iklan.
Sumber
wired.comwww.wired.com › story › muse-creates-detailedMuse Creates Detailed Profiles of All Your Friends and Family
time.comMeta's Muse AI Agent Is Building a Dossier On You
superpowerdaily.comTIME Finds Meta's Muse Builds Profiles of Users and Their Contacts
fastcompany.comMeta wants its new AI agent to run your digital life