ChatGPT Dreaming V3: Racun Tersembunyi di Balik Peningkatan Memori AI

Berikut adalah apa yang sebenarnya terjadi di balik layar—dan mengapa Anda harus waspada.

Bagaimana Cara Kerja Mesin Memori Dreaming V3

Dreaming V3 sepenuhnya meninggalkan daftar ingatan tersimpan yang eksplisit. Sebagai gantinya, sebuah mesin sintesis latar belakang berjalan setelah percakapan berakhir, membaca seluruh riwayat obrolan pengguna untuk menyimpulkan preferensi, pola kerja, batasan pribadi, dan detail lainnya—semua tanpa perintah "ingat ini" manual .

Perubahan arsitektur utama meliputi:

• Pemindaian riwayat penuh. Sistem tidak lagi bergantung pada hal-hal yang Anda tandai—ia membaca semuanya .
• Preferensi yang disimpulkan. Ia mengekstrak detail implisit dari komentar santai dan perilaku masa lalu yang mungkin tidak pernah Anda maksudkan untuk disimpan .
• Konsolidasi antar-sesi. Sebuah proses "bermimpi" berjalan secara offline, menyelesaikan kontradiksi dan memperbarui fakta usang .
• Representasi yang disintesis. Yang disimpan bukanlah transkrip kata demi kata dari perkataan Anda, melainkan deskripsi terkompresi yang dihasilkan model tentang siapa Anda .

Pengguna dapat melihat ringkasan memori di Pengaturan, tetapi lapisan data mentah yang mendasarinya tidak diekspos secara langsung . Hal ini menciptakan celah audit yang menjadi kritis ketika sistem mulai membuat kesalahan.

Pengujian ZDNET Menemukan Kegagalan Akurasi yang Meluas

Reporter ZDNet David Gewirtz menguji memori yang ditingkatkan ini secara ekstensif dan menemukan masalah akurasi yang serius dan sistematis yang bertambah buruk seiring waktu .

• Asumsi usang menempel secara permanen. ChatGPT menyimpan jabatan lama, proyek yang sudah kedaluwarsa, dan preferensi yang sudah digantikan, lalu memperlakukannya sebagai fakta terkini dalam setiap interaksi berikutnya .
• Kesalahan kecil menjadi "kitab suci". AI mengunci kesalahan-kesalahan kecil dan menerapkan keyakinan yang sama seperti yang digunakannya untuk pengetahuan faktual yang terverifikasi. Satu detail yang salah kemudian secara diam-diam mencemari puluhan respons di masa depan .
• Propagasi tak kasat mata. Data memori yang cacat mendistorsi jawaban tanpa indikasi yang terlihat bahwa ada sesuatu yang salah. Pengguna mungkin tidak pernah menyadari bahwa AI bekerja dari konteks yang rusak sampai kerusakannya telah menyebar ke banyak percakapan .
• Profil detail tetapi salah. Sistem menciptakan profil pribadi yang rumit dan tampak masuk akal tetapi salah, menambatkan setiap respons pada premis yang keliru .

Gewirtz menggambarkan Dreaming V3 sebagai "kemenangan teknis" yang dipasangkan dengan "fitur yang tidak bertanggung jawab" . Masalah intinya bukanlah bahwa AI membuat kesalahan—melainkan bahwa kesalahan tersebut menjadi infrastruktur permanen dan tak kasat mata untuk semua yang Anda tanyakan setelahnya.

Celah Audit: Apa yang Tidak Akan Ditunjukkan OpenAI kepada Anda

Halaman Tanya Jawab Memori OpenAI berisi sebuah pengakuan yang diam-diam menghancurkan: "Meskipun ringkasan memori harus menangkap detail yang paling penting, itu tidak akan mencakup semua yang diingat ChatGPT berdasarkan obrolan Anda. Jika Anda ingin tahu apakah ChatGPT telah mengingat sesuatu, tanyakan saja di obrolan" .

Halaman ringkasan memori adalah ikhtisar yang dapat dibaca manusia dari profil yang disintesis, bukan jendela lengkap ke dalam apa yang sebenarnya disimpan dan digunakan oleh model . Itu berarti pengguna tidak dapat sepenuhnya mengaudit apa yang ChatGPT "ketahui" tentang mereka hanya melalui antarmuka pengaturan . Anda harus "memancing"—meminta AI untuk mengungkapkan asumsi tersembunyinya tentang Anda—yang tidak dapat diandalkan atau praktis untuk penggunaan rutin.

Mengapa "Hapus Saja" Tidak Memperbaiki Masalah

Opsi untuk mengelola atau membersihkan memori memang ada, tetapi masing-masing memiliki keterbatasan yang signifikan.

• Mematikan memori mungkin tidak menghapus apa yang sudah tersimpan. ZDNet melaporkan bahwa menonaktifkan fitur ini tidak serta-merta menghapus data yang telah disintesis sistem .
• Penghapusan manual itu rapuh. Pengguna dapat meninjau dan menghapus entri memori individual di Pengaturan, tetapi proses "bermimpi" dapat mempelajari kembali detail yang sama dari riwayat obrolan Anda yang ada saat berikutnya berjalan .
• Sintesis ulang otomatis yang berkelanjutan. Karena Dreaming V3 terus-menerus menyintesis ulang konteks, menghapus memori yang terdaftar tidak mencegah sistem untuk menyimpulkan kembali informasi serupa dari percakapan masa lalu .
• Sebagian besar pengguna tidak akan mengaudit sampai rusak. Tanda pertama yang terlihat dari memori yang rusak sering kali muncul setelah data beracun itu telah membentuk banyak respons .

"Context Rot" Gaya Baru: Membusuk dari Profil ke Luar

Context rot menggambarkan bagaimana model bahasa besar (LLM) menurun kinerjanya seiring jendela konteks terisi—informasi yang lebih lama tergeser oleh konten yang lebih baru, dan hasilnya melenceng dari situasi aktual pengguna . Dreaming V3 secara eksplisit dirancang untuk memerangi masalah ini di seluruh sesi, mengatasi "tantangan keusangan, kebenaran, dan skalabilitas yang kami amati ketika memori diterapkan pada ratusan juta pengguna dan jangka waktu multi-tahun di ChatGPT" .

Tetapi apa yang dibangun OpenAI memperkenalkan varian yang lebih berbahaya. Alih-alih konteks membusuk dari jendela terbatas yang terisi, sekarang ia membusuk dari pusat ke luar: begitu sebuah kesalahan memasuki profil pengguna persisten, ia secara diam-diam menurunkan setiap jawaban yang mengikuti. Ini bukanlah context rot tradisional dari informasi yang hilang—ini adalah pembusukan dari informasi yang salah yang diperlakukan sistem sebagai otoritatif. Dan karena pengguna tidak dapat melihat atau dengan mudah menghapusnya, mereka mungkin tidak pernah tahu mengapa AI mereka perlahan-lahan memburuk .