Project Lily: Kontraktor OpenAI Disebut Meninjau Percakapan ChatGPT Asli

Laporan investigasi 404 Media mengenai Project Lily di internal OpenAI menggambarkan operasi umpan balik manusia yang menggunakan percakapan ChatGPT konsumen sungguhan. Berdasarkan materi bocor, contoh prompt, dan pernyataan yang ditinjau media tersebut, kontraktor alih daya dapat membaca konteks percakapan untuk mengevaluasi jawaban model—bahkan ketika percakapan berisi detail pribadi yang sensitif. 1

Bagi pengguna yang memakai ChatGPT untuk membahas persoalan pribadi, kesehatan, hubungan, hukum, atau pekerjaan, intinya sederhana: meminta chatbot untuk merahasiakan sesuatu bukanlah pengaturan kontrol akses. Pengaturan yang relevan adalah apakah akun mengizinkan percakapan baru dipakai untuk peningkatan model. 1

Apa yang dilaporkan tentang tugas penilai Project Lily

404 Media melaporkan bahwa ratusan kontraktor, yang direkrut melalui perusahaan penyalur tenaga kerja dan dibayar lebih dari US$50 per jam, meninjau arus besar percakapan ChatGPT asli. Tugas mereka dilaporkan mencakup:

• merangkum maksud pengguna;
• membandingkan empat jawaban kandidat dari model;
• memberi nilai 1 sampai 7; dan
• mengidentifikasi hal-hal yang membuat jawaban kurang berguna atau kurang dapat dipercaya. 1

Kriteria evaluasinya disebut berfokus pada perbaikan kualitas dan gaya jawaban ChatGPT. Penilai diminta menandai bahasa yang terdengar terlalu seperti AI, klaim fakta yang salah, bahasa yang terlalu mengiyakan atau menjilat (sycophantic), masalah keselamatan, serta jawaban yang keliru menyiratkan bahwa model memiliki pengalaman atau emosi pribadi. 1

Tujuan putaran umpan balik ini adalah membuat jawaban terasa lebih alami dan tidak kaku. Namun, proses peningkatan kualitas itu juga dapat melibatkan akses manusia terhadap isi percakapan pengguna. 1

Menghapus nama pengguna belum tentu membuat percakapan anonim

OpenAI mengatakan kepada 404 Media bahwa nama pengguna dihapus dan Privacy Filter diterapkan sebelum materi dikirim kepada penilai. Namun, investigasi itu menemukan contoh ketika materi penilaian dapat mencakup konteks percakapan lengkap serta ringkasan memori yang dibuat model. Ringkasan tersebut dilaporkan dapat memuat detail seperti perkiraan lokasi, profesi, dan keadaan pribadi yang sangat sensitif. 1

Keterbatasannya terletak pada identifikasi melalui konteks. Nama atau pengenal akun bisa dihapus, tetapi gabungan peristiwa hidup, detail pekerjaan, lokasi geografis, atau rujukan yang tidak biasa tetap dapat membuat suatu percakapan dikenali oleh orang yang mengetahui pengguna tersebut—atau setidaknya tetap sangat sensitif bila terungkap. 404 Media melaporkan bahwa OpenAI mengakui filter dapat kesulitan menangkap pengenal yang tidak umum serta rujukan privat yang ambigu dan bergantung pada konteks. 1

Kalimat “jangan beri tahu siapa pun” tidak mencegah peninjauan

Meminta ChatGPT untuk merahasiakan sebuah pembicaraan adalah instruksi di dalam percakapan, bukan preferensi privasi akun. Instruksi itu tidak menimpa pengaturan penggunaan data layanan maupun mencegah chat terpilih untuk alur peningkatan yang dilaporkan 404 Media. 1

Karena itu, jangan memperlakukan chatbot konsumen sebagai kanal rahasia hanya karena percakapannya terasa personal. Jika suatu informasi akan berisiko bila dilihat penilai yang berwenang, lebih aman untuk tidak memasukkannya ke ruang kerja pribadi saat peningkatan model masih diaktifkan.

Cara menghentikan percakapan ChatGPT baru dipakai untuk peningkatan model

Dokumentasi Data Controls OpenAI menyatakan bahwa pengguna ruang kerja pribadi dapat menonaktifkan peningkatan model melalui:

1. Profil → Settings
2. Data Controls
3. Matikan “Improve the model for everyone”

Setelah pengaturan itu dimatikan, percakapan baru tetap muncul di riwayat chat, tetapi tidak digunakan untuk melatih atau meningkatkan model ChatGPT. Pengaturan ini berlaku untuk akun, bukan hanya untuk satu perangkat.

Waktunya penting: OpenAI menyatakan pilihan keluar tersebut berlaku untuk percakapan baru. Pengaturan ini tidak menarik kembali chat yang sudah dikirim ketika peningkatan model masih aktif.

Yang perlu diketahui pengguna Business, Enterprise, dan Edu

OpenAI menyatakan bahwa, secara bawaan, input dan output dari ChatGPT Business, Enterprise, Edu, maupun API Platform tidak digunakan untuk melatih model. Sebaliknya, berbagi data untuk peningkatan model aktif secara bawaan bagi pengguna ChatGPT Free, Plus, dan Pro di ruang kerja pribadi, meski mereka dapat menonaktifkannya lewat Data Controls.

Perbedaan itu tidak menghapus seluruh kewajiban tata kelola data organisasi. Tim tetap perlu mematuhi kebijakan perusahaan atau institusinya serta memeriksa pengaturan ruang kerja yang berlaku. Namun, ini merupakan perbedaan penting dibandingkan perlakuan bawaan untuk chat konsumen.

Apakah OpenAI satu-satunya yang memakai peninjau manusia?

Peninjauan manusia bukan praktik yang hanya dilakukan OpenAI. Kebijakan privasi Anthropic menyebut perusahaan itu dapat melatih dan meningkatkan modelnya menggunakan input dan output dari pengguna atau pekerja kerumunan, kecuali pengguna memilih keluar. Tinjauan akademik atas praktik privasi penyedia AI utama juga menemukan bahwa Google dan OpenAI membahas peninjauan chat pengguna oleh manusia untuk pelatihan atau peningkatan model.

Persoalan utamanya bukan semata-mata ada atau tidaknya umpan balik manusia. Yang lebih penting ialah apakah pengguna memahami kapan percakapannya dapat masuk ke proses tersebut, sejauh mana proses penghilangan identitas melindungi mereka, dan bagaimana mengubah pengaturan yang berlaku.

Inti pelajaran soal privasi

Project Lily, sebagaimana dilaporkan 404 Media, menjadi pengingat bahwa chat AI untuk konsumen bukan otomatis percakapan rahasia satu lawan satu. Upaya penghilangan identitas dapat mengurangi paparan, tetapi belum tentu menghapus seluruh detail yang mengungkap jati diri dari percakapan dengan konteks pribadi yang kaya. 1

Sebelum memasukkan informasi sensitif ke ChatGPT, periksa Settings → Data Controls → Improve the model for everyone. Jika peningkatan model aktif, anggap chat baru berpotensi memenuhi syarat untuk digunakan dalam perbaikan layanan; bila dinonaktifkan, OpenAI mengatakan chat baru tidak akan dipakai untuk tujuan tersebut.