Project Lily OpenAI dan Risiko Privasi Saat Manusia Meninjau ChatGPT

Laporan investigasi 404 Media mengenai inisiatif internal OpenAI bernama Project Lily menggambarkan program umpan balik manusia yang memakai percakapan ChatGPT asli. Isu privasi utamanya bukan semata-mata bahwa chat dapat dipakai untuk pengembangan model: menurut laporan tersebut, kontraktor eksternal dapat membaca materi percakapan yang nama penggunanya sudah dihapus, tetapi masih memuat konteks sangat pribadi. 2

Apa yang dilaporkan dilakukan Project Lily

Berdasarkan materi bocor yang ditinjau 404 Media, OpenAI merekrut ratusan kontraktor melalui perusahaan penyalur tenaga kerja untuk meninjau prompt pengguna dan jawaban ChatGPT yang asli. Pekerjaan itu dilaporkan membayar lebih dari US$50 per jam. Para peninjau merangkum maksud pengguna, membandingkan empat kandidat jawaban, lalu memberi penilaian pada skala 1–7. 2

Tujuannya dilaporkan untuk meningkatkan mutu jawaban—terutama agar ChatGPT terdengar tidak terlalu robotik, mengurangi klaim yang terlalu menyerupai manusia, serta menekan kecenderungan terlalu menyetujui atau memuji pengguna. Pemakaian umpan balik manusia untuk pengembangan AI bukan hal baru, tetapi penggunaan percakapan konsumen asli membuat implikasi privasinya lebih terasa langsung. 2

Data apa yang dapat dilihat peninjau?

404 Media melaporkan bahwa peninjau dapat menerima percakapan lengkap dan, pada beberapa kasus, ringkasan memori pengguna. Nama pengguna tidak ditampilkan, tetapi konteks yang tersedia tetap dapat mengungkap perkiraan lokasi, profesi, minat terdahulu, dan kondisi pribadi. 2

Di sinilah masalahnya: menghapus nama tidak serta-merta membuat percakapan benar-benar anonim atau tidak sensitif. Gabungan konteks seperti pekerjaan, situasi keluarga, kekhawatiran kesehatan, atau peristiwa yang khas tetap dapat bersifat sangat pribadi, bahkan bila tidak langsung mengidentifikasi pemegang akun.

Peran Privacy Filter OpenAI dan batasnya

OpenAI menyatakan Privacy Filter adalah model yang dirancang untuk mendeteksi serta menyunting atau menyamarkan informasi pengenal pribadi (personally identifiable information/PII) dalam teks. 4647

Dalam pelaporan tentang Project Lily, OpenAI mengatakan nama pengguna dihapus dan materi diproses dengan filter otomatis sebelum diserahkan kepada kontraktor. Namun, 404 Media melaporkan detail sensitif masih dapat muncul dalam percakapan yang ditinjau meski ada langkah tersebut. 2

Ini menunjukkan keterbatasan penyuntingan otomatis. Sistem mungkin mampu mengenali pengenal yang jelas, seperti nama, alamat email, atau nomor telepon, tetapi konteks yang lebih halus dan bergantung pada situasi jauh lebih sulit diklasifikasikan secara andal.

Hal-hal yang dilaporkan perlu ditandai peninjau

Panduan yang dilaporkan tidak hanya berfokus pada ketepatan jawaban. Kontraktor juga disebut diminta mengenali masalah seperti:

• Gaya bahasa formulaik atau tidak alami khas AI
• Klaim yang menyiratkan perasaan atau pengalaman hidup manusia
• Persetujuan berlebihan, pujian, atau perilaku menjilat (sycophantic)
• Kesalahan faktual
• Paparan informasi pribadi
• Kekhawatiran keselamatan 2

Fokus pada perilaku terlalu mengiyakan patut diperhatikan. Model yang terlalu cepat memvalidasi pengguna dapat terasa suportif, tetapi gagal mengoreksi asumsi yang keliru, berisiko, atau berbahaya. Project Lily dilaporkan antara lain dimaksudkan untuk membantu menyetel perilaku semacam itu. 2

Meminta “rahasiakan percakapan ini” bukan pengaturan privasi

Menulis permintaan agar percakapan dirahasiakan di dalam prompt tidak mengubah cara pengaturan data akun diterapkan. Itu hanya isi percakapan, bukan instruksi teknis yang dapat mengesampingkan pengaturan penggunaan data OpenAI.

Untuk ruang kerja ChatGPT pribadi, kontrol yang didokumentasikan OpenAI bernama Improve the model for everyone. Saat diaktifkan, chat dapat digunakan untuk meningkatkan model; saat dimatikan, OpenAI mengatakan tidak akan melatih modelnya dengan percakapan baru. 2130

Cara mencegah chat ChatGPT baru dipakai untuk peningkatan model

Untuk pengguna yang masuk ke akun, petunjuk OpenAI adalah:

1. Buka menu profil di ChatGPT.
2. Pilih Settings.
3. Buka Data Controls.
4. Matikan Improve the model for everyone. 1921

Pengaturan ini berlaku untuk akun, bukan hanya satu perangkat. Riwayat chat yang sudah ada dapat tetap tersedia setelah pengaturan dimatikan, tetapi OpenAI menyatakan percakapan baru tidak akan dipakai untuk melatih modelnya. 1930

OpenAI juga menyediakan opsi Do not train on my content melalui portal privasinya. Perusahaan menyatakan salah satu dari opsi tersebut—portal privasi atau Data Controls di produk—sudah cukup untuk ChatGPT dan tugas Codex. 21

Paket ChatGPT mana yang terlindungi secara default?

OpenAI menyatakan ruang kerja pribadi Free, Plus, dan Pro memiliki berbagi data untuk pelatihan model yang aktif secara default, walau pengguna dapat memilih keluar. Untuk ChatGPT Business, Enterprise, Edu, dan API Platform, OpenAI menyatakan input dan output yang diberikan tidak digunakan untuk melatih model secara default. 23

Namun, perlindungan default itu tidak berarti setiap percakapan bisnis otomatis bebas risiko untuk semua tujuan. Organisasi tetap perlu meninjau pengaturan ruang kerja, praktik retensi data, kontrol berbagi, serta kebijakan internal sebelum memasukkan informasi rahasia ke alat AI apa pun.

Intinya: perlakukan chat AI konsumen sebagai layanan dengan pengaturan data

Project Lily, sebagaimana dilaporkan 404 Media, menjadi pengingat bahwa chat AI konsumen bukan kanal yang secara inheren rahasia. Untuk prompt yang berisi informasi pribadi, hukum, medis, finansial, atau rahasia bisnis yang sangat sensitif, langkah praktis paling aman adalah menonaktifkan Improve the model for everyone sebelum memulai percakapan baru. 221

Memilih keluar mengatur penggunaan percakapan baru oleh OpenAI untuk peningkatan model. Opsi ini bukan permintaan yang ditulis di dalam prompt, dan dokumentasi OpenAI tidak menjelaskannya sebagai cara untuk menarik kembali materi yang sudah dikirimkan. 2130