Project Lily: Kontraktor Dilapor Menilai Perbualan Sebenar ChatGPT

Laporan siasatan 404 Media mengenai Project Lily mendakwa OpenAI menggunakan operasi maklum balas manusia yang melibatkan perbualan sebenar pengguna ChatGPT. Berdasarkan bahan dalaman yang bocor, contoh arahan pengguna dan kenyataan syarikat yang diteliti oleh 404 Media, kontraktor luar boleh membaca konteks perbualan untuk menilai jawapan model—termasuk apabila sembang itu mengandungi butiran peribadi yang sensitif. 1

Bagi sesiapa yang menggunakan ChatGPT untuk hal peribadi, kesihatan, hubungan, undang-undang atau kerja, perkara utama yang perlu difahami ialah: meminta chatbot supaya “merahsiakannya” bukanlah kawalan akses. Tetapan yang relevan ialah sama ada akaun anda membenarkan perbualan baharu digunakan untuk menambah baik model. 1

Apa yang penilai Project Lily dilaporkan lakukan

404 Media melaporkan bahawa ratusan kontraktor, yang diambil melalui firma penempatan tenaga kerja dan dibayar lebih daripada AS$50 sejam, menilai aliran besar perbualan ChatGPT sebenar. Tugasan mereka dilaporkan termasuk:

• merumuskan niat pengguna;
• membandingkan empat jawapan calon daripada model;
• memberikan skor 1 hingga 7; dan
• mengenal pasti perkara yang menjadikan jawapan kurang berguna atau kurang boleh dipercayai. 1

Kriteria penilaian itu dilaporkan menumpukan pada mutu dan gaya jawapan ChatGPT. Penilai diarahkan menandakan bahasa yang kedengaran seperti AI, dakwaan fakta yang salah, bahasa yang terlalu mengiyakan atau memuji pengguna, isu keselamatan, serta jawapan yang secara palsu membayangkan model mempunyai pengalaman atau emosi peribadi. 1

Maklum balas manusia ini bertujuan menjadikan respons lebih natural dan kurang mekanikal. Namun, proses penambahbaikan tersebut juga boleh melibatkan akses manusia kepada kandungan sebenar perbualan pengguna. 1

Nama pengguna dibuang, tetapi konteks masih boleh mendedahkan identiti

OpenAI memberitahu 404 Media bahawa nama pengguna disingkirkan dan Penapis Privasi digunakan sebelum bahan dihantar kepada penilai. Namun, siasatan itu menemui contoh bahan semakan yang boleh mengandungi konteks penuh perbualan serta ringkasan memori yang dijana model. Ringkasan itu dilaporkan merangkumi butiran seperti anggaran lokasi, profesion dan keadaan hidup yang sangat peribadi. 1

Membuang nama atau pengecam akaun tidak semestinya menjadikan sesuatu sembang benar-benar tanpa identiti. Gabungan peristiwa hidup, butiran kerja, lokasi atau rujukan yang luar biasa mungkin masih boleh dikenali oleh orang yang mengenali pengguna—atau sekurang-kurangnya terlalu sensitif untuk didedahkan. 404 Media melaporkan bahawa OpenAI mengakui penapis boleh menghadapi kesukaran mengesan pengecam yang jarang ditemui serta rujukan peribadi yang kabur atau bergantung pada konteks. 1

“Rahsiakan antara kita” tidak menghalang semakan manusia

Arahan kepada ChatGPT untuk merahsiakan sesuatu ialah arahan dalam kandungan perbualan, bukannya pilihan privasi akaun. Arahan itu tidak mengatasi tetapan penggunaan data anda dan tidak menghalang sembang daripada dipilih untuk aliran kerja penambahbaikan yang dilaporkan 404 Media. 1

Justeru, jangan anggap chatbot pengguna sebagai saluran sulit semata-mata kerana perbualan terasa peribadi. Jika sesuatu maklumat akan memudaratkan anda sekiranya dilihat oleh penilai yang dibenarkan, lebih selamat untuk tidak memasukkannya dalam ruang kerja peribadi apabila penambahbaikan model masih diaktifkan.

Cara menghentikan penggunaan perbualan ChatGPT baharu untuk penambahbaikan model

Dokumentasi Data Controls OpenAI menyatakan pengguna ruang kerja peribadi boleh mematikan penambahbaikan model melalui:

1. Profil → Settings
2. Data Controls
3. Matikan “Improve the model for everyone”

Apabila tetapan itu dimatikan, perbualan baharu masih kekal dalam sejarah sembang, tetapi tidak digunakan untuk melatih atau menambah baik model ChatGPT. Tetapan ini digunakan pada peringkat akaun, bukan bagi satu peranti tertentu sahaja.

Masa anda mematikan tetapan ini penting. OpenAI menyatakan pilihan keluar itu terpakai pada perbualan baharu dan tidak menarik balik perbualan yang telah diserahkan ketika penambahbaikan model masih diaktifkan.

Perbezaan untuk pengguna Business, Enterprise dan Edu

OpenAI menyatakan input dan output daripada ChatGPT Business, Enterprise, Edu serta Platform API tidak digunakan untuk melatih model secara lalai. Sebaliknya, perkongsian untuk penambahbaikan model diaktifkan secara lalai bagi pengguna ChatGPT Free, Plus dan Pro dalam ruang kerja peribadi, walaupun mereka boleh memilih keluar menerusi Data Controls.

Perbezaan ini tidak menghapuskan semua kewajipan tadbir urus data organisasi. Pasukan masih perlu mematuhi polisi majikan dan menyemak tetapan ruang kerja yang terpakai. Namun, ia merupakan perbezaan penting berbanding layanan lalai terhadap sembang pengguna biasa.

Adakah OpenAI sahaja menggunakan semakan manusia?

Tidak. Dasar privasi Anthropic menyatakan syarikat itu boleh melatih dan menambah baik model menggunakan input serta output yang disediakan pengguna atau pekerja ramai, kecuali pengguna memilih keluar. Satu kajian akademik tentang amalan privasi penyedia AI utama juga mendapati Google dan OpenAI masing-masing membincangkan semakan manusia terhadap sembang pengguna bagi latihan atau penambahbaikan model.

Isu lebih besar bukan sama ada maklum balas manusia wujud, tetapi sama ada pengguna benar-benar faham bila perbualan mereka boleh memasuki proses itu, batas perlindungan penyahpengenalan, dan cara menukar tetapan yang berkenaan.

Rumusan praktikal tentang privasi

Project Lily, seperti yang dilaporkan 404 Media, mengingatkan bahawa sembang AI pengguna bukan secara automatik pertukaran sulit satu dengan satu. Langkah penyahpengenalan boleh mengurangkan pendedahan, tetapi tidak semestinya mampu membuang setiap butiran yang boleh mengenal pasti seseorang daripada perbualan yang kaya dengan konteks peribadi. 1

Sebelum berkongsi maklumat sensitif dalam ChatGPT, semak Settings → Data Controls → Improve the model for everyone. Jika penambahbaikan model diaktifkan, anggap sembang baharu berpotensi layak digunakan untuk memperbaik perkhidmatan. Jika dimatikan, OpenAI menyatakan perbualan baharu tidak akan digunakan bagi tujuan itu.