Project Lily: Kontraktor Dilaporkan Membaca Perbualan ChatGPT Sebenar

Laporan 404 Media mengenai inisiatif dalaman OpenAI yang dikenali sebagai Project Lily menggambarkan program maklum balas manusia yang tersusun, menggunakan perbualan ChatGPT pengguna sebenar. Isu privasi utamanya bukan sekadar chat mungkin digunakan untuk menambah baik model: menurut laporan itu, kontraktor luar boleh membaca bahan perbualan yang nama pengguna telah dibuang, tetapi masih mengandungi konteks yang sangat peribadi. 2

Apa yang Project Lily dilaporkan lakukan

Berdasarkan bahan bocor yang diteliti 404 Media, OpenAI mengambil ratusan kontraktor melalui firma pengambilan pekerja untuk menyemak arahan pengguna dan respons ChatGPT sebenar. Kerja itu dilaporkan dibayar melebihi AS$50 sejam. Penyemak perlu merumuskan niat pengguna, membandingkan empat calon respons, kemudian memberi markah pada skala 1 hingga 7. 2

Matlamat yang dilaporkan adalah untuk meningkatkan mutu respons—terutamanya supaya ChatGPT kedengaran kurang robotik, mengurangkan dakwaan yang terlalu menyerupai manusia, serta mengekang kecenderungan terlalu bersetuju atau memuji pengguna. Maklum balas manusia memang lazim digunakan dalam pembangunan AI, tetapi penggunaan perbualan pengguna sebenar menjadikan persoalan privasi lebih dekat dan nyata. 2

Maklumat yang mungkin dilihat oleh penyemak

404 Media melaporkan bahawa penyemak boleh menerima pertukaran mesej penuh dan, dalam sesetengah kes, ringkasan memori pengguna. Nama pengguna dilaporkan tidak dipaparkan, namun konteks yang tersedia masih boleh mendedahkan lokasi anggaran, pekerjaan, minat terdahulu dan keadaan peribadi seseorang. 2

Perbezaan ini penting: membuang nama tidak semestinya menjadikan sesuatu perbualan benar-benar anonim atau tidak sensitif. Gabungan butiran seperti pekerjaan, situasi keluarga, isu kesihatan atau peristiwa yang unik tetap boleh bersifat sangat peribadi, walaupun tidak mengenal pasti pemegang akaun secara langsung.

Peranan Privacy Filter OpenAI

OpenAI menyatakan bahawa Privacy Filter ialah model untuk mengesan dan menyunting maklumat pengenalan peribadi (personally identifiable information, PII) dalam teks. 4647

Dalam laporan Project Lily, OpenAI berkata ia membuang nama pengguna dan menggunakan penapis automatik sebelum bahan dihantar kepada kontraktor. Namun, 404 Media melaporkan bahawa butiran sensitif masih boleh kekal dalam perbualan yang disemak walaupun langkah tersebut digunakan. 2

Ini menunjukkan batas penapisan automatik. Sistem mungkin dapat mengenal pasti penanda yang jelas seperti nama, alamat e-mel atau nombor telefon, tetapi konteks yang lebih tersirat—atau gabungan beberapa maklumat biasa—jauh lebih sukar dikelaskan dengan tepat.

Perkara yang dilaporkan perlu ditanda oleh penyemak

Garis panduan yang dilaporkan itu bukan hanya menilai sama ada jawapan betul atau salah. Kontraktor juga dilaporkan diminta mengenal pasti masalah seperti:

• Gaya bahasa formulaik atau tidak semula jadi, iaitu “AI-speak”
• Dakwaan yang membayangkan AI mempunyai perasaan atau pengalaman hidup
• Persetujuan, pujian atau sikap terlalu mengampu pengguna
• Kesilapan fakta
• Pendedahan maklumat peribadi
• Kebimbangan keselamatan 2

Tumpuan terhadap sikap terlalu bersetuju ini penting. Model yang terlalu cepat mengesahkan pandangan pengguna mungkin kelihatan menyokong, tetapi boleh gagal mencabar andaian yang salah, berisiko atau memudaratkan. Project Lily dilaporkan bertujuan, antara lain, untuk melaras tingkah laku tersebut. 2

Mengapa ayat “rahsia antara kita” bukan tetapan privasi

Menulis permintaan supaya chat dirahsiakan dalam arahan tidak mengubah kawalan data pada akaun anda. Ia hanyalah kandungan dalam perbualan, bukannya arahan teknikal yang boleh mengatasi tetapan penggunaan data OpenAI.

Bagi ruang kerja ChatGPT peribadi, kawalan yang didokumenkan OpenAI ialah Improve the model for everyone. Apabila ia dihidupkan, chat boleh digunakan untuk menambah baik model. Apabila dimatikan, OpenAI menyatakan ia tidak akan melatih model menggunakan perbualan baharu. 2130

Cara menghalang chat baharu digunakan untuk penambahbaikan model

Bagi pengguna yang telah log masuk, arahan OpenAI adalah seperti berikut:

1. Buka menu profil dalam ChatGPT.
2. Pilih Settings.
3. Buka Data Controls.
4. Matikan Improve the model for everyone. 1921

Tetapan ini terpakai pada akaun, bukan pada satu peranti tertentu. Sejarah chat sedia ada masih boleh kekal selepas anda mematikannya, tetapi OpenAI menyatakan perbualan baharu tidak akan digunakan untuk melatih modelnya. 1930

OpenAI turut menyediakan pilihan Do not train on my content menerusi portal privasinya. Syarikat itu menyatakan bahawa pilihan tersebut atau tetapan Data Controls dalam aplikasi sudah memadai untuk tugas ChatGPT dan Codex; pengguna tidak perlu menggunakan kedua-duanya. 21

Pelan manakah yang mempunyai perlindungan lalai?

OpenAI menyatakan ruang kerja peribadi Free, Plus dan Pro mempunyai perkongsian data untuk latihan model yang dihidupkan secara lalai, walaupun pengguna boleh memilih untuk tidak menyertainya. Bagi ChatGPT Business, Enterprise, Edu dan API Platform, OpenAI menyatakan input serta output yang diberikan tidak digunakan untuk melatih model secara lalai. 23

Namun, ini tidak bermakna setiap perbualan perniagaan automatik bebas risiko bagi semua tujuan. Organisasi masih patut menyemak tetapan ruang kerja, amalan penyimpanan data, kawalan perkongsian dan dasar dalaman sebelum memasukkan maklumat sulit ke dalam mana-mana alat AI.

Kesimpulan praktikal

Project Lily, seperti yang dilaporkan oleh 404 Media, ialah peringatan bahawa chat AI pengguna patut dilihat sebagai perkhidmatan dengan tetapan penggunaan data yang boleh dikawal—bukan sebagai saluran yang secara semula jadi sulit. Jika arahan anda mengandungi maklumat peribadi yang sangat sensitif, atau butiran undang-undang, perubatan, kewangan atau proprietari, langkah segera yang paling selamat ialah mematikan Improve the model for everyone sebelum memulakan perbualan baharu. 221

Memilih untuk tidak menyertai hanya mengawal penggunaan oleh OpenAI terhadap perbualan baharu bagi penambahbaikan model. Ia bukan permintaan yang boleh dimasukkan ke dalam arahan, dan dokumentasi OpenAI tidak menerangkannya sebagai cara untuk menarik balik bahan yang telah dihantar sebelum ini. 2130