OpenAI Uji Private Safety Processing: Deteksi Penyalahgunaan AI Tanpa Menyimpan Konten Pelanggan

OpenAI sedang memperkenalkan pratinjau Private Safety Processing, sebuah arsitektur keselamatan untuk pelanggan API yang memenuhi syarat Zero Data Retention (ZDR). Janji utamanya cukup jelas: menemukan pola penyalahgunaan yang baru terlihat setelah beberapa interaksi saling dikaitkan, tanpa memberikan akses bawaan kepada personel OpenAI terhadap konten pelanggan.

Hal ini semakin penting karena model AI kini digunakan dalam alur kerja yang panjang dan tersebar. Seseorang dapat membagi tujuan berbahaya ke sejumlah akun, sesi, atau permintaan agar tidak ada satu interaksi pun yang tampak cukup mencurigakan. Private Safety Processing dirancang untuk menambahkan konteks lintas interaksi tersebut, sambil mempertahankan perlindungan ZDR.

Bagaimana cara kerja Private Safety Processing?

Pada sistem ZDR yang sudah ada, permintaan dan respons umumnya dievaluasi satu per satu. Dalam pratinjau baru ini, sistem otomatis OpenAI menilai hubungan di antara beberapa interaksi terkait untuk mencari pola yang berpotensi menunjukkan penyalahgunaan. Contohnya termasuk upaya menghindari pengaman atau membagi tahapan pengembangan malware ke dalam beberapa permintaan terpisah.

Kuncinya adalah membedakan analisis dari penyimpanan. OpenAI mengatakan Private Safety Processing dapat menganalisis aktivitas terkait untuk tujuan keselamatan, tetapi prompt dan respons model yang menjadi dasar analisis tidak ditampilkan kepada personelnya melalui sistem tersebut.

OpenAI menjelaskan dua kemungkinan pengaturan pengelolaan data untuk penerapan ZDR:

• Konten pelanggan tetap berada di infrastruktur yang dikendalikan pelanggan.
• Jika konten disimpan di infrastruktur OpenAI, data tersebut dapat dienkripsi menggunakan kunci yang dikendalikan pelanggan, bukan personel OpenAI.

Dalam kedua skenario, sistem otomatis dapat menemukan indikasi penyalahgunaan dan mengembalikan sinyal keselamatan terbatas tanpa membuka prompt atau respons yang mendasarinya.

Informasi apa yang diterima OpenAI ketika ancaman terdeteksi?

Menurut penjelasan pratinjau tersebut, OpenAI menerima peringatan yang dibatasi secara ketat mengenai jenis aktivitas yang terlibat. Diagram sistem OpenAI menggambarkan keluaran ini sebagai kategori peringatan dan tingkat keparahan—bukan isi percakapan.

Alurnya secara praktis adalah sebagai berikut:

1. Sistem otomatis memeriksa sejumlah interaksi terkait untuk mencari pola yang berpotensi berbahaya.
2. Jika pola tersebut melewati ambang risiko, sistem membuat klasifikasi keselamatan terbatas.
3. OpenAI menerima klasifikasi itu, bukan prompt, output, atau transkrip percakapan.
4. Pelanggan tetap dapat menyelidiki aktivitas yang mendasari sinyal tersebut di lingkungan mereka sendiri.

Karena masih berupa pratinjau, detail implementasi, ambang risiko, dan prosedur penanganan kesalahan akan menjadi pertimbangan penting bagi pembeli perusahaan. OpenAI menyatakan ingin memulai peluncuran yang lebih luas dan menerbitkan makalah teknis pada September 2026.

Mengapa personel OpenAI biasanya tidak dapat membaca percakapan yang ditandai?

Tanda keselamatan tidak otomatis memberi akses kepada staf OpenAI untuk membuka percakapan. Dalam pengaturan ZDR yang dijelaskan, OpenAI mengatakan pihaknya tidak menyimpan konten pelanggan. Pada skenario penyimpanan di infrastruktur OpenAI, kunci dekripsi juga dikendalikan pelanggan, bukan personel OpenAI.

Pelanggan tetap dapat membagikan materi yang relevan secara sukarela jika ingin mengajukan banding atas tindakan penegakan, menjelaskan bahwa penggunaan tersebut sah, atau membantu penyelidikan dugaan penyalahgunaan yang telah dikonfirmasi. Tanpa pengungkapan sukarela itu, OpenAI hanya menerima informasi keselamatan yang dibuat mesin.

Dengan demikian, desain ini memisahkan bukti yang dikendalikan pelanggan dari sinyal risiko di tingkat penyedia. Pendekatan tersebut berpotensi mengurangi jumlah data sensitif yang harus ditangani penyedia, sekaligus membantu menemukan pola yang mungkin luput dari penyaring yang hanya memeriksa permintaan secara terpisah.

Siapa yang menguji fitur ini?

OpenAI menyebut Glean, Databricks, Abridge, dan Microsoft sebagai pelanggan yang membantu membentuk atau menguji pratinjau Private Safety Processing. Laporan lain juga menyebut Microsoft dan Databricks sebagai pelanggan awal yang terlibat dalam pengujian.

Fitur ini tidak diposisikan sebagai pengaturan umum bagi konsumen. Sasarannya adalah penerapan API yang memenuhi syarat, terutama bagi organisasi yang ingin menggunakan model canggih sambil mempertahankan kendali ketat atas prompt dan output.

OpenAI dan Anthropic mengambil kompromi keselamatan yang berbeda

Pendekatan OpenAI berusaha mendeteksi penyalahgunaan dengan membatasi akses penyedia terhadap konten pelanggan. Anthropic mengambil kompromi operasional yang berbeda untuk model-model yang tercakup dalam kebijakannya: prompt dan output disimpan selama 30 hari untuk mendukung pekerjaan keselamatan, termasuk peninjauan manusia secara terkendali.

Dokumentasi Anthropic menyatakan ketentuan 30 hari berlaku untuk model yang tercakup, termasuk model kelas Mythos, dan model tersebut tidak tersedia dalam skema ZDR. Anthropic juga mengatakan data yang disimpan tidak digunakan untuk melatih model tanpa izin tegas dari pelanggan.

Perbedaan praktisnya adalah:

• Private Safety Processing OpenAI: sistem otomatis menganalisis pola di antara sejumlah interaksi; menurut penjelasan pratinjaunya, OpenAI menerima sinyal keselamatan terbatas, bukan konten yang mendasarinya.
• Kebijakan model tercakup Anthropic: prompt dan output disimpan selama 30 hari agar dapat mendukung pekerjaan keselamatan dan peninjauan terkendali.

Tidak satu pun pendekatan menghapus kebutuhan akan tata kelola di sisi pelanggan. Sebelum memasukkan data sensitif, organisasi tetap perlu memeriksa kelayakan model, arsitektur penerapan, kontrol akses, ketentuan penyimpanan, lokasi pemrosesan, prosedur banding, dan komitmen kontraktual.

Mengapa perbedaan ini penting bagi perusahaan yang teregulasi?

Perusahaan di sektor keuangan, kesehatan, dan hukum dapat menangani informasi yang terikat kewajiban kerahasiaan, aturan privasi, kontrak, atau tanggung jawab profesional. Kemampuan penyedia untuk menyimpan dan berpotensi meninjau prompt dapat memengaruhi analisis minimisasi data, persetujuan internal, rancangan audit, serta penilaian risiko vendor.

Namun, kebijakan penyimpanan 30 hari tidak otomatis berarti suatu penerapan dilarang, dan ZDR sendiri tidak otomatis menjadikan suatu penggunaan patuh terhadap semua aturan. Perbedaannya adalah jenis pertanyaan yang harus dijawab tim keamanan dan hukum. Ketentuan model tercakup Anthropic mengharuskan organisasi memperhitungkan penyimpanan dan peninjauan oleh penyedia, sementara OpenAI memosisikan ZDR dan Private Safety Processing sebagai cara untuk membatasi akses penyedia terhadap konten itu sendiri.

Bagi pembeli perusahaan, pertanyaan pentingnya meliputi:

• Apakah model dan penerapannya memenuhi syarat ZDR?
• Di mana konten diproses dan, jika disimpan, siapa yang mengendalikan kunci enkripsi?
• Kolom apa saja yang muncul dalam peringatan keselamatan?
• Bisakah pelanggan mengaudit atau menggugat sebuah tanda tanpa menyerahkan percakapan lengkap?
• Apa yang terjadi ketika penyedia mencurigai penyalahgunaan serius?
• Apakah ketentuan penyimpanan dan peninjauan penyedia sesuai dengan kewajiban kontraktual serta regulasi organisasi?

Privasi menjadi bagian dari produk keselamatan AI

Private Safety Processing menunjukkan bahwa privasi kini bukan hanya persoalan hukum atau kontrak, tetapi juga bagian dari desain produk keselamatan AI. Tantangannya bukan lagi sekadar apakah model mampu menolak permintaan berbahaya, melainkan apakah penyedia dapat mengenali penyalahgunaan terkoordinasi dalam alur kerja panjang tanpa harus mengakses setiap percakapan pelanggan.

Pratinjau OpenAI menawarkan satu jawaban: menjaga konten tetap berada di infrastruktur pelanggan atau melindunginya dengan kunci yang dipegang pelanggan, menggunakan sistem otomatis untuk menemukan pola lintas interaksi, lalu mengirimkan klasifikasi risiko yang terbatas kepada penyedia.

Kebijakan Anthropic untuk model tercakup menawarkan jawaban lain: menyimpan prompt dan output yang relevan selama periode terbatas agar tim keselamatan dapat menyelidikinya, dengan peninjauan terkendali dan batasan bahwa data tidak digunakan untuk pelatihan model tanpa izin.

Perbedaan ini juga muncul ketika kedua perusahaan berlomba mendapatkan pertumbuhan perusahaan dan perhatian investor. Anthropic dilaporkan memiliki pendapatan tahunan tersetahunkan sebesar lebih dari 65 miliar dolar AS pada akhir Juli 2026, sementara angka untuk OpenAI dilaporkan sekitar 40 miliar dolar AS. Pendapatan awal Anthropic pada kuartal II 2026 juga dilaporkan menembus 11,5 miliar dolar AS.

Sejumlah laporan menyebut investor membayangkan valuasi IPO Anthropic dapat mencapai 2 triliun dolar AS, tetapi angka tersebut merupakan ekspektasi pasar privat, bukan valuasi publik yang telah ditetapkan. Klaim mengenai pengajuan S-1 rahasia OpenAI pada Juni 2026 juga belum dapat dipastikan dari sumber tepercaya yang tersedia; laporan yang terdokumentasi justru mengaitkan pengajuan rahasia tersebut dengan Anthropic. Karena itu, perbandingan mengenai pertumbuhan kuartal II OpenAI sebaiknya diperlakukan sebagai laporan awal, bukan pengungkapan keuangan publik yang telah diaudit.

Pada akhirnya, pilihan antara kedua model keselamatan ini akan bergantung pada tingkat risiko yang dapat diterima pelanggan, sensitivitas beban kerja, dan seberapa besar visibilitas investigasi yang dianggap perlu dari penyedia model frontier. Peluncuran yang lebih luas serta makalah teknis OpenAI yang dijanjikan akan menjadi penentu penting untuk menilai bagaimana klaim privasi tersebut bekerja dalam penerapan nyata.