OpenAI Ingin Mendeteksi Penyalahgunaan AI tanpa Mengorbankan Privasi Data Perusahaan

OpenAI sedang menguji cara baru untuk memantau penyalahgunaan model AI canggih tanpa menghapus janji Zero Data Retention (ZDR) bagi penerapan perusahaan yang memenuhi syarat. Diumumkan pada 19 Agustus 2026, Private Safety Processing dirancang untuk mengenali pola risiko dari beberapa interaksi terkait—bukan menilai setiap permintaan secara terpisah—sementara isi data pelanggan tetap tidak dapat diakses oleh staf OpenAI. 31

Gagasan ini menjawab dilema penting bagi perusahaan: tim keamanan membutuhkan visibilitas yang cukup untuk menemukan penyalahgunaan yang berkembang secara bertahap, tetapi perusahaan di sektor yang teregulasi atau sensitif terhadap keamanan biasanya tidak ingin penyedia model menyimpan prompt dan output mereka.

Apa yang berubah dari pendekatan ZDR?

Sistem keamanan yang kompatibel dengan ZDR secara tradisional mengevaluasi setiap interaksi secara individual. Cara ini dapat melewatkan serangan terdistribusi—ketika tidak ada satu pun prompt yang terlihat jelas berbahaya, tetapi rangkaian permintaan yang saling terkait perlahan mendukung tujuan yang merugikan.

OpenAI mengatakan versi pratinjau ini memperluas perlindungan otomatis ke sejumlah interaksi terkait agar sistem dapat menemukan pola yang lebih luas, termasuk aktivitas yang berhubungan dengan upaya peretasan oleh manusia maupun agen AI yang tidak selaras. 31

Dalam praktiknya, serangkaian permintaan yang tampak wajar jika dilihat satu per satu bisa membentuk pola risiko ketika dianalisis bersama. Contohnya adalah alur kerja yang berpotensi berkaitan dengan pengembangan malware atau aktivitas penyusupan sistem. Namun, sumber yang tersedia hanya menjelaskan kemampuan untuk mendeteksi pola lintas interaksi—bukan bukti bahwa fitur ini dapat mengenali setiap kampanye semacam itu secara andal.

Data apa yang dapat dilihat OpenAI?

Batas privasi utamanya adalah analisis dilakukan secara otomatis tanpa membuka prompt dan respons model kepada staf OpenAI. Jika muncul potensi masalah, OpenAI mengatakan sistem hanya mengirim sinyal keamanan yang didefinisikan secara terbatas, bukan isi percakapan mentah. 310

Menurut laporan mengenai fitur ini, data pelanggan dapat tetap berada di infrastruktur yang dikendalikan pelanggan atau dilindungi dengan kunci enkripsi yang hanya dimiliki pelanggan. 157 Arsitektur tersebut ditujukan untuk mempertahankan manfaat kerahasiaan yang biasanya dicari perusahaan melalui ZDR, sembari memberi OpenAI informasi yang cukup untuk menindaklanjuti dugaan masalah keamanan.

Meski demikian, sistem ini tetap dapat menimbulkan konsekuensi operasional. Sebuah sinyal dapat berujung pada tindakan keamanan terhadap akun atau permintaan agar pelanggan melakukan penyelidikan. Pelanggan juga dapat secara sukarela memberikan konteks yang relevan ketika mengajukan keberatan atas penandaan atau membantu investigasi. Namun, pratinjau ini tidak dijelaskan sebagai mekanisme yang memberi OpenAI akses otomatis ke percakapan yang disimpan pelanggan. 23

Pertanyaan yang belum terjawab

Private Safety Processing masih diuji bersama sejumlah pelanggan awal, bukan layanan yang sudah mapan dan tersedia secara luas. 35 Karena itu, pengumuman tersebut belum menjawab beberapa pertanyaan penting:

• Seberapa akurat sinyal risiko lintas percakapan?
• Seberapa sering aktivitas perusahaan yang sah dapat memicu kesalahan deteksi?
• Tindakan akun apa yang akan diterapkan untuk tiap kategori risiko?
• Bagaimana pelanggan dapat mengaudit atau menggugat sebuah sinyal jika OpenAI tidak dapat melihat isi dasarnya?
• Dokumentasi teknis apa yang akan diterima pelanggan sebelum peluncuran yang lebih luas?

Dengan demikian, klaim fitur ini lebih terbatas daripada anggapan bahwa “keamanan yang menjaga privasi” otomatis dapat menyelesaikan seluruh masalah penyalahgunaan AI. OpenAI sedang menguji apakah sinyal terbatas dapat membantu mendeteksi penyalahgunaan tanpa perlu menerapkan model penguasaan data dan peninjauan manusia yang biasanya muncul ketika lalu lintas pelanggan disimpan.

Berbeda dari kebijakan Anthropic

Anthropic mengambil pendekatan yang lebih berorientasi pada penyimpanan untuk model-model yang tercakup dalam kebijakannya. Prompt yang dikirim ke model tercakup dan output yang dihasilkan—termasuk model kelas Mythos serta model masa depan dengan kemampuan serupa—wajib disimpan selama 30 hari untuk keperluan keamanan.

Anthropic mengatakan data tersebut tidak digunakan untuk melatih model Claude baru atau untuk tujuan di luar keamanan. Perlindungan yang dipublikasikan mencakup pembatasan akses, pencatatan setiap akses manusia, serta penghapusan data setelah 30 hari dalam hampir semua kasus.

Model retensi ini memberi tim keamanan Anthropic jendela waktu untuk meninjau kembali aktivitas, menyelidiki serangan yang kompleks, dan memeriksa kemungkinan kesalahan deteksi. Namun, bagi pelanggan, pendekatan tersebut juga menambah kewajiban tata kelola data dan kepatuhan.

Laporan mengenai perubahan yang direncanakan menyebut Anthropic akan tetap mewajibkan retensi selama 30 hari, tetapi memberi pelanggan perusahaan opsi untuk menyimpan data di infrastruktur cloud mereka sendiri. Langkah ini dapat mengurangi kekhawatiran mengenai siapa yang memegang data, tetapi tidak menghapus kewajiban retensi itu sendiri.

Dua pilihan dengan pertukaran yang berbeda

Kedua perusahaan membuat pilihan desain yang berbeda:

• OpenAI: menganalisis interaksi terkait secara otomatis dan hanya mengirim sinyal keamanan terbatas, sehingga akses penyedia terhadap isi data pelanggan dapat diminimalkan.
• Anthropic: menyimpan lalu lintas model yang tercakup selama 30 hari dengan akses terkontrol, sehingga lebih banyak informasi tersedia untuk investigasi dan peninjauan.

Pendekatan OpenAI mungkin lebih menarik bagi perusahaan yang aturan pengadaannya sangat membatasi penyimpanan konten oleh penyedia. Kelemahannya, sinyal yang minim dapat menyediakan lebih sedikit bukti ketika terjadi insiden yang diperdebatkan atau sulit ditafsirkan.

Sebaliknya, pendekatan Anthropic dapat menawarkan visibilitas forensik yang lebih kuat, tetapi membawa beban retensi dan kepatuhan—bahkan ketika pelanggan sebenarnya menginginkan skema tanpa penyimpanan sama sekali.

Tidak satu pun pendekatan menghilangkan persoalan keamanan yang mendasarinya. Penyalahgunaan bertahap dapat sulit dibedakan dari riset yang sah, sementara perlindungan privasi dapat membatasi bukti yang tersedia bagi penyelidik manusia. Ujian penting bagi pratinjau OpenAI ini adalah apakah sinyal otomatisnya cukup akurat untuk mendukung penegakan aturan tanpa memerlukan akses ke konten yang diringkasnya.

Mengapa pengumuman ini penting bagi persaingan OpenAI dan Anthropic?

Perbedaan kebijakan privasi ini muncul ketika OpenAI dan Anthropic semakin agresif memperebutkan pelanggan perusahaan serta pengguna model AI terdepan. Pendapatan tahunan Anthropic yang diproyeksikan berdasarkan kinerja terkini dilaporkan telah melampaui US$65 miliar pada akhir Juli. Angka tersebut adalah run rate, bukan pendapatan setahun penuh yang sudah dibukukan.

Investor juga dilaporkan membicarakan valuasi Anthropic sebesar US$2 triliun atau lebih dalam kemungkinan penawaran saham perdana. Itu merupakan ekspektasi yang diberitakan oleh sumber eksternal, bukan valuasi yang sudah pasti atau IPO yang telah selesai.

Angka-angka finansial itu memberi konteks, tetapi tidak membuktikan bahwa Private Safety Processing dibuat semata-mata sebagai respons kompetitif. Kesimpulan yang lebih kuat adalah bahwa pengumuman OpenAI menyasar persoalan nyata dalam proses pengadaan teknologi perusahaan: bagaimana memakai model berkemampuan tinggi dengan pemantauan penyalahgunaan yang lebih baik, sambil membatasi akses penyedia terhadap data bisnis rahasia.

Sumber yang tersedia belum menetapkan jadwal atau ketentuan pasti mengenai IPO OpenAI. Karena itu, klaim bahwa OpenAI akan segera melantai di bursa atau telah memiliki rencana pencatatan final memerlukan konfirmasi terpisah.

Kesimpulan

Private Safety Processing adalah upaya OpenAI memperluas ZDR dari penyaringan satu interaksi menjadi pemantauan keamanan lintas percakapan, tanpa menyimpan prompt dan output pelanggan sebagai konten yang dapat diakses personelnya. Sistem ini dirancang untuk menghasilkan sinyal keamanan yang didefinisikan secara terbatas, sementara kerja sama lanjutan dari pelanggan disebut bersifat sukarela.

Pendekatan tersebut menjanjikan alternatif yang lebih mengutamakan privasi dibandingkan model retensi Anthropic selama 30 hari. Namun, fitur ini masih berupa pratinjau. Perusahaan yang mempertimbangkan penggunaannya sebaiknya menunggu bukti lebih lanjut mengenai akurasi deteksi, tingkat kesalahan positif, kemampuan audit, dan proses penegakan aturan di dunia nyata.