Watermark AI Claude Dibobol dalam Hitungan Jam: Apa Artinya bagi Asal-Usul Teks?

Bagaimana alat penghapus tersebut menargetkan watermark?

Watermark teks Claude bukan lapisan karakter tak kasatmata yang bisa dihapus begitu saja. Anthropic menjelaskannya sebagai pola statistik dalam cara model memilih kata atau token. Pemeriksa dengan metode deteksi yang sesuai kemudian menilai apakah rangkaian kata tersebut secara statistik konsisten dengan proses generasi Claude.

Pendekatan Meyer dilaporkan menggunakan model bahasa yang tidak memiliki watermark untuk menghasilkan beberapa versi penulisan ulang. Model itu mengganti sinonim dan mengatur ulang susunan kalimat sembari berusaha mempertahankan makna. Perubahan tersebut menargetkan pola pemilihan kata yang menjadi dasar watermark.

Alat berbasis peramban yang dibahas dalam pemberitaan bekerja pada lapisan yang berbeda. Salah satunya menghapus karakter Unicode tak terlihat atau karakter yang tampak mirip, mengubah urutan kalimat, dan mengganti sinonim. Merangkum teks, atau menerjemahkannya ke bahasa lain lalu menerjemahkannya kembali, juga disebut sebagai cara untuk mengganggu pola statistik.

Namun, metode-metode itu tidak boleh disamakan dengan menghapus watermark inti pada teks Claude. Anthropic menyatakan watermark tersebut bukan data berupa karakter tersembunyi dan bukan metadata teks tambahan.

Apa yang bisa dan tidak bisa dibuktikan oleh watermark Claude?

Anthropic mengatakan sistemnya didasarkan pada versi pendekatan SynthID-Text dari Google DeepMind. Saat membuat pilihan kata berikutnya yang berisiko rendah, Claude menggunakan keacakan berbasis kunci rahasia yang berkaitan dengan kata-kata sebelumnya. Pemeriksa kemudian dapat memperkirakan apakah susunan teks tersebut secara statistik konsisten dengan pilihan Claude.

Menurut Anthropic, watermark dirancang agar:

• tidak terlihat oleh pembaca;
• tidak menambahkan karakter atau token;
• tidak mengubah makna, kualitas, kreativitas, keterbacaan, maupun biaya penggunaan secara praktis; dan
• tidak memuat informasi identitas.

Watermark itu tidak dapat dilacak ke orang, organisasi, atau percakapan tertentu.

Karena itu, watermark lebih tepat dipahami sebagai sinyal atribusi, bukan sidik jari pribadi. Anthropic menggambarkan deteksi sebagai probabilitas bahwa Claude terlibat dalam penulisan sebuah teks. Hasil positif tidak dapat membuktikan siapa penulisnya, membuktikan bahwa manusia tidak menulisnya, mengidentifikasi keluaran model lain, atau menilai teks pendek secara andal.

Perbedaan ini penting ketika Claude digunakan untuk memeriksa tata bahasa, menyunting ringan, meringkas, atau menerjemahkan. Anthropic menyatakan teks yang hanya diedit sedikit dapat mempertahankan watermark pada beberapa kata yang dipilih Claude, tetapi sinyalnya mungkin terlalu sedikit untuk dideteksi secara andal.

Mengapa pengembang mempersoalkan deteksi sebagai bukti kepengarangan?

Kritik Meyer yang diberitakan bukan berarti ia menolak atribusi konten. Ia membedakan atribusi konten dari watermark tak terlihat yang dapat diperlakukan sebagai bukti untuk menuduh seseorang. Kekhawatirannya, sinyal probabilistik tidak mampu membedakan penggunaan AI secara substansial dari bantuan terbatas seperti pemeriksaan ejaan atau penyuntingan.

Kekhawatiran itu mencerminkan persoalan yang lebih luas mengenai asal-usul teks. Detektor mungkin menemukan bahwa sebuah tulisan secara statistik konsisten dengan keterlibatan Claude, tetapi tidak dapat menjawab berapa banyak bagian akhir yang berasal dari Claude, berapa banyak yang diubah manusia, atau siapa pencetus ide awalnya.

Setelah teks ditulis ulang secara substansial, diterjemahkan, dipadatkan, atau disusun kembali, batas antara “dibuat AI” dan “ditulis manusia dengan bantuan AI” menjadi semakin kabur. Hilangnya watermark dalam situasi seperti itu bisa menjadi konsekuensi teknis yang wajar, tetapi sekaligus membuat status asal-usul teks sulit ditentukan.

Bukti yang tersedia juga tidak menunjukkan bahwa watermark mengubah kepemilikan keluaran Claude atau hak substantif pengguna. Anthropic mempresentasikan sistem tersebut sebagai cara untuk memperkirakan kemungkinan keterlibatan Claude, bukan sebagai klaim kepemilikan.

Mengapa penulisan ulang melemahkan watermark statistik?

Watermark statistik bergantung pada pola yang tersebar di banyak pilihan kata. Jika teks tetap hampir sama, pola itu dapat ikut terbawa saat teks disalin dan ditempel, serta mungkin bertahan setelah penyuntingan tertentu. Namun, parafrasa, penerjemahan, atau penulisan ulang yang ekstensif dapat mengubah cukup banyak kata sehingga sinyalnya tidak lagi terdeteksi.

Peneliti yang dikutip Nature juga skeptis bahwa watermark teks dapat secara konsisten mencegah orang yang termotivasi untuk menulis ulang keluaran AI, termasuk dengan bantuan model bahasa lain. Kekhawatirannya, sinyal dapat dihilangkan sementara makna utama tulisan relatif tetap terjaga.

Hal ini tidak berarti watermark sama sekali tidak berguna. Watermark dapat menjadi petunjuk yang dapat dibaca mesin untuk pemeriksaan rutin, terutama ketika teks cukup panjang dan masih dekat dengan bentuk awal hasil generasi. Namun, teknologi ini jauh lebih lemah jika dipakai sebagai bukti permanen bahwa teks tidak berubah atau sebagai bukti mutlak mengenai siapa penulisnya.

Apa yang diwajibkan EU AI Act?

Ketentuan Uni Eropa yang relevan terutama membebankan kewajiban kepada penyedia sistem AI. Mereka harus memasukkan solusi teknis yang mendukung penandaan dan deteksi keluaran yang dibuat atau dimanipulasi AI dalam format yang dapat dibaca mesin, dengan mempertimbangkan kelayakan teknis. Undang-undang tersebut menyebut watermark dan teknik lain sebagai pilihan yang mungkin, bukan jaminan bahwa satu metode akan berhasil dalam setiap keadaan.

Sumber yang tersedia di sini tidak membuktikan adanya larangan umum dalam hukum Uni Eropa terhadap pihak ketiga yang membuat atau menggunakan alat untuk menghapus watermark. Sumber-sumber itu juga tidak menjelaskan alasan teknis Anthropic tidak sejak awal membatasi fitur tersebut hanya untuk pengguna di Uni Eropa. Pendekatan yang diumumkan perusahaan justru menerapkan penandaan secara global, di mana pun model Claude yang didukung ditawarkan.

Kesimpulan

Peluncuran watermark Claude menunjukkan manfaat sekaligus kerapuhan watermark teks AI. Penanda ini dapat berfungsi sebagai sinyal probabilistik bahwa Claude mungkin berkontribusi pada sebuah tulisan, tetapi bukan metadata tersembunyi, identitas pribadi, atau bukti konklusif bahwa Claude menulis teks akhirnya.

Kemunculan alat penulisan ulang—dimulai dari proyek Meyer hanya dalam empat jam—menunjukkan mengapa kewajiban penandaan yang dapat dibaca mesin dalam EU AI Act sebaiknya dipahami sebagai langkah transparansi, bukan rantai bukti asal-usul yang tak mungkin diputus.