Mengapa Gambar AI Makin Sulit Dilacak ke Data Latihnya?

Sebuah studi dari Computer Science and Artificial Intelligence Laboratory (CSAIL) di MIT mengidentifikasi tantangan bagi siapa pun yang ingin menelusuri gambar buatan AI hingga ke sumber tertentu: attribution decay atau peluruhan atribusi.

Ketika model difusi dilatih menggunakan semakin banyak gambar, pengaruh kausal satu contoh data terhadap keluaran tertentu dapat menyusut hingga sangat kecil. Dalam uji penghapusan yang terkontrol, menghilangkan gambar tersebut mungkin hampir tidak mengubah hasil yang dihasilkan model.

Namun, temuan ini tidak berarti model tidak pernah melihat gambar itu, tidak mampu menghasilkan gambar yang mirip, atau otomatis bebas dari risiko pelanggaran hak cipta. Kesimpulannya lebih sempit: dalam pengujian tertentu, satu unit data mungkin tidak lagi terbukti diperlukan untuk menghasilkan satu keluaran tertentu.

Bagaimana pengaruh data latih diuji

Metode analisis pengaruh yang umum biasanya memperkirakan seberapa besar sebuah contoh pelatihan memengaruhi model. Zheng Dai dan David Gifford memilih pendekatan berbeda dengan merancang diffusion ensemble, yakni kumpulan komponen model yang dilatih secara independen. Setiap komponen menerima bagian data yang telah dibagi dan direkayasa secara hati-hati.

Struktur ini memungkinkan peneliti mengajukan pertanyaan kontrafaktual yang lebih tepat: Apa yang akan dihasilkan model jika gambar ini tidak pernah memengaruhi proses pelatihan?

Alih-alih melatih ulang satu model besar dari awal, peneliti dapat menonaktifkan komponen yang pernah melihat gambar terpilih, kemudian membuat keluaran pembanding. Dengan demikian, mereka melakukan ablation—penghapusan pengaruh gambar secara terkontrol—bukan sekadar membuat perkiraan.

Tim tersebut menguji 24 diffusion ensemble pada tujuh koleksi gambar publik. Ukuran dataset berkisar dari 256 gambar hingga lebih dari 160.000 gambar. Mereka membandingkan hasil generasi asli dengan versi kontrafaktual yang dibuat setelah kandidat data latih dihilangkan.

Perbedaan terbesar antara keluaran asli dan keluaran kontrafaktual disebut counterfactual radius. Ukuran ini digunakan untuk menggambarkan seberapa besar satu unit data yang dihilangkan dapat mengubah hasil generasi.

Apa arti attribution decay?

Counterfactual radius menurun ketika ukuran dataset bertambah. Secara praktis, menghapus satu gambar semakin sering menghasilkan gambar yang sulit dibedakan dari keluaran asli berdasarkan pengukuran studi.

Temuan ini terdengar berlawanan dengan intuisi: menambahkan lebih banyak data pelatihan dapat membuat sebuah gambar hasil generasi semakin sulit dikaitkan dengan satu contoh tertentu, meskipun contoh itu memang termasuk dalam data latih.

Salah satu penjelasannya adalah model mempelajari pola yang luas dan saling tumpang tindih dari banyak sumber. Hasil tertentu tidak selalu bergantung pada satu gambar yang dapat diidentifikasi.

Pada skala yang cukup besar, efek tersebut tidak hanya berlaku untuk satu gambar. Studi itu melaporkan bahwa menghapus seluruh gambar karya seorang seniman, atau seluruh foto yang menampilkan orang tertentu, juga dapat membuat sampel hasil generasi tetap nyaris tidak berubah dalam pengujian kontrafaktual.

Karena itu, peneliti menyebutnya sebagai “decay”, bukan sekadar kegagalan alat pelacak. Masalahnya mungkin bukan hanya karena penyelidik belum memiliki alat yang cukup kuat, melainkan karena hubungan kausal antara satu sumber dan satu keluaran memang telah menjadi terlalu tersebar untuk diisolasi.

Dampaknya terhadap gugatan hak cipta AI

Attribution decay dapat menyulitkan salah satu teori dalam perkara hak cipta: klaim bahwa keluaran tertentu secara langsung disebabkan oleh karya seorang seniman atau salinan karya tersebut yang terdapat dalam data latih.

Jika menghapus seluruh koleksi seorang seniman tidak mengubah hasil secara berarti, akan lebih sulit untuk menyatakan bahwa koleksi tersebut secara individual diperlukan bagi gambar tertentu berdasarkan uji kausal itu.

Hal ini relevan dalam sengketa yang melibatkan generator gambar komersial, termasuk klaim bahwa model AI meniru gaya seniman. Dataset berskala besar dapat melemahkan narasi sederhana bahwa satu keluaran yang mudah dikenali merupakan produk langsung dari satu karya atau satu seniman tertentu. Studi tersebut pun berpotensi membuat perkara kekayaan intelektual terkait sistem generasi gambar menjadi lebih rumit.

Meski demikian, riset ini tidak menentukan apakah sebuah perusahaan melanggar hak cipta dan tidak otomatis menjadi pembelaan hukum. Sengketa hak cipta dapat mencakup pertanyaan berbeda, seperti:

• apakah karya berhak cipta disalin saat proses pelatihan;
• apakah keluaran memiliki kemiripan substansial dengan karya yang dilindungi;
• apa yang dapat direproduksi sistem berdasarkan perintah dan kondisi tertentu;
• bukti akses terhadap data latih;
• kerugian pasar atau kewajiban kontraktual; serta
• standar hukum yang berlaku dalam perkara tersebut.

Istilah teknis “tidak dapat diatribusikan” tidak boleh disamakan dengan kesimpulan hukum “tidak disalin”.

Mengapa studi ini bukan bukti bahwa AI tidak menghafal

Eksperimen tersebut menguji sensitivitas keluaran terhadap penghapusan unit data latih. Pengujian ini tidak mencakup semua cara model dapat menyimpan atau mereproduksi informasi.

Sebuah model bisa menunjukkan ketergantungan yang kecil terhadap satu gambar dalam uji penghapusan ensemble, tetapi tetap mampu menghasilkan kembali karya tertentu berdasarkan perintah, pengaturan pengambilan sampel, atau kondisi lain. Keluaran juga bisa memiliki kemiripan dengan karya yang dilindungi meskipun tidak ada satu gambar pun yang terbukti secara kausal wajib untuk menghasilkan keluaran tersebut.

Dengan kata lain, tiga pernyataan berikut memiliki arti berbeda:

• “Gambar ini memengaruhi keluaran tersebut”: uji penghapusan menemukan perubahan yang dapat diukur ketika pengaruh gambar itu dihilangkan.
• “Model melihat atau menyimpan gambar ini”: model pernah terpapar gambar tersebut atau mungkin menghafal sebagian unsurnya.
• “Keluaran ini menyalin karya yang dilindungi”: kesimpulan teknis dan hukum yang memerlukan bukti tambahan.

Attribution decay secara langsung membahas pertanyaan pertama. Fenomena ini tidak menyelesaikan pertanyaan kedua atau ketiga.

Belum dapat digeneralisasi ke model bahasa besar

Studi ini berfokus pada model generatif berbasis difusi untuk gambar dan media audiovisual terkait. Arsitektur ensemble serta pola skalanya tidak boleh langsung diterapkan pada large language model (LLM), seperti chatbot berbasis transformer.

Model bahasa memiliki arsitektur, prosedur pelatihan, representasi token, dan perilaku keluaran yang berbeda. Studi ini dapat menjadi arah eksperimen untuk riset atribusi di masa depan, tetapi belum membuktikan bahwa bentuk attribution decay yang sama terjadi pada LLM.

Bukti lain yang tetap dibutuhkan

Jika pertanyaannya adalah apakah sistem AI menyalin sebuah karya, attribution decay hanya merupakan salah satu bagian dari bukti. Pengadilan dan penyelidik teknis masih perlu mempertimbangkan:

• apakah sistem dapat mereproduksi karya tertentu melalui perintah yang dikendalikan;
• kemiripan visual antara keluaran dan karya yang diduga disalin;
• asal-usul, akses, serta catatan mengenai data pelatihan;
• hasil audit model dan dokumentasi sistem;
• apakah keluaran hanya mencerminkan gaya umum atau ekspresi terlindungi yang dapat diidentifikasi; serta
• standar hukum yang berlaku untuk sengketa tersebut.

Pelajaran utama studi ini lebih spesifik—dan lebih berguna—daripada klaim bahwa AI “melupakan” sumbernya. Ketika dataset difusi membesar, kontribusi kausal setiap contoh pelatihan dapat menjadi terlalu tersebar untuk dideteksi pada keluaran tertentu. Akibatnya, penelusuran sumber menjadi lebih sulit, tetapi memorisasi, reproduksi, dan analisis hak cipta tidak otomatis menjadi mustahil.