Mengapa Gambar AI Makin Sulit Dilacak ke Satu Data Pelatihan?

Secara keseluruhan, mereka menguji 24 ensemble pada tujuh koleksi gambar publik. Ukuran datasetnya berkisar dari 256 hingga lebih dari 160.000 gambar. Untuk setiap keluaran, mereka membuat semacam “alam semesta kontrafaktual”—versi-versi gambar yang dihasilkan setelah setiap unit data kandidat dihilangkan.

Perbedaan terbesar antara keluaran asli dan versi yang datanya dihapus disebut counterfactual radius. Ukuran ini dipakai untuk menilai seberapa besar dampak kausal maksimum dari satu unit pelatihan terhadap hasil gambar.

Apa yang dimaksud dengan attribution decay?

Hasil pengujian menunjukkan bahwa counterfactual radius menurun ketika dataset membesar. Dengan kata lain, menghapus satu gambar dari kumpulan data yang sangat besar semakin jarang menimbulkan perubahan berarti pada gambar keluaran tertentu.

Pada skala yang cukup besar, pola ini tidak hanya berlaku untuk satu gambar. Penghapusan seluruh karya seorang seniman, atau seluruh foto yang menampilkan orang tertentu, juga sering kali tidak mengubah sampel keluaran secara berarti.

Dalam pengertian teknis penelitian ini, itu berarti gambar atau kelompok gambar tersebut tidak dapat diberi tanggung jawab kausal atas keluaran itu. Jika penghapusan suatu unit tidak mengubah hasil, maka unit tersebut tidak dianggap sebagai penyebab yang dapat diatribusikan berdasarkan ukuran yang digunakan studi ini.

Apa artinya bagi perkara hak cipta?

Temuan ini berpotensi menyulitkan teori pelanggaran tertentu dalam sengketa hukum melawan perusahaan pembuat model gambar, termasuk Midjourney, OpenAI, atau Microsoft. Misalnya, penggugat mungkin kesulitan membuktikan bahwa sebuah keluaran tertentu secara langsung disebabkan oleh karya seorang seniman tertentu—terutama jika seluruh koleksi karya seniman tersebut dihapus tetapi hasilnya nyaris tidak berubah.

Meski demikian, penelitian ini tidak memutuskan perkara hak cipta dan tidak menciptakan aturan hukum baru. Sengketa hak cipta dapat menyangkut berbagai hal lain, seperti:

• penyalinan tanpa izin selama proses pelatihan;
• kemiripan substansial antara keluaran tertentu dan karya yang dilindungi;
• akses model terhadap karya tersebut;
• kerugian terhadap pasar atau lisensi;
• ketentuan kontrak; serta
• bukti teknis dan hukum lain yang relevan.

Jadi, attribution decay hanya menunjukkan bahwa cerita sebab-akibat yang bertumpu pada satu sumber mungkin sulit dibuktikan ketika model dilatih dengan dataset berskala besar.

Batasan penting penelitian

Bukan bukti bahwa model tidak menghafal

Sebuah keluaran bisa tidak dapat diatribusikan kepada satu gambar berdasarkan uji penghapusan, tetapi model tetap mungkin menghafal materi tertentu. Model juga bisa saja mereproduksi materi tersebut melalui perintah atau kondisi pengambilan sampel tertentu, atau menghasilkan gambar yang sangat mirip dengan karya yang dilindungi. Studi ini menguji sensitivitas kausal terhadap penghapusan unit data, bukan seluruh bentuk penghafalan atau pelanggaran hak cipta.

Belum menjadi kesimpulan tentang LLM

Penelitian ini secara khusus membahas model difusi untuk menghasilkan gambar. Teknik ensemble dan ablation—pengujian dengan menonaktifkan bagian tertentu—serta hasil penskalaan yang ditemukan belum otomatis terbukti berlaku untuk large language model (LLM) berbasis transformer.

Tidak menggantikan bukti lain

Dalam penyelidikan teknis maupun proses hukum, tetap diperlukan pengujian reproduksi berbasis prompt, analisis kemiripan dan asal-usul konten, catatan data pelatihan serta sistem, audit model, dan kajian hukum yang sesuai.

Kesimpulannya, attribution decay bukan berarti penyalinan oleh AI mustahil dibuktikan. Fenomena ini hanya menunjukkan bahwa ketika dataset membesar, satu gambar—bahkan satu kelompok karya—dapat kehilangan pengaruh kausal yang terukur terhadap keluaran tertentu.