Mengapa Gambar AI Makin Sulit Dilacak ke Satu Sumber?

Penelitian Zheng Dai dan David Gifford dari MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) mengidentifikasi fenomena yang mereka sebut “attribution decay” pada generator gambar berbasis difusi. Ketika model dilatih menggunakan semakin banyak gambar, pengaruh kausal satu gambar tertentu terhadap satu keluaran dapat menjadi terlalu kecil untuk dideteksi—bahkan bisa menghilang ketika gambar tersebut benar-benar dikeluarkan dari data pelatihan.

Temuan ini membuat gambar hasil AI semakin sulit dikaitkan secara langsung dengan satu seniman, foto, atau gambar sumber. Namun, penelitian tersebut bukan putusan hukum dan tidak menyatakan bahwa penggunaan materi berhak cipta untuk melatih AI otomatis diperbolehkan. Penelitian itu juga tidak membuktikan bahwa model AI tidak pernah menghafal atau menyalin karya.

Cara penelitian ini menguji pengaruh gambar

Alih-alih hanya memperkirakan pengaruh sebuah gambar melalui rumus, para peneliti membangun arsitektur yang disebut “diffusion ensemble”. Sistem ini terdiri atas banyak komponen difusi berukuran lebih kecil yang dilatih menggunakan potongan data berbeda.

Untuk membuat model pembanding yang benar-benar tidak pernah melihat satu sumber tertentu, peneliti mematikan semua komponen yang pernah dilatih dengan sumber tersebut. Dengan cara ini, mereka dapat menguji skenario “bagaimana jika gambar ini tidak ada?” tanpa harus melatih ulang seluruh model atau menggunakan pendekatan perkiraan.

Para peneliti kemudian membandingkan metode tersebut dengan 24 model difusi konvensional yang dilatih menggunakan data sama. Berdasarkan ukuran kualitas standar, kualitas keluaran kedua pendekatan secara umum sebanding.

Pengujian dilakukan pada dataset mulai dari 256 hingga lebih dari 160.000 gambar. Sumber yang dihapus mencakup:

• satu gambar individual;
• seluruh karya milik seorang seniman; dan
• seluruh foto seseorang.

Pada skala dataset yang lebih besar, penghapusan salah satu sumber tersebut sering kali tidak menghasilkan perubahan yang berarti pada gambar keluaran. Menurut para peneliti, berkurangnya pengaruh yang dapat diukur dari setiap sumber inilah yang disebut attribution decay.

Dampaknya bagi sengketa hak cipta AI

Hasil ini berpotensi menyulitkan klaim bahwa suatu keluaran dari sistem yang terkait dengan Midjourney, OpenAI, atau Microsoft secara khusus disebabkan oleh—atau disalin dari—satu gambar milik penggugat atau seluruh karya seorang seniman. Jika penghapusan materi tersebut tidak mengubah keluaran yang dipersoalkan, uji kontrafaktual ini hanya memberikan sedikit dasar untuk mengaitkan keluaran itu dengan sumber tersebut.

Meski demikian, masih ada sejumlah pertanyaan hukum lain yang tidak dijawab oleh penelitian ini, antara lain:

• apakah perusahaan menyalin karya saat mengumpulkan data pelatihan;
• apakah proses pelatihan itu sendiri merupakan pelanggaran hak cipta atau termasuk penggunaan wajar (fair use);
• apakah keluaran AI memiliki kemiripan substansial dengan karya yang dilindungi; dan
• apakah model sengaja diarahkan atau dikonfigurasi untuk meniru gaya seorang seniman.

Dengan kata lain, penelitian ini membahas atribusi kausal atas keluaran tertentu, bukan menentukan siapa yang bertanggung jawab secara hukum.

Bukan berarti model AI tidak bisa menghafal

“Attribution decay” tidak sama dengan kesimpulan bahwa model difusi tidak mampu menghafal atau mereproduksi contoh pelatihan. Dalam kondisi tertentu, model tetap dapat mengeluarkan kembali gambar yang pernah dilihatnya. Temuan penelitian hanya menunjukkan bahwa ketika dataset membesar, pengaruh satu sumber terhadap keluaran tertentu sering kali menjadi terlalu kecil untuk diukur.

Selain itu, penelitian ini berfokus pada generator gambar berbasis difusi. Hasilnya tidak dapat begitu saja diterapkan pada model bahasa atau arsitektur generatif lainnya.

Karena hubungan satu gambar dengan satu keluaran semakin sulit dibuktikan pada skala besar, pengadilan kemungkinan memerlukan jenis bukti lain. Bukti tersebut dapat mencakup catatan perolehan data, kemiripan langsung antara karya dan keluaran, perilaku model saat diberi perintah yang ditargetkan, informasi asal-usul data, serta analisis pakar. Kesimpulan mengenai kebutuhan bukti tambahan ini merupakan implikasi dari kesulitan atribusi individual yang ditunjukkan penelitian tersebut, bukan putusan hukum.