Studi MIT: Gambar AI Makin Sulit Dilacak ke Sumber Pelatihannya

Ini bukan berarti gambar tersebut sama sekali tidak berperan dalam proses pelatihan model. Artinya, untuk satu output tertentu dan berdasarkan uji penghapusan yang digunakan dalam penelitian, kontribusi kausal individualnya mungkin terlalu kecil untuk dideteksi.

Cara kerja diffusion ensemble

Menguji pertanyaan ini secara langsung tidak mudah. Metode konvensional mengharuskan peneliti melatih ulang model setelah satu sumber gambar dihapus, lalu membandingkan hasil baru dengan hasil awal. Jika pengujian dilakukan untuk banyak gambar, seniman, atau subjek, biayanya sangat besar. Metode perkiraan juga belum tentu menghapus semua dampak lanjutan dari data tersebut.

Dai dan Gifford memilih pendekatan berbeda melalui diffusion ensemble: sejumlah komponen difusi berukuran lebih kecil yang dilatih menggunakan subset data yang berbeda dan saling tumpang tindih. Untuk menguji pengaruh suatu sumber, peneliti cukup menonaktifkan komponen yang pernah melihat sumber tersebut, lalu menghasilkan output kontrafaktual—yakni perkiraan hasil seandainya sumber itu tidak pernah masuk ke pelatihan—tanpa melatih ulang seluruh sistem.

Mereka membandingkan pendekatan ensemble ini dengan 24 model difusi konvensional yang dilatih menggunakan data yang sama. Menurut laporan penelitian, kualitas output keduanya secara umum sebanding berdasarkan ukuran standar.

Dalam arsitektur tersebut, penghapusan dapat diuji secara eksak. Jika output tidak berubah setelah semua komponen yang pernah terpapar pada suatu sumber dimatikan, eksperimen itu tidak memberikan bukti terukur bahwa sumber tersebut menyebabkan output terkait.

Dampaknya bagi gugatan hak cipta

Attribution decay dapat menyulitkan jenis klaim tertentu: argumen bahwa satu gambar yang dihasilkan AI disebabkan oleh, atau disalin dari, gambar milik penggugat atau seluruh kumpulan karya seorang seniman. Jika penghapusan materi tersebut tidak mengubah output dalam uji kontrafaktual yang eksak, hasil pengujian itu hanya memberi sedikit dasar untuk mengatribusikan output kepada sumber yang dihapus.

Persoalan ini berpotensi muncul dalam sengketa yang melibatkan layanan atau pengembang generator gambar, termasuk perusahaan seperti Midjourney, OpenAI, dan Microsoft. Namun, studi tersebut tidak menentukan tanggung jawab hukum perusahaan mana pun. Penelitian ini memberikan bukti mengenai sulitnya membangun hubungan kausal antara data pelatihan individual dan output individual.

Sejumlah pertanyaan hukum lain tetap terbuka:

• Bagaimana data pelatihan diperoleh? Studi ini tidak menentukan apakah pengumpulan atau penggunaan karya berhak cipta untuk pelatihan dibenarkan secara hukum.
• Apakah output sangat mirip dengan karya yang dilindungi? Kemiripan visual tetap dapat relevan meskipun atribusi kausal kepada satu file pelatihan sulit dibuktikan.
• Apakah sistem menghafal atau mereproduksi contoh tertentu? Model dalam kondisi tertentu dapat menghasilkan kembali materi pelatihan. Hal itu berbeda dari pembuktian bahwa setiap output dapat diatribusikan kepada satu sumber.
• Apakah sistem dikonfigurasi untuk meniru seorang seniman? Prompt yang terarah, fine-tuning, atau perilaku model lainnya dapat menjadi bukti yang tidak tercakup dalam uji penghapusan satu gambar.

Implikasi praktisnya, pengadilan dan penyelidik mungkin perlu menilai bukti yang lebih luas, seperti catatan perolehan data, informasi provenance, analisis kemiripan langsung, pengujian dengan prompt terarah, bukti perilaku model, serta analisis ahli. Kesimpulan ini mengikuti temuan bahwa atribusi satu gambar ke satu output menjadi tidak andal pada skala besar; penelitian tersebut bukanlah aturan hukum baru.

Mengapa temuan ini bukan “jalan bebas” bagi pengembang AI

Attribution decay tidak boleh dibaca sebagai bukti bahwa model difusi tidak pernah menyalin. Temuan studi ini adalah bahwa pengaruh terukur dari satu sumber dapat menjadi sangat kecil ketika dataset pelatihan membesar. Dalam kondisi tertentu, model tetap dapat menghafal atau mereproduksi contoh dari data pelatihan.

Cakupan penelitian tersebut juga terbatas. Para peneliti menguji generator gambar berbasis difusi, sehingga hasilnya tidak dapat begitu saja diterapkan pada model bahasa atau arsitektur generatif lainnya.

Pembacaan yang paling akurat adalah sikap hati-hati: sistem difusi berukuran besar dapat membuat atribusi kepada satu sumber individual semakin sulit, meskipun data pelatihannya mencakup gambar atau karya seorang seniman. Kondisi ini mungkin memperlemah salah satu jalur pembuktian tanggung jawab atas output tertentu, tetapi tidak menyelesaikan pertanyaan yang lebih luas tentang praktik pelatihan, penyalinan, peniruan gaya, dan hak kekayaan intelektual.