Model Collapse pada AI: Risiko Saat Model Dilatih dengan Data Buatan AI

Generative AI semakin sering dilatih menggunakan data sintetis—konten yang dihasilkan oleh model AI sebelumnya. Pendekatan ini memang membantu memperbesar dataset, tetapi penelitian terbaru memperingatkan adanya risiko serius yang disebut model collapse. Fenomena ini terjadi ketika model perlahan kehilangan kemampuan untuk merepresentasikan keragaman data asli.

Dalam studi tentang pelatihan rekursif, peneliti menemukan bahwa ketika model terus belajar dari keluaran AI sebelumnya—bukan dari data dunia nyata—model mulai "melupakan" pola yang jarang muncul dalam distribusi data. Seiring generasi pelatihan berikutnya, pola yang hilang ini menumpuk hingga representasi realitas oleh model menjadi semakin menyempit dan terdistorsi.

Masalah ini menjadi semakin penting karena konten buatan AI kini makin banyak beredar di internet, yang berarti dataset masa depan berisiko dipenuhi oleh data sintetis.

Apa Itu “Model Collapse”?

Model collapse adalah kegagalan dalam sistem generatif ketika model dilatih menggunakan data yang dihasilkan model lain, bukan data asli yang dibuat manusia.

Peneliti menemukan bahwa pelatihan semacam ini dapat menyebabkan cacat yang tidak dapat dipulihkan pada model. Secara bertahap, model kehilangan informasi tentang bagian “ekor” dari distribusi data—yakni contoh yang jarang muncul tetapi penting untuk menggambarkan dunia secara akurat.

Akibatnya, keluaran model menjadi semakin sempit dan kurang beragam, hanya mencerminkan pola yang paling umum dalam data pelatihan.

Fenomena ini tidak hanya terjadi pada satu jenis model. Penelitian menunjukkan efek serupa pada beberapa keluarga model generatif, termasuk:

• Large language models (LLM)
• Variational autoencoders (VAE)
• Gaussian mixture models (GMM)

Karena muncul pada berbagai arsitektur, para peneliti menyimpulkan bahwa model collapse kemungkinan merupakan sifat umum dalam pembelajaran generatif yang bergantung pada data sintetis secara rekursif, bukan sekadar masalah pada satu desain model tertentu.

Mengapa Pelatihan Rekursif Menghapus Pola Langka

Penyebab utama model collapse berkaitan dengan cara sampling statistik bekerja.

Ketika sebuah model menghasilkan data sintetis, ia cenderung lebih sering menghasilkan pola dengan probabilitas tinggi dibandingkan pola langka. Pola langka berada di “ekor distribusi” dan memang sudah jarang muncul sejak awal.

Saat model generasi berikutnya dilatih menggunakan dataset sintetis tersebut:

• Contoh langka muncul lebih jarang lagi
• Model mempelajari distribusi yang sedikit menyimpang
• Generasi berikutnya memperbesar penyimpangan itu

Setiap iterasi memperkuat bias dari model sebelumnya. Pada akhirnya, pola langka bisa hilang sepenuhnya dari dataset pelatihan.

Begitu pola-pola tersebut tidak lagi ada dalam korpus pelatihan, model generasi berikutnya tidak bisa merekonstruksinya—karena bukti bahwa pola itu pernah ada sudah hilang.

Bagaimana Data Nyata atau Pengetahuan Awal Mencegah Collapse

Temuan menarik dari penelitian terbaru adalah bahwa jumlah data nyata yang dibutuhkan untuk mencegah collapse mungkin sangat kecil.

Dalam analisis terhadap model statistik yang disebut exponential families, peneliti menemukan bahwa bahkan satu titik data dari distribusi nyata dapat bertindak sebagai “jangkar” bagi proses pelatihan. Titik data tersebut menjaga bukti bahwa pola yang jarang memang ada, sehingga proses pelatihan rekursif tidak menyimpang ke distribusi yang salah.

Selain data nyata, pengetahuan awal (prior knowledge) yang dimasukkan ke dalam model juga dapat berfungsi sebagai penahan. Dengan membatasi jenis distribusi yang boleh dipelajari model, prior mencegah sistem sepenuhnya mengikuti bias dari data sintetis.

Secara praktis, ini berarti:

• Sampel dunia nyata membantu menjaga pola yang jarang tetapi valid
• Prior memberikan struktur yang mungkin hilang jika hanya mengandalkan data sintetis

Bahkan jika jumlah data sintetis jauh lebih besar daripada data nyata, elemen-elemen ini masih dapat menstabilkan proses pelatihan.

Mengapa Ini Penting untuk Large Language Models

Masalah model collapse menjadi semakin relevan karena konten AI di internet terus bertambah.

Large language models biasanya dilatih menggunakan dataset berskala internet—teks dari situs web, forum, buku, dan berbagai sumber lainnya. Namun jika semakin banyak teks online dihasilkan oleh AI, dataset tersebut berisiko semakin dipenuhi oleh keluaran model sebelumnya.

Jika model masa depan terutama dilatih dari konten semacam itu, mereka berpotensi perlahan menjauh dari kekayaan dan keragaman bahasa manusia.

Beberapa konsekuensi yang dikhawatirkan peneliti antara lain:

• Keragaman output AI menurun
• Model kesulitan menangani kasus langka atau tidak biasa
• Representasi pengetahuan dunia menjadi lebih sempit

Karena itu, banyak peneliti menekankan pentingnya menjaga akses terhadap data berkualitas tinggi yang dibuat manusia atau menerapkan mekanisme pelatihan yang mempertahankan distribusi data asli.

Batasan Bukti yang Ada

Walaupun mekanisme model collapse didukung oleh berbagai penelitian, beberapa detailnya masih belum sepenuhnya pasti. Misalnya, klaim bahwa satu titik data dunia nyata bisa mencegah collapse berasal dari analisis teoretis dan model statistik sederhana, bukan dari eksperimen pelatihan LLM berskala besar.

Artinya, dalam praktiknya jumlah data nyata yang dibutuhkan bisa berbeda-beda tergantung arsitektur model, komposisi dataset, dan metode pelatihan.

Namun pesan utamanya jelas: pelatihan AI yang sepenuhnya bergantung pada data buatan AI berisiko secara bertahap menghapus bagian-bagian realitas dari model, sehingga menjaga hubungan dengan data dunia nyata menjadi sangat penting untuk mempertahankan akurasi dan keragaman model.