Ketika AI Menulis Kode Terlalu Cepat: Risiko “Vibe Slop” di Dunia Software

Komunitas open‑source juga merasakan dampaknya. Banyak maintainer melaporkan banjir kontribusi yang dihasilkan AI—fenomena yang kadang disebut sebagai gelombang “AI slop”—yang membebani proses review dan tata kelola proyek.

Risiko Keamanan: Lebih Banyak Kerentanan Masuk ke Produksi

Salah satu kekhawatiran terbesar adalah keamanan.

Peneliti keamanan melaporkan peningkatan kerentanan yang terkait dengan kode yang dihasilkan AI. Pada Maret 2026 saja, setidaknya 35 entri CVE baru dilaporkan berasal langsung dari kode buatan AI.

Masalah ini tidak sepenuhnya mengejutkan. Banyak model AI dilatih menggunakan repositori kode publik, yang juga mengandung pola tidak aman. Pengujian terhadap berbagai model menemukan bahwa sekitar 45% contoh kode yang dihasilkan AI mengandung kerentanan umum, termasuk kategori dalam OWASP Top 10.

Ada juga risiko kebocoran rahasia (secret leakage). Analisis terhadap workflow pengembangan menunjukkan bahwa commit yang dibantu AI lebih sering membocorkan kredensial dibanding commit yang sepenuhnya ditulis manusia—sekitar 3,2% dibanding 1,5%.

Jika tren ini berlanjut, kemungkinan kode dengan konfigurasi tidak aman atau kunci API yang bocor masuk ke sistem produksi akan semakin tinggi.

Kasus OpenClaw: Ketika Sistem AI Terbuka ke Internet

Risiko tersebut menjadi lebih nyata pada sistem yang mengintegrasikan AI dengan berbagai layanan dan otomatisasi.

Salah satu contoh yang sering dikutip peneliti keamanan adalah platform asisten AI open‑source OpenClaw.

Investigasi menemukan puluhan ribu deployment OpenClaw yang dapat diakses dari internet, banyak di antaranya rentan diambil alih karena konfigurasi yang salah atau versi perangkat lunak yang usang.

Dalam salah satu pemindaian, peneliti menemukan lebih dari 21.000 instance yang terbuka ke publik, dengan beberapa di antaranya membocorkan API key, token OAuth, dan kredensial dalam teks biasa.

Masalah juga ditemukan di ekosistem ekstensi platform tersebut. Dari hampir 4.000 “skill” yang dipindai, 283 paket—sekitar 7,1%—mengandung kesalahan kritis dalam pengelolaan kredensial yang dapat mengekspos data sensitif.

Kasus ini menunjukkan masalah yang lebih luas: ketika agen AI yang kuat dipasang tanpa praktik keamanan yang matang, mereka bisa berubah menjadi panel kontrol publik untuk sistem internal.

Mengapa Insinyur Khawatir dengan Pengguna Tanpa Pelatihan

Banyak pengembang menekankan bahwa masalahnya bukan sekadar alat AI—melainkan siapa yang menggunakannya dan bagaimana.

Dalam pengembangan perangkat lunak tradisional, orang yang menulis kode biasanya memahami arsitektur, dependensi, dan batasan keamanan sistem.

“Vibe coding” dapat mematahkan asumsi ini.

Seseorang mungkin dapat membuat aplikasi yang tampak bekerja dengan bantuan AI, tetapi tidak mampu menilai:

• kerentanan tersembunyi
• alur autentikasi yang tidak aman
• rantai dependensi yang berisiko
• kegagalan pada edge case

Akibatnya muncul perangkat lunak yang terlihat bagus dalam demo, tetapi rapuh dalam penggunaan nyata. Para insinyur sering menyebutnya “happy‑path software”—aplikasi yang hanya berfungsi dalam kondisi ideal karena pembuatnya tidak sepenuhnya memahami logika di baliknya.

Biaya Jangka Panjang: Ledakan Utang Teknis

Bahkan ketika kode yang dihasilkan AI bekerja dengan benar, ia tetap dapat menciptakan technical debt dengan sangat cepat.

AI meningkatkan jumlah kode yang dapat diproduksi oleh satu pengembang. Namun jika kode tersebut berisi logika redundan, pola desain yang tidak konsisten, atau dokumentasi yang lemah, maka perubahan di masa depan menjadi lebih mahal dan berisiko.

Peneliti keamanan menyebut fenomena ini sebagai “security debt”, di mana kerentanan bertambah lebih cepat daripada kemampuan organisasi untuk menemukan dan memperbaikinya.

Dengan kata lain, peningkatan produktivitas terasa sekarang—tetapi biaya pemeliharaan muncul kemudian.

Masalah Serupa Mulai Muncul di Dunia Ilmiah

Dinamika yang sama—produksi murah tetapi evaluasi mahal—juga mulai terlihat dalam penelitian ilmiah.

AI kini digunakan untuk berbagai tahap proses riset: mencari literatur, menghasilkan hipotesis, menulis draft makalah, hingga membantu peer review.

Beberapa hasilnya menjanjikan. Eksperimen menunjukkan model bahasa dapat menghasilkan hipotesis ilmiah yang masuk akal dan kadang benar‑benar baru.

Namun studi besar yang membandingkan ide dari manusia dan AI menemukan bahwa hipotesis yang dihasilkan AI sering berkinerja lebih buruk ketika diuji secara eksperimen.

Editor jurnal juga mulai khawatir tentang fenomena “AI slop” dalam dunia akademik. Sebuah editorial tahun 2026 di jurnal Science memperingatkan bahwa penggunaan AI yang berlebihan atau tidak transparan dalam penulisan naskah dapat merusak keandalan literatur ilmiah jika pengawasan tidak meningkat.

Bottleneck Sebenarnya: Penilaian Manusia

Baik dalam rekayasa perangkat lunak maupun penelitian ilmiah, inti masalahnya sama.

AI secara drastis menurunkan biaya menghasilkan output—kode, hipotesis, makalah, atau desain.

Namun biaya untuk mengevaluasi kualitas output tersebut masih bergantung pada penilaian manusia yang berpengalaman.

Ketika produksi hampir gratis tetapi evaluasi tetap langka, sistem dapat dibanjiri hasil yang terlihat masuk akal tetapi sebenarnya rapuh atau tidak dapat diandalkan.

Dalam software, ini muncul sebagai kode tidak aman dan sistem yang sulit dipelihara. Dalam sains, ini bisa muncul sebagai banjir hipotesis lemah atau makalah berkualitas rendah.

Tantangan utama bagi organisasi bukan sekadar mengadopsi AI—melainkan membangun proses review, praktik keamanan, dan tata kelola yang mampu menangani lonjakan output tersebut sebelum berubah menjadi gelombang vibe slop.