Apabila AI Menulis Kod Lebih Pantas Daripada Manusia Dapat Menyemak: Krisis ‘Vibe Slop’

Lebih penting lagi, alat AI mengalihkan kesesakan dalam pembangunan:

• Menulis kod menjadi sangat pantas.
• Menyemak dan mengesahkan kod tersebut kekal perlahan dan bergantung kepada kepakaran.

Ketidakseimbangan ini bermakna pasukan mungkin mengumpul sejumlah besar perisian yang betul dari segi fungsi tetapi kurang difahami, yang menjadi semakin sukar untuk diselenggara dari semasa ke semasa.

Penyelenggara sumber terbuka telah melaporkan bahawa mereka dibanjiri dengan sumbangan janaan AI, satu fenomena yang kadangkala digambarkan penganalisis sebagai gelombang "AI slop" yang membebankan kapasiti semakan dan tadbir urus projek.

Risiko Keselamatan: Lebih Banyak Kelemahan Masuk ke Dalam Pengeluaran

Salah satu kebimbangan yang paling serius ialah keselamatan.

Penyelidik keselamatan telah mendokumentasikan peningkatan ketara dalam kelemahan yang dikaitkan dengan kod janaan AI. Sebagai contoh, penyelidik yang menjejaki pendedahan kelemahan melaporkan sekurang-kurangnya 35 entri CVE baharu pada Mac 2026 yang secara langsung disebabkan oleh kod janaan AI, dengan angka sebenar mungkin lebih tinggi kerana banyak kes kekurangan metadata yang boleh dikesan.

Pelbagai kajian juga mencadangkan bahawa alat pengekodan AI kerap menghasilkan semula corak tidak selamat daripada data latihan mereka. Ujian merentas model utama mendapati bahawa sekitar 45% sampel kod yang dijana memperkenalkan kelemahan keselamatan biasa, termasuk isu dalam kategori OWASP Top 10.

Risiko lain melibatkan kebocoran rahsia. Analisis aliran kerja pembangunan sebenar mendapati bahawa komit yang dibantu AI mendedahkan bukti kelayakan lebih daripada dua kali ganda berbanding komit manusia sahaja (3.2% berbanding 1.5%), menyumbang kepada peningkatan yang lebih luas dalam bukti kelayakan kerasandi dalam repositori awam.

Secara keseluruhan, trend ini meningkatkan kebarangkalian bahawa kelemahan, konfigurasi tidak selamat, atau kunci yang bocor akan sampai ke sistem pengeluaran.

Contoh OpenClaw: Apabila Sistem AI Terdedah kepada Internet

Risiko menjadi sangat ketara dalam sistem yang dibina di sekitar ejen AI dan alat automasi.

Platform pembantu AI sumber terbuka OpenClaw telah disebut oleh penyelidik keselamatan sebagai contoh utama infrastruktur AI yang terdedah. Siasatan telah mengenal pasti berpuluh ribu penggunaan yang boleh diakses melalui internet, kebanyakannya terdedah kepada pengambilalihan akibat konfigurasi yang salah atau perisian usang.

Dalam beberapa imbasan, lebih daripada 21,000 contoh yang boleh diakses secara awam ditemui dalam talian, dengan sistem yang salah konfigurasi membocorkan kunci API, token OAuth, dan bukti kelayakan teks biasa.

Analisis tambahan terhadap ekosistem platform itu turut mendedahkan masalah dalam pasaran sambungannya: mengimbas hampir 4,000 kemahiran mendedahkan 283 pakej—kira-kira 7.1%—mengandungi kelemahan pengendalian bukti kelayakan kritikal yang boleh mendedahkan data sensitif.

Insiden ini menggambarkan isu yang lebih luas: apabila ejen AI yang berkuasa digunakan tanpa amalan keselamatan yang kukuh, ia boleh menjadi panel kawalan awam untuk sistem yang mereka integrasi.

Mengapa Jurutera Bimbang Tentang Pengguna Tidak Terlatih

Ramai pembangun menekankan bahawa bahaya sebenar bukanlah alat itu sendiri tetapi siapa yang menggunakannya dan bagaimana.

Pembangunan perisian tradisional mengandaikan bahawa orang yang menulis kod memahami seni bina, kebergantungan, dan sempadan keselamatannya. Vibe coding mematahkan andaian itu.

Jika seseorang tidak boleh membaca atau menaakul tentang kod yang dijana, mereka mungkin masih boleh menggunakan aplikasi yang berfungsi—tetapi mereka mungkin tidak menyedari:

• kelemahan tersembunyi
• aliran pengesahan yang tidak selamat
• rantaian kebergantungan yang tidak selamat
• kegagalan kes tepi yang halus

Dalam amalan, ini boleh menghasilkan perisian yang berfungsi dalam demonstrasi tetapi gagal dalam keadaan dunia sebenar. Jurutera sering menggambarkan sistem ini sebagai “perisian laluan gembira”—aplikasi yang berfungsi hanya dalam senario ideal kerana penciptanya tidak dapat menilai sepenuhnya logik asas.

Kos Jangka Panjang: Hutang Teknikal pada Skala Besar

Walaupun kod janaan AI berfungsi dengan betul, ia boleh mengumpul hutang teknikal dengan cepat.

Oleh kerana AI meningkatkan jumlah kod yang dihasilkan setiap pembangun secara mendadak, organisasi akhirnya menguruskan pangkalan kod yang lebih besar dan lebih kompleks. Jika kod itu mengandungi logik berlebihan, corak reka bentuk yang tidak konsisten, atau dokumentasi yang lemah, perubahan masa depan menjadi lebih mahal dan berisiko.

Penyelidik keselamatan memberi amaran bahawa dinamik ini mewujudkan bentuk “hutang keselamatan,” di mana kelemahan terkumpul lebih cepat daripada keupayaan organisasi untuk mengenal pasti dan membetulkannya.

Dalam erti kata lain, peningkatan produktiviti berlaku serta-merta—tetapi kos penyelenggaraan muncul kemudian.

Masalah Selari dalam Penyelidikan Saintifik

Dinamik yang sama—penjanaan murah digabungkan dengan penilaian mahal—mula kelihatan dalam sains.

Sistem AI semakin digunakan untuk mencari literatur, menjana hipotesis, menulis draf kertas, dan membantu aliran kerja semakan rakan sebaya.

Dalam beberapa kes, hasilnya adalah memberangsangkan. Eksperimen menunjukkan bahawa model bahasa boleh menjana hipotesis saintifik yang munasabah dan kadangkala baru yang boleh diuji oleh penyelidik secara eksperimen.

Walau bagaimanapun, kajian besar yang membandingkan idea penyelidikan janaan manusia dan AI mencadangkan bahawa hipotesis janaan AI selalunya menunjukkan prestasi yang lebih lemah apabila dinilai secara eksperimen.

Editor dan penyelidik semakin bimbang tentang kemungkinan kesan "AI slop" dalam akademik juga. Editorial 2026 dalam Science memberi amaran bahawa penggunaan AI yang tidak didedahkan atau berlebihan dalam penghasilan manuskrip boleh menjejaskan kebolehpercayaan rekod ilmiah jika pengawasan tidak seiring.

Kesesakan Sebenar: Pertimbangan Manusia

Merentasi kedua-dua kejuruteraan perisian dan penyelidikan, isu teras adalah sama.

AI mengurangkan secara mendadak kos menghasilkan output—kod, kertas, hipotesis, atau reka bentuk. Tetapi kos menilai output tersebut masih bergantung kepada pertimbangan pakar manusia.

Apabila penjanaan menjadi hampir percuma tetapi penilaian kekal terhad, sistem boleh dibanjiri dengan kerja yang munasabah tetapi tidak boleh dipercayai. Dalam perisian, ini muncul sebagai kod tidak selamat dan sistem yang rapuh. Dalam sains, ia mungkin muncul sebagai sejumlah besar hipotesis lemah atau manuskrip berkualiti rendah.

Cabaran untuk organisasi dan institusi bukan sekadar menggunakan alat AI—ia adalah membina proses semakan, amalan keselamatan, dan tadbir urus yang diperlukan untuk memastikan banjir output yang terhasil tidak bertukar menjadi vibe slop.