AI menemui ribuan kerentanan dengan pantas. Bolehkah pasukan keselamatan membaikinya tepat pada masanya?

AVDH bukan satu model AI yang membaca semua kod

Penemuan paling penting daripada Agentic Vulnerability Discovery Harness (AVDH) milik Mandiant bukanlah jumlah kerentanan yang ditemui semata-mata. Ia menunjukkan bahawa penyelidikan keselamatan berbantukan AI sedang berubah daripada eksperimen chatbot kepada aliran kerja yang direka bentuk secara sistematik.

AVDH menggabungkan beberapa ejen khusus, pemodelan ancaman oleh manusia, analisis laluan eksploit, pengesahan bebas dan penghasilan eksploit bukti konsep yang dihasilkan semula oleh perunding. Dalam satu tugasan tindak balas insiden melibatkan repositori korporat yang dicuri, Google berkata sistem itu menemui lebih 100 kerentanan kritikal yang benar-benar positif dalam tempoh dua hari.

Namun, angka itu tidak bermakna satu model AI mampu “membaca semua kod” dan terus mengenal pasti setiap kelemahan. Kekuatan AVDH terletak pada cara ia memecahkan penyelidikan kerentanan kepada beberapa peringkat, mengecilkan ruang carian yang sangat besar dan menggunakan pakar manusia sebagai pintu kawalan kualiti sebelum sesuatu kelemahan dianggap sebagai penemuan keselamatan.

Cara AVDH berfungsi: daripada pemetaan kod kepada eksploit yang boleh dibuktikan

Reka bentuk AVDH mengikuti logik penilaian keselamatan yang biasanya dilakukan oleh penyelidik berpengalaman. Pada peringkat awal, ejen membantu memahami fungsi sesebuah pangkalan kod dan cara ia mungkin diserang. Peringkat seterusnya memetakan permukaan serangan, mengenal pasti titik masuk, menjejaki aliran data, menghasilkan beberapa hipotesis kerentanan dan menguji laluan eksploit yang dicadangkan.

Perunding manusia kemudian menyemak model ancaman dan menghasilkan semula eksploit bukti konsep sebelum sesuatu penemuan dianggap telah disahkan.

Pembahagian tugas ini penting kerana analisis kod sumber biasanya menghasilkan lebih banyak corak mencurigakan berbanding kemampuan pasukan keselamatan untuk menyiasat secara manual. AVDH boleh menghasilkan sejumlah besar penemuan perantaraan, manakala peringkat pengesahan dan semakan manusia menumpukan perhatian kepada isu yang kelihatan boleh dieksploitasi serta mempunyai kesan yang besar.

Google berkata, dalam 10 bulan pertama penggunaannya, AVDH telah menganalisis pangkalan kod yang merangkumi puluhan juta baris dan menghasilkan puluhan ribu penemuan. Dalam siasatan dua hari yang diketengahkan, sistem itu mengenal pasti lebih 100 kerentanan kritikal yang benar-benar positif. Usaha lebih luas tersebut turut menyumbang kepada 12 CVE yang telah diberikan, dengan kira-kira sedozen lagi isu masih melalui proses pendedahan aktif.

Justeru, ukuran yang lebih bermakna bukanlah jumlah amaran mentah. Yang penting ialah kadar penukaran daripada hipotesis yang dijana mesin kepada kerentanan yang boleh dihasilkan semula dan dikendalikan melalui proses pendedahan yang bertanggungjawab.

AVDH dan NOVA bukan pesaing dalam perbandingan yang setara

Palo Alto Networks pula melaporkan angka tajuk yang jauh lebih besar melalui NOVA, iaitu sistem penemuan kerentanan autonomi berbilang model. Menurut penyelidikan syarikat itu, dalam tempoh dua bulan NOVA menganalisis 3,915 projek sumber terbuka dan melaporkan 14,090 kerentanan yang disahkan. Sebanyak 99.4 peratus dikatakan belum pernah dilaporkan, manakala 40 peratus dinilai berkeparahan tinggi atau kritikal.

Tetapi kedua-dua angka ini mengukur perkara yang berbeza:

• AVDH: penilaian yang terhad kepada tempoh tertentu dan disiasat secara mendalam dalam konteks tindak balas insiden, dengan semakan manusia serta penghasilan semula laluan eksploit sebagai kawalan kualiti.
• NOVA: pengimbasan berskala ekosistem merentasi ribuan projek sumber terbuka, dengan penekanan kepada keluasan dan penemuan autonomi.

Laporan yang tersedia tidak membuktikan bahawa kedua-dua sistem menggunakan pemilihan sasaran, kriteria keparahan, ambang positif palsu, ujian keboleh-eksploitan atau proses pendedahan yang sama. Oleh itu, angka tajuk tersebut tidak wajar dianggap sebagai papan pendahuluan sejagat.

AVDH menunjukkan cara rangkaian ejen boleh menyokong siasatan berkeyakinan tinggi dalam tugasan tertentu. NOVA pula menunjukkan skala yang boleh dicapai oleh penemuan autonomi merentasi perisian sumber terbuka.

Jika digabungkan, kedua-dua hasil ini menunjukkan bahawa penemuan kerentanan kini terbahagi kepada dua masalah: mencari kelemahan secara cukup meluas dan mengesahkannya dengan cukup teliti supaya ia boleh diambil tindakan.

Perlumbaan kini beralih daripada penemuan kepada pengurangan pendedahan

Jawapan Palo Alto terhadap penemuan yang lebih pantas bukan sekadar mencari kelemahan. Cadangan Advanced Virtual Patching syarikat itu bertujuan menggunakan perlindungan pada peringkat rangkaian dalam tempoh beberapa jam, sekali gus mengurangkan pendedahan sementara pemilik perisian membangunkan pembaikan konvensional.

Palo Alto membandingkan pendekatan itu dengan tempoh purata industri sekitar 55 hari untuk melaksanakan tampalan tradisional.

Syarikat tersebut turut mengumumkan Frontier AI Critical Defense Program, sebuah usaha penyelarasan yang menghimpunkan syarikat AI, pembekal perisian, komuniti sumber terbuka dan organisasi teknologi operasi. Antara peserta yang dilaporkan termasuk Anthropic, OpenAI, IBM, Red Hat, Microsoft, Siemens, Mitsubishi Electric dan Axis Communications.

Tampalan maya boleh membantu apabila perkhidmatan yang terdedah menerima trafik yang boleh dikenal pasti dan disekat oleh kawalan rangkaian. Namun, ia lebih tepat difahami sebagai kawalan pampasan, bukannya pengganti kepada pembetulan perisian asal.

Pembaikan berkekalan masih memerlukan pemilik sistem memahami kerentanan, mengubah kod, mengujinya, mengedarkan versi baharu dan memastikan semua sistem terjejas telah menerima pembaikan tersebut.

Perbezaan ini menjadi semakin penting apabila kadar penemuan meningkat. Kawalan rangkaian mungkin mengurangkan pendedahan segera, tetapi ia tidak dengan sendirinya membaiki kod yang terdedah di seluruh aplikasi atau rantaian bekalan perisian.

Penyerang turut mendapat pecutan yang sama

Kemajuan pertahanan ini berlaku serentak dengan bukti bahawa penyerang menggunakan AI untuk tugasan yang serupa. Google Threat Intelligence Group melaporkan apa yang disifatkannya sebagai kes pertama yang dikenal pasti melibatkan pelaku ancaman menggunakan eksploit sifar hari yang dipercayai dibangunkan dengan bantuan AI. Pelaku itu merancang menggunakannya dalam serangan berskala besar, tetapi Google berkata penemuan balas secara proaktif mungkin telah menghalangnya.

Eksploit yang dilaporkan menyasarkan pintasan pengesahan dua faktor (2FA) dalam sebuah alat pentadbiran web sumber terbuka yang popular. Antara petunjuk yang digunakan untuk menilai bahawa model AI mungkin membantu pembangunannya ialah komen berbentuk pendidikan dan skor CVSS yang diada-adakan oleh model.

Ini tidak bermakna setiap kerentanan yang dijana AI akan menjadi serangan sebenar. Namun, ia menunjukkan bahawa pertahanan tidak lagi boleh bergantung pada kerumitan kod, kapasiti penyelidik yang terhad atau tempoh panjang antara penemuan dan eksploitasi sebagai masa tambahan yang boleh diharapkan.

Amaran Cloud Security Alliance menjadi penting dalam konteks ini: AI meningkatkan kelajuan dan skala penemuan kerentanan lebih pantas daripada kemampuan banyak sistem pendedahan dan tampalan untuk memprosesnya. Lebih banyak penemuan hanya meningkatkan keselamatan jika organisasi mempunyai kapasiti untuk membuat triage, menyelaras pendedahan, membina pembaikan dan melaksanakan perlindungan dengan selamat.

Bagaimana pertahanan boleh mendapatkan semula kelebihan?

Jawapannya bukan sekadar membeli model yang pandai mencari kerentanan. Kelebihan akan dimiliki oleh organisasi yang menghubungkan penemuan kepada keseluruhan operasi keselamatan:

1. Pemodelan ancaman mengecilkan carian kepada laluan serangan yang realistik.
2. Analisis berasaskan ejen meneroka kod dan menghasilkan beberapa hipotesis pada kelajuan mesin.
3. Pengesahan bebas mengurangkan risiko corak mencurigakan bertukar menjadi laporan yang mengelirukan.
4. Penghasilan semula oleh manusia mengesahkan sama ada kelemahan yang dicadangkan benar-benar boleh dieksploitasi.
5. Pendedahan terkoordinasi memberi laluan kepada penyelenggara dan vendor untuk bertindak.
6. Tampalan maya serta kawalan pampasan lain mengurangkan pendedahan sementara pembaikan kod disediakan.
7. Pemulihan berkeutamaan memastikan kerentanan yang paling mudah dicapai dan paling berbahaya dibaiki terlebih dahulu.

AVDH memperlihatkan nilai aliran kerja yang saling berkait ini: penerokaan automatik yang luas digabungkan dengan pertimbangan manusia dan pengesahan eksploit. NOVA pula menunjukkan tekanan yang perlu ditanggung oleh aliran kerja tersebut: penemuan autonomi boleh menghasilkan isu pada skala yang tidak direka untuk diproses oleh pasukan keselamatan tradisional.

Kesimpulan: kemahiran mencari pepijat bukan lagi satu-satunya perlumbaan

Perlumbaan senjata keselamatan siber berasaskan AI bukan sekadar pertandingan untuk menentukan model mana yang menemui pepijat paling banyak. Perlumbaan sebenar ialah melengkapkan seluruh kitaran pengesanan hingga mitigasi lebih pantas daripada kemampuan musuh menukar kerentanan menjadi serangan.

Pihak pertahanan boleh mendapatkan semula kelebihan apabila mereka mengawal kod, saluran telemetri, proses penerapan dan kawalan rangkaian—serta mampu menggunakan AI untuk mempercepatkan semua peringkat tersebut.

Namun, penemuan tanpa pengesahan, pemilik yang bertanggungjawab, pendedahan, pembaikan dan pelaksanaan boleh membesarkan masalah, bukannya menyelesaikannya. Dalam era AI, hambatan utama keselamatan siber sedang beralih: daripada mencari kerentanan kepada membuktikan, mengurus dan menutupnya sebelum penyerang sempat bertindak.