Rantaian Ejen AI Mengubah Perlumbaan Menemui Kelemahan Siber

Dapatan AVDH yang dilaporkan Mandiant

Google berkata AVDH telah digunakan secara dalaman selama kira-kira 10 bulan dan menemui puluhan kelemahan yang boleh diberikan pengenal pasti dalam sambungan web serta projek sumber terbuka yang digunakan secara meluas. Usaha itu menghasilkan 12 CVE yang telah diberikan, dengan kira-kira sedozen lagi kelemahan masih melalui proses pendedahan aktif.

Dalam satu siasatan tindak balas insiden melibatkan repositori korporat yang dicuri, laporan luar menyatakan bahawa harness tersebut membantu mengenal pasti lebih 100 kelemahan berkeparahan tinggi yang telah disahkan dalam tempoh dua hari.

Angka ini menunjukkan potensi skala semakan kod berbantukan AI, tetapi ia perlu dibaca dengan berhati-hati. Angka berkenaan ialah hasil operasi yang dilaporkan Mandiant dan liputan berkaitan, bukannya perbandingan yang diaudit secara bebas dengan kaedah ujian keselamatan konvensional. Dapatan itu juga tidak wajar terus dianggap sebagai eksploit sifar hari yang sedang aktif digunakan. Kelemahan yang baru ditemui atau belum pernah dilaporkan tidak semestinya sedang dieksploitasi di alam liar.

NOVA menggabungkan pelbagai model untuk mencari kelemahan

Unit 42 Palo Alto Networks menerangkan NOVA—singkatan bagi Network and Open-Source Vulnerability Analyzer—sebagai sistem autonomi untuk penemuan, pengesahan dan pelaporan kelemahan. Sistem ini menggunakan harness ejen proprietari yang dikuasakan oleh pelbagai model AI termaju.

Dalam ujian yang dilaporkan syarikat itu, NOVA menganalisis 3,915 projek sumber terbuka dalam tempoh dua bulan dan mengenal pasti 14,090 kelemahan yang sebelum ini tidak diketahui. Unit 42 berkata 99.4% daripadanya belum pernah dilaporkan, manakala kira-kira 40% dinilai berkeparahan tinggi atau kritikal.

Kepentingan NOVA bukan hanya pada jumlah dapatan. Laporan mengenai keputusan itu menyatakan bahawa banyak kelemahan berkenaan ialah pepijat semantik atau logik, bukannya pepijat kerosakan memori yang lazimnya menjadi tumpuan analisis automatik. Contohnya termasuk kesilapan kawalan akses, pengendalian laluan, tingkah laku permintaan dari sisi pelayan atau pertahanan terhadap suntikan kod—bidang yang memerlukan pemahaman terhadap tujuan sebenar aplikasi.

Seperti angka AVDH, angka utama NOVA dilaporkan oleh vendor. Istilah “sebelum ini tidak diketahui” tidak dengan sendirinya membuktikan bahawa setiap dapatan ialah eksploit sifar hari yang boleh digunakan secara praktikal. Begitu juga, pengelasan tahap keterukan boleh bergantung pada kerangka pemarkahan yang digunakan. Kesimpulan yang lebih kukuh ialah sistem ejen berbilang model kini berupaya menemukan sejumlah besar calon kelemahan yang mungkin tidak dapat disemak oleh proses konvensional pada kelajuan yang sama.

Penemuan pantas sahaja tidak mencukupi

Menemui kelemahan dengan lebih pantas boleh meningkatkan keupayaan pertahanan, tetapi ia juga boleh memburukkan keadaan jika organisasi masih bergantung pada kitaran pemulihan yang perlahan. CERT-EU memetik anggaran purata masa untuk eksploit sebanyak negatif tujuh hari. Ini bermakna eksploitasi mungkin bermula sebelum tampalan tersedia secara meluas.

Metrik itu mengubah peranan tampalan. Pembaikan kekal pada kod masih diperlukan, tetapi ia mungkin bukan tindakan pertahanan pertama atau satu-satunya yang berguna. Pasukan keselamatan juga perlu mengurangkan pendedahan sementara pembangun menyiasat, menguji, menyelaras pendedahan dan melengkapkan pelancaran secara berperingkat.

Program Palo Alto menambah pembendungan di peringkat rangkaian

Program Frontier AI Critical Defense Palo Alto Networks direka untuk menyelaras makmal AI, organisasi perisian dan sumber terbuka, serta sektor seperti teknologi operasi dan penjagaan kesihatan bagi menangani masalah ini. Cadangannya ialah menggunakan “tampalan maya” di peringkat rangkaian untuk menyekat trafik eksploit atau tingkah laku protokol yang berbahaya sebelum pembaikan perisian kekal tersedia.

Palo Alto berkata keupayaan Advanced Virtual Patching boleh menggunakan perlindungan dalam tempoh beberapa jam, berbanding purata industri yang didakwa syarikat itu sebanyak 55 hari untuk menggunakan tampalan konvensional.

Tampalan maya sebaiknya difahami sebagai kawalan pampasan, bukannya pengganti kepada pembaikan kod yang terdedah. Keberkesanannya bergantung pada keupayaan pasukan keselamatan mengenal pasti laluan eksploit dengan tepat dan memastikan kawalan rangkaian boleh menyekat laluan tersebut tanpa mengganggu aktiviti yang sah. Liputannya juga boleh terhad jika serangan berlaku melalui saluran yang dipercayai, trafik disulitkan, peningkatan keistimewaan setempat atau tingkah laku yang sukar dibezakan daripada penggunaan biasa.

Bolehkah pertahanan mendapatkan semula kelebihan?

Mungkin—tetapi bukan sekadar dengan menambah satu lagi pengimbas AI.

Seni bina pertahanan yang lebih kukuh menghubungkan beberapa peringkat dalam satu kitaran operasi:

1. Petakan kod dan permukaan serangan supaya ejen memahami fungsi sistem.
2. Bina serta semak model ancaman sebelum menjana hipotesis secara besar-besaran.
3. Gunakan berbilang ejen dan model untuk meneliti sistem dari perspektif berbeza serta mencabar dapatan yang lemah.
4. Hasilkan semula dan utamakan kelemahan dengan bantuan pakar manusia serta bukti keboleh-eksploitan.
5. Selaraskan pendedahan dan bina pembaikan kekal melalui proses yang sesuai.
6. Bendung pendedahan dengan segera menggunakan kawalan rangkaian atau langkah pampasan lain.
7. Sahkan pemulihan selepas tampalan perisian digunakan.

Inilah pengajaran strategik daripada AVDH dan NOVA: kelebihan datang daripada penyelarasan, bukan output model semata-mata. AI boleh memendekkan masa penemuan dan pengesahan, tetapi pasukan pertahanan masih memerlukan bukti yang boleh dipercayai, keutamaan yang teliti, seni bina yang berdaya tahan dan sistem penggunaan tampalan yang mampu bertindak pada kelajuan sama.

Penyerang juga boleh menggunakan model yang setanding, manakala tampalan maya bersifat sementara dan bergantung pada liputan. Matlamat yang realistik bukanlah menghapuskan risiko sifar hari sepenuhnya. Sebaliknya, organisasi perlu menjadikan kitaran pertahanan—daripada penemuan kepada pembendungan dan pemulihan—lebih pantas serta lebih boleh dipercayai daripada laluan penyerang daripada penemuan kepada eksploitasi.