AI Kini Menemukan Kerentanan dalam Skala Industri—Validasi Menjadi Hambatan Baru

Perkembangan terpenting dari Agentic Vulnerability Discovery Harness (AVDH) milik Mandiant bukanlah satu angka kerentanan tertentu. Yang lebih signifikan adalah perubahan cara kerja: riset keamanan berbantuan AI mulai menjadi alur kerja yang direkayasa secara sistematis, bukan sekadar eksperimen dengan chatbot.

AVDH menggabungkan agen-agen khusus, peninjauan model ancaman oleh konsultan manusia, analisis jalur eksploitasi, validasi independen, serta reproduksi eksploit proof-of-concept oleh konsultan. Dalam satu penanganan insiden, Google menyatakan sistem ini menemukan lebih dari 100 kerentanan berkeparahan tinggi yang benar-benar positif hanya dalam dua hari.

Namun, hasil tersebut tidak berarti satu model mampu “membaca seluruh kode” lalu menemukan semua masalah. Keunggulan AVDH tampaknya berasal dari pembagian riset kerentanan ke dalam beberapa tahap, penyempitan ruang pencarian yang sangat besar, dan penggunaan pakar manusia sebagai gerbang kualitas sebelum dugaan kelemahan dinyatakan sebagai temuan keamanan.

AVDH adalah alur kerja, bukan satu peninjau AI

Arsitektur AVDH mengikuti logika penilaian keamanan yang biasanya dilakukan peneliti berpengalaman. Sejumlah agen terlebih dahulu membantu memahami fungsi sebuah basis kode dan cara kode tersebut mungkin diserang. Tahap lain memetakan permukaan serangan, menemukan titik masuk, menelusuri aliran data, menghasilkan beberapa hipotesis kerentanan, lalu memvalidasi jalur eksploitasi yang diusulkan.

Konsultan manusia meninjau model ancaman dan mereproduksi eksploit proof-of-concept sebelum sebuah temuan dianggap terverifikasi.

Pembagian tugas ini penting karena analisis kode sumber biasanya menghasilkan jauh lebih banyak pola mencurigakan daripada yang mampu diselidiki tim keamanan secara manual. AVDH dapat menghasilkan banyak temuan antara secara cepat, sementara tahap validasi dan tinjauan manusia memusatkan perhatian pada masalah yang tampak benar-benar dapat dieksploitasi dan berdampak.

Google mengatakan bahwa selama 10 bulan pertama penggunaannya, AVDH menganalisis basis kode yang mencakup puluhan juta baris dan menghasilkan puluhan ribu temuan. Dalam investigasi yang berlangsung dua hari, sistem tersebut mengidentifikasi lebih dari 100 kerentanan kritis yang benar-benar positif. Pekerjaan yang lebih luas juga berkontribusi pada 12 CVE yang telah ditetapkan, sementara sekitar selusin masalah lain dilaporkan masih dalam proses pengungkapan aktif.

Dengan demikian, ukuran yang paling berguna bukan jumlah peringatan mentah. Ukurannya adalah seberapa banyak hipotesis yang dibuat mesin dapat diubah menjadi kerentanan yang bisa direproduksi dan ditangani melalui proses pengungkapan yang bertanggung jawab.

AVDH dan NOVA Palo Alto bukan pesaing yang bisa dibandingkan begitu saja

Palo Alto Networks melaporkan angka utama yang jauh lebih besar dari NOVA, sistem penemuan kerentanan otonom berbasis banyak model. Dalam dua bulan, NOVA menganalisis 3.915 proyek perangkat lunak open source dan melaporkan 14.090 kerentanan terkonfirmasi. Menurut riset Palo Alto, 99,4 persen di antaranya belum pernah dilaporkan dan 40 persen masuk kategori berkeparahan tinggi atau kritis.

Kedua angka tersebut menggambarkan model operasi yang berbeda:

• AVDH: penilaian mendalam dengan batas waktu tertentu yang terhubung dengan respons insiden. Tinjauan manusia dan reproduksi jalur eksploitasi menjadi kontrol kualitas penting.
• NOVA: pemindaian berskala ekosistem terhadap ribuan proyek open source, dengan fokus pada jangkauan dan penemuan otonom.

Laporan yang tersedia tidak membuktikan bahwa kedua sistem menggunakan pemilihan target, kriteria tingkat keparahan, ambang false positive, pengujian kemampuan eksploitasi, atau proses pengungkapan yang sama. Karena itu, angka utama keduanya tidak seharusnya diperlakukan sebagai papan peringkat universal.

AVDH menunjukkan bagaimana rangkaian agen dapat membantu investigasi berkeyakinan tinggi dalam satu penugasan tertentu. NOVA menunjukkan skala yang dapat dicapai penemuan otonom saat diterapkan pada perangkat lunak open source.

Jika digabungkan, hasil tersebut menunjukkan bahwa penemuan kerentanan kini terbelah menjadi dua persoalan: mencari kelemahan dengan cakupan cukup luas dan memvalidasinya dengan kualitas yang cukup baik agar hasilnya dapat ditindaklanjuti.

Fokus pertahanan bergeser dari penemuan ke pengurangan paparan

Jawaban Palo Alto terhadap penemuan yang semakin cepat tidak berhenti pada mencari kelemahan. Usulan Advanced Virtual Patching bertujuan menerapkan perlindungan pada tingkat jaringan dalam hitungan jam, sehingga paparan dapat dikurangi sementara pemilik perangkat lunak mengerjakan perbaikan konvensional. Palo Alto membandingkan pendekatan itu dengan rata-rata waktu pemasangan patch tradisional di industri yang disebut sekitar 55 hari.

Perusahaan tersebut juga mengumumkan Frontier AI Critical Defense Program, yang mempertemukan perusahaan AI, penyedia perangkat lunak, komunitas open source, dan organisasi teknologi operasional dalam upaya pertahanan terkoordinasi. Peserta yang dilaporkan mencakup Anthropic, OpenAI, IBM, Red Hat, Microsoft, Siemens, Mitsubishi Electric, dan Axis Communications.

Virtual patching dapat bermanfaat ketika layanan yang rentan dapat dijangkau melalui lalu lintas jaringan yang bisa dikenali dan diblokir oleh kontrol keamanan. Namun, teknologi ini sebaiknya dipahami sebagai kontrol kompensasi, bukan pengganti perbaikan perangkat lunak.

Perbaikan yang tahan lama tetap membutuhkan pemilik sistem untuk memahami kerentanan, mengubah kode, mengujinya, mendistribusikan pembaruan, dan memastikan semua sistem terdampak telah menerimanya. Kontrol jaringan dapat mengurangi paparan langsung, tetapi tidak otomatis menyelesaikan masalah kode rentan di seluruh aplikasi atau rantai pasok perangkat lunak.

Penyerang juga memperoleh percepatan yang sama

Kemajuan defensif ini berlangsung bersamaan dengan bukti bahwa penyerang menggunakan AI untuk tugas serupa. Google Threat Intelligence Group melaporkan kasus pertama yang mereka identifikasi sebagai penggunaan eksploit zero-day oleh pelaku ancaman, yang diyakini dikembangkan dengan bantuan AI. Pelaku tersebut berencana menggunakannya dalam serangan berskala luas, tetapi Google mengatakan penemuan tandingan secara proaktif membantu mencegahnya.

Eksploit yang dilaporkan menargetkan celah untuk melewati autentikasi dua faktor pada sebuah alat administrasi web open source yang populer. Analisis menemukan sejumlah indikator, termasuk komentar edukatif dan skor CVSS yang berhalusinasi, sebagai bukti bahwa model AI kemungkinan membantu pengembangannya.

Hal ini bukan berarti setiap kerentanan yang dibuat AI akan berubah menjadi serangan operasional. Namun, pertahanan tidak lagi dapat berasumsi bahwa kompleksitas kode, keterbatasan kapasitas peneliti, atau jeda panjang antara penemuan dan eksploitasi akan selalu memberi cukup waktu untuk merespons.

Peringatan Cloud Security Alliance menjadi penting dalam konteks ini: AI meningkatkan kecepatan dan skala penemuan kerentanan lebih cepat daripada kemampuan banyak sistem pengungkapan dan penambalan untuk menanganinya. Lebih banyak temuan hanya akan meningkatkan keamanan jika organisasi memiliki kapasitas untuk melakukan triase, mengoordinasikan pengungkapan, membuat perbaikan, dan menerapkan perlindungan secara aman.

Bisakah defender kembali unggul?

Bisa—tetapi bukan hanya dengan membeli model yang mampu menemukan kerentanan. Keunggulan akan dimiliki organisasi yang menghubungkan penemuan dengan seluruh “sistem operasi” keamanan mereka:

1. Pemodelan ancaman mempersempit pencarian ke jalur serangan yang realistis.
2. Analisis agentik mengeksplorasi kode dan menghasilkan berbagai hipotesis dengan kecepatan mesin.
3. Validasi independen mengurangi risiko pola mencurigakan berubah menjadi laporan yang menyesatkan.
4. Reproduksi oleh manusia memastikan bahwa kelemahan yang diusulkan benar-benar dapat dieksploitasi.
5. Pengungkapan terkoordinasi memberi pengelola proyek dan vendor jalur untuk merespons.
6. Virtual patching serta kontrol kompensasi lain mengurangi paparan sementara perbaikan kode disiapkan.
7. Remediasi terprioritas memastikan kerentanan yang paling mudah dijangkau dan paling berdampak diperbaiki lebih dahulu.

AVDH menggambarkan nilai alur kerja yang terhubung: eksplorasi otomatis berskala luas dipasangkan dengan penilaian manusia dan verifikasi eksploit. NOVA menunjukkan tekanan yang harus ditangani alur kerja tersebut: penemuan otonom dapat menghasilkan temuan dalam skala yang belum dirancang untuk diproses oleh tim keamanan tradisional.

Perlombaan senjata siber berbasis AI, dengan demikian, bukan sekadar kompetisi tentang model mana yang menemukan bug paling banyak. Ini adalah perlombaan untuk menyelesaikan seluruh siklus dari deteksi hingga mitigasi lebih cepat daripada kemampuan lawan mengubah kerentanan menjadi serangan.

Defender dapat memperoleh keunggulan di area yang mereka kuasai—kode, jalur deployment, telemetri, dan kontrol jaringan—terutama jika AI membantu mempercepat siklus tersebut. Tetapi penemuan tanpa validasi, penanggung jawab, pengungkapan, dan remediasi justru dapat memperbesar masalah, bukan menyelesaikannya.