Daripada pembantu AI kepada aliran serangan beragen: ancaman siber kini lebih pantas dan berskala

Laporan Google, Anthropic dan Microsoft membawa kesimpulan yang sama: AI bukan mencipta jenis pencerobohan yang sama sekali baharu, sebaliknya menukar taktik siber yang sudah diketahui kepada aliran kerja berulang, pantas dan berbilang langkah. Model boleh membantu pelaku merancang, menjana bahan, menguji, menyesuaikan serta menskalakan serangan dengan kurang tenaga pakar dan kurang masa operasi secara manual. Bukti paling kukuh setakat ini menunjukkan AI mempercepat serta menyelaras operasi biasa—bukan sistem yang menjalankan kompromi hujung ke hujung secara bebas tanpa arahan manusia yang bermakna. 107

Daripada pembantu kepada komponen operasi serangan

Google menggambarkan peralihan daripada arahan sekali-sekala kepada aliran kerja beragen yang bersepadu. Dalam pendekatan ini, AI boleh menyokong tugas seperti pengimbasan automatik, pengumpulan kelayakan, penyelesaian masalah dan putaran infrastruktur. Kesan utamanya ialah proses yang dahulu memerlukan beberapa alat dan operator boleh dipendekkan menjadi saluran yang cepat menilai hasil, membaiki ralat dan mencuba semula. 11

Namun, istilah “beragen” tidak semestinya bermaksud serangan itu sepenuhnya tanpa manusia. Ia lebih tepat merujuk kepada AI yang menjalankan beberapa tugasan saling berkaitan dengan tahap pengawasan manusia yang lebih rendah.

Apa yang sebenarnya digunakan oleh penyerang

Microsoft menyatakan bahawa kebanyakan penyalahgunaan AI yang diperhatikan masih tertumpu pada penghasilan teks, kod dan media. Antara kegunaan yang dilaporkan ialah:

• penyelidikan serta pemprofilan sasaran;
• penghasilan umpan spear-phishing dan terjemahan kandungan ke pelbagai bahasa;
• penjanaan, penyahpepijatan atau pengubahsuaian perisian hasad;
• pembinaan skrip dan infrastruktur;
• peringkasan data yang dicuri; dan
• bahan untuk kejuruteraan sosial. 10

Ini penting kerana serangan seperti phishing, pencurian kata laluan dan penyamaran tidak memerlukan teknik baharu untuk menjadi berbahaya. AI menjadikannya lebih mudah dipersonalisasi, diubah suai dan dihantar pada jumlah yang lebih besar.

Kumpulan berkait negara dan jenayah siber

Anthropic berkata ia mengesan dan mengganggu aktiviti yang dikaitkan dengan pelaku berkaitan Rusia, China dan Iran, di samping kumpulan bermotif kewangan. Kes kajiannya merangkumi operasi siber, operasi pengaruh, pengawasan, penipuan, penyalahgunaan berkaitan biologi, pembangunan senjata konvensional dan penyulingan model. Reuters melaporkan bahawa kes Anthropic termasuk operasi berkaitan Rusia yang menyasarkan pegawai Ukraine serta dakwaan penyalahgunaan Claude oleh syarikat AI China. Ini ialah atribusi dan kajian kes oleh syarikat, bukannya ukuran menyeluruh bagi semua aktiviti ancaman di dunia. 724

Dalam konteks operasi siber, nilai AI terletak pada gelung pantas: penyerang boleh menjana kod, mengujinya, mengubah suainya selepas dikesan produk keselamatan, kemudian mencuba versi lain. Anthropic turut melaporkan penyalahgunaan kelayakan atau kunci API yang dicuri sebagai sumber pengkomputeran kos rendah. Risiko utama bukan satu arahan berniat jahat, tetapi kitaran jana, uji, semak dan laksana yang boleh berjalan dengan sangat pantas. 87

ShinyHunters: taktik lama, pelaksanaan lebih meyakinkan

Microsoft mengaitkan kempen kejuruteraan sosial bertemakan passkey dan log masuk tunggal (SSO) terhadap akaun korporat Microsoft 365 dengan pelaku yang dikaitkan dengan ShinyHunters, Helix dan kumpulan pemerasan berkaitan. Corak yang dilaporkan bermula dengan peninjauan sasaran, diikuti penyamaran sebagai sokongan IT untuk mendapatkan akses dan mencuri data awan. 3

Contoh ini menggambarkan perubahan ekonomi serangan: pencurian kelayakan masih bergantung pada memperdaya manusia, tetapi AI boleh membantu menghasilkan mesej, halaman sokongan palsu dan variasi bahasa yang lebih meyakinkan. Ia tidak membuktikan bahawa AI menjalankan keseluruhan pencerobohan secara bebas.

Penyamaran pada skala besar

Penyamaran jenama AI atau khidmat sokongan sepadan dengan kelebihan AI dari segi kos. Halaman sokongan yang kelihatan sah, mesej phishing, interaksi sembang, suara atau visual yang ditiru, serta versi berbilang bahasa boleh dihasilkan dan dikemas kini dengan lebih murah. Akibatnya, pasukan keselamatan berdepan jumlah mesej yang lebih tinggi, lebih diperibadikan dan lebih pelbagai—menjadikan penapisan berdasarkan templat lama atau kesilapan tatabahasa semakin kurang berkesan. Microsoft secara khusus memerhatikan penggunaan AI untuk menghasilkan umpan phishing dan menterjemah kandungan. 10

Penyulingan model: sasaran baharu dalam ekosistem AI

Google turut menonjolkan ancaman yang berbeza daripada pencerobohan rangkaian biasa: serangan pengekstrakan model, atau penyulingan model. Dalam serangan ini, pelaku menggunakan akses yang kelihatan sah—contohnya melalui API—untuk menghantar pertanyaan secara sistematik bagi mengeluarkan keupayaan proprietari model seperti Gemini. Maklumat itu berpotensi digunakan untuk melatih atau menambah baik model lain. Google menganggapnya sebagai isu kecurian harta intelek dan keselamatan keupayaan model. 11

Laporan awam menggambarkan kempen dengan jumlah arahan yang sangat besar. Tafsiran yang berhati-hati ialah penyerang mungkin cuba meniru tingkah laku berguna model AI canggih melalui percubaan API secara besar-besaran, manakala penyedia berusaha mengenal pasti corak pertanyaan yang menyalahgunakan perkhidmatan serta melindungi penaakulan dan perlindungan model. 118

Mengapa kos pertahanan berubah

AI menurunkan kos marginal untuk menulis kandungan, membuat penyetempatan bahasa, menjalankan penyelidikan, membantu pengekodan dan memperhalusi penipuan. Ini membolehkan penjenayah atau kumpulan berkemampuan rendah memperoleh sebahagian keupayaan yang sebelum ini lebih sinonim dengan pasukan lebih besar. Bagi pembela, cabarannya ialah membezakan komunikasi sah daripada kandungan berniat jahat yang semakin diperibadikan dan kerap berubah. 610

Jadi, perubahan utama bukan jaminan bahawa setiap serangan berasaskan AI akan berjaya. Sebaliknya, ia mewujudkan ketidakseimbangan dari segi kelajuan, jumlah dan kos: penyerang boleh mencuba lebih banyak variasi, manakala pembela perlu menilai lebih banyak isyarat yang tidak lagi kelihatan jelas mencurigakan.

Isu AI bertanggungjawab melangkaui phishing

Perbincangan ini tidak terhad kepada keselamatan e-mel atau akaun. Laporan Anthropic turut meliputi cubaan penyalahgunaan yang berkaitan dengan penyelidikan biologi dan pembangunan senjata konvensional, selain operasi siber. Oleh itu, isu AI bertanggungjawab melibatkan pemantauan penyalahgunaan, kawalan akaun dan API, had kadar penggunaan, pengesanan pengekstrakan model, perkongsian maklumat insiden serta perlindungan bagi bidang berimpak tinggi. 162

Peringatan penting: penerbitan ini mendokumenkan kes yang dikesan dan diganggu. Ia menunjukkan keupayaan serta corak operasi yang sedang muncul, tetapi tidak dengan sendirinya membuktikan bahawa serangan autonomi ialah bentuk dominan jenayah siber pada masa ini. 7