Dari Asisten ke Agen: AI Mempercepat Serangan Siber, Belum Sepenuhnya Mandiri

Temuan bersama dari Google, Anthropic, dan Microsoft bukanlah bahwa AI telah menciptakan jenis intrusi yang sepenuhnya baru. Perubahan utamanya adalah AI mengubah teknik serangan yang sudah lama dikenal menjadi alur kerja berulang dan bertahap: membantu pelaku merencanakan, membuat, menguji, menyesuaikan, lalu memperbesar skala serangan dengan kebutuhan tenaga ahli dan waktu operasional yang lebih kecil. Bukti yang ada paling kuat menunjukkan AI mempercepat serta mengoordinasikan operasi yang lazim—bukan bahwa sistem sudah secara luas menjalankan serangan penuh tanpa arahan manusia yang berarti. 107

Dari asisten menjadi pelaksana bagian-bagian serangan

Google menggambarkan pergeseran dari penggunaan prompt satu kali menuju workflow agen yang terintegrasi. Dalam pola ini, AI dapat dipakai untuk menangani tugas yang saling tersambung, seperti pemindaian otomatis, pengambilan kredensial, pemecahan masalah saat proses gagal, dan rotasi infrastruktur. Dampaknya, pekerjaan yang dahulu memerlukan beberapa alat dan operator dapat dipadatkan menjadi rangkaian yang beriterasi lebih cepat. 11

Meski begitu, istilah “agen” tidak otomatis berarti serangan sudah sepenuhnya mandiri. Microsoft menyatakan bahwa sebagian besar penyalahgunaan AI yang diamati saat ini masih berpusat pada pembuatan teks, kode, atau media. Penggunaan tersebut mencakup penyusunan umpan phishing, penerjemahan, peringkasan data curian, pembuatan atau debugging malware, serta penyusunan skrip dan infrastruktur. 10

Apa saja yang dipercepat oleh AI?

Di berbagai laporan, AI disebut digunakan atau diduga digunakan untuk riset dan pemrofilan target, pembuatan konten spear-phishing multibahasa, pengembangan dan perbaikan malware atau skrip, penyiapan infrastruktur, peringkasan data yang dicuri, serta materi rekayasa sosial. 10

Nilai operasionalnya terletak pada siklus umpan balik yang jauh lebih cepat: membuat materi atau kode, mengujinya, memperbaikinya jika terdeteksi atau gagal, lalu menerapkannya kembali. Dalam kasus yang dilaporkan Anthropic, pelaku dapat meminta model mengubah atau membangun ulang kode setelah produk keamanan menandainya; kredensial atau kunci API yang disusupi juga dapat dimanfaatkan sebagai sumber komputasi berbiaya rendah. Risiko utamanya bukan satu prompt berbahaya, melainkan siklus buat–uji–revisi–sebarkan yang bisa berlangsung sangat cepat. 87

Contoh aktor negara dan kriminal siber

Anthropic menyatakan telah mendeteksi dan mengganggu aktivitas yang melibatkan aktor yang dikaitkan dengan Rusia, China, dan Iran, selain kelompok bermotif finansial. Kasus-kasus itu mencakup operasi siber, operasi pengaruh, pengawasan, penipuan, dugaan penyalahgunaan terkait biologi, pekerjaan senjata konvensional, dan ekstraksi kemampuan model atau distillation. Reuters melaporkan bahwa salah satu kasus Anthropic melibatkan operasi yang dikaitkan dengan Rusia dan menargetkan pejabat Ukraina, serta dugaan penyalahgunaan Claude oleh perusahaan AI asal China. Atribusi ini merupakan penilaian dan studi kasus perusahaan, bukan ukuran menyeluruh atas semua aktivitas ancaman global. 724

Microsoft, sementara itu, mengaitkan kampanye rekayasa sosial bertema passkey dan single sign-on (SSO) terhadap akun korporat Microsoft 365 dengan aktor yang terkait ShinyHunters, Helix, dan kelompok pemerasan terkait. Pola yang dilaporkan dimulai dengan pengintaian, lalu penyamaran sebagai dukungan TI untuk memperoleh akses dan mencuri data cloud. Ini adalah contoh pencurian kredensial konvensional yang dapat diperkuat oleh penargetan dan umpan yang lebih mudah diskalakan—bukan bukti bahwa AI menjalankan seluruh intrusi secara mandiri. 3

Mengapa phishing dan peniruan identitas makin sulit dideteksi?

AI menurunkan biaya marginal untuk menulis, menerjemahkan, melokalkan, meneliti, membantu pembuatan kode, dan menyempurnakan penipuan secara berulang. Konsekuensinya, pelaku dengan sumber daya terbatas—termasuk kriminal siber atau kelompok aktivis peretas—dapat memperoleh sebagian kapasitas yang sebelumnya lebih identik dengan tim besar. 610

Dalam praktiknya, peniruan merek atau identitas dapat mencakup halaman dukungan palsu yang tampak meyakinkan, pesan phishing, percakapan chat, serta variasi konten dalam banyak bahasa. Volume, personalisasi, dan perubahan cepat pada materi tersebut melemahkan pertahanan yang hanya mengandalkan templat pesan yang sudah dikenal atau kesalahan tata bahasa yang mencolok. Microsoft secara spesifik mengamati penggunaan AI untuk membuat umpan phishing dan menerjemahkan konten. 10

Distilasi model: sasaran baru di ekosistem AI

Ancaman tidak hanya datang dari AI yang dipakai untuk menyerang organisasi. Model AI itu sendiri juga menjadi target. Google menyebut pengiriman kueri secara sistematis ke Gemini untuk mengekstrak kemampuan proprieter sebagai serangan distillation atau ekstraksi model—masalah pencurian kekayaan intelektual dan keamanan kapabilitas, bukan sekadar kejahatan siber biasa. 11

Laporan publik menggambarkan kampanye dengan volume prompt yang sangat besar. Interpretasi yang paling hati-hati adalah bahwa pelaku berupaya mereplikasi perilaku bermanfaat dari model AI terdepan melalui pengujian API secara sistematis, sementara penyedia berusaha mendeteksi pola kueri abusif serta melindungi penalaran dan pengaman model mereka. 118

Implikasi untuk pertahanan dan AI yang bertanggung jawab

Bagi tim keamanan, perubahan paling penting adalah ketimpangan kecepatan dan skala. Konten berbahaya bisa menjadi lebih personal, lebih sering berubah, dan lebih sulit dibedakan dari komunikasi sah. Namun, laporan-laporan ini tidak menyimpulkan bahwa setiap serangan berbantuan AI pasti berhasil. 610

Isu akses, kapabilitas, dan pemantauan juga melampaui phishing atau pencurian akun. Laporan Anthropic secara eksplisit mencakup dugaan upaya penyalahgunaan model untuk pengembangan senjata biologis dan senjata konvensional, di samping operasi siber. Karena itu, perdebatan tentang AI yang bertanggung jawab mencakup pemantauan penyalahgunaan, pengendalian akun dan API, pembatasan laju akses, deteksi ekstraksi model, pertukaran informasi insiden, serta pengaman untuk bidang berkonsekuensi tinggi. 162

Catatan pentingnya: publikasi tersebut mendokumentasikan kasus yang terdeteksi dan diganggu. Artinya, laporan ini memperlihatkan kemampuan serta pola operasi yang sedang berkembang, tetapi belum cukup untuk membuktikan bahwa serangan otonom adalah bentuk kejahatan siber yang dominan saat ini. 7