Bagaimana Singapura Bersedia Menghadapi Serangan Siber AI Frontier terhadap Infrastruktur Kritikal

Model frontier juga boleh memperkuat kempen pancingan data dan penyamaran identiti. Menurut CSA, AI boleh menghasilkan umpan pancingan data yang meyakinkan pada skala besar, mencipta klon suara dan video palsu yang realistik, serta membangunkan alat untuk memintas pengesahan berbilang faktor. Akibatnya, permukaan serangan menjadi lebih luas: kelemahan teknikal kekal penting, tetapi identiti, kebenaran akses dan pertimbangan manusia turut menjadi sasaran yang menarik.

Apa yang diketahui tentang Claude Mythos Preview

Anthropic menyifatkan Claude Mythos Preview sebagai model berkeupayaan tinggi untuk tugasan keselamatan komputer dan melancarkan Project Glasswing bagi menggunakannya dalam kerja pertahanan perisian kritikal. Namun, dakwaan awam paling kuat tentang model ini perlu dinilai dengan berhati-hati: pengesahan bebas masih terhad, manakala Anthropic mengekalkan akses kepada model itu secara terkawal dan tidak melepaskannya kepada umum secara meluas.

Kerajaan Singapura berkata pihaknya tidak mempunyai akses kepada Mythos dan tidak menganggap bahawa ia akan menerima akses awal kepada setiap model frontier pada masa hadapan. Sebaliknya, kerajaan bekerjasama dengan makmal AI, syarikat keselamatan siber dan rakan kongsi yang dapat menjejaki perkembangan keupayaan model serta menilai implikasi keselamatannya.

Perbezaan ini penting. Organisasi tidak boleh membina pelan keselamatan dengan bergantung kepada pemeriksaan terhadap satu model tertentu. Mereka memerlukan kawalan yang terus berkesan apabila model, alat dan aliran kerja serangan yang berbeza muncul.

Keutamaan pertahanan Singapura sekarang

CSA dan GovTech telah memaklumkan pemilik CII serta agensi kerajaan tentang risiko AI frontier. Langkah segera yang disarankan adalah praktikal:

• Tampal sistem yang terdedah terlebih dahulu. Baiki semua kelemahan kritikal dan berkeparahan tinggi pada sistem yang menghadap internet, dengan keutamaan kepada aset yang boleh membolehkan pencerobohan meluas.
• Lindungi akses pentadbiran. Aktifkan pengesahan berbilang faktor (MFA) pada antara muka pentadbiran, get laluan dan konsol pengurusan awan. Jika MFA tidak tersedia secara teknikal, hadkan akses melalui kawalan seperti senarai benarkan alamat IP.
• Semak kebenaran akses. Periksa akaun berkeistimewaan tinggi, akaun yang tidak lagi digunakan dan hak akses yang tidak diperlukan. Prinsip keistimewaan minimum serta pembahagian rangkaian boleh mengehadkan capaian penyerang selepas pencerobohan awal.
• Tingkatkan keterlihatan. Simpan inventori tepat bagi sistem kritikal, aset yang menghadap internet, perkhidmatan awan dan kebergantungan pihak ketiga, kemudian pantau semuanya secara berterusan.
• Bersedia untuk bertindak balas. Pelan tindak balas insiden perlu mempunyai laluan eskalasi yang jelas, sandaran yang telah diuji dan latihan yang mencerminkan serangan yang lebih pantas serta lebih automatik.

Langkah ini bukan perkara baharu, tetapi AI frontier menjadikan kelewatan lebih berbahaya. Matlamatnya adalah mengurangkan jumlah kelemahan yang boleh dieksploitasi dan memendekkan masa antara pengesanan dengan pemulihan.

Gunakan AI untuk bertahan—tetapi lindungi AI itu sendiri

Keselamatan siber yang dibantu AI boleh membantu pasukan mengesan ancaman, mengutamakan amaran, menyiasat insiden serta mengenal pasti atau membaiki kelemahan dengan lebih pantas. CSIT Singapura menerangkan aliran kerja dipacu AI dan sistem fuzzing yang direka untuk menemui kelemahan sifar hari dalam perisian kritikal, di samping emulasi adversari bagi mendedahkan kelemahan seni bina sebelum ditemui penyerang.

Namun, AI untuk pertahanan turut membawa tanggungjawab keselamatan tersendiri. CSA berkata memperkukuh model sahaja tidak mencukupi. Pemilik sistem perlu menilai risiko sepanjang kitar hayat AI: perancangan dan reka bentuk, pembangunan, penggunaan, operasi dan penyelenggaraan, serta penamatan hayat. Ini bermakna data latihan dan operasi, antara muka, kebergantungan, rantaian bekalan, kawalan akses dan pemantauan semuanya perlu dilindungi—bukan hanya tingkah laku model.

Pengesahan manusia kekal penting, khususnya apabila sistem AI mencadangkan tampalan, mengelaskan insiden atau mengesyorkan tindakan yang boleh menjejaskan teknologi operasi atau perkhidmatan awam.

Tanggungjawab bersama pemilik CII dan perniagaan

Hala tuju dasar Singapura menggabungkan keselamatan asas dengan ujian berterusan. Pemilik CII sudah menggunakan audit pihak ketiga dan ujian penembusan berkala, dengan laporan diserahkan kepada CSA. Kerajaan juga menekankan bahawa kawalan perlu diperkukuh secara berterusan, bukan hanya bergantung pada pengesahan berkala.

Prinsip operasinya ringkas: kunci dahulu, kesan sebelum diserang, baiki dengan pantas. Dalam amalan, ini bermakna mengekalkan inventori aset, melakukan pengimbasan berterusan, memasang tampalan dengan segera, membahagikan rangkaian dan keistimewaan akses, menguji perisian serta kebergantungan, dan berlatih memulihkan sistem. Perniagaan yang tidak dikategorikan sebagai pemilik CII juga wajar memberi keutamaan yang sama kepada perkhidmatan menghadap internet, sistem identiti, konsol awan dan sambungan pihak ketiga yang sensitif.

Kerjasama dan risikan ancaman

Tiada satu organisasi mampu melihat setiap keupayaan AI frontier atau setiap laluan serangan. Agensi kerajaan, pengendali CII, penyedia awan dan teknologi, penyelidik keselamatan serta institusi akademik perlu berkongsi petunjuk yang boleh diambil tindakan, maklumat kelemahan dan pengajaran daripada latihan secepat mungkin.

Sebahagian risikan semestinya kekal sulit. Singapura berkata ia akan berkongsi risikan ancaman terperingkat secara terpilih dengan pemilik CII, selain menyediakan alat pertahanan kepada mereka. Organisasi perlu bertindak berdasarkan nasihat CSA dan menggunakan risikan yang telah dinyahsensitifkan serta boleh dikongsi apabila sumber terperinci tidak dapat diedarkan.

Latihan di peringkat negara turut menjadi sebahagian daripada pendekatan ini. Critical Infrastructure Defence Exercise (CIDeX) menggunakan simulasi serangan siber dipacu AI merentasi 11 sektor kritikal bersama rakan industri untuk membina daya tahan negara dan memperbaiki penyelarasan.

Kesimpulan praktikal

AI frontier tidak menggantikan asas keselamatan siber; ia meningkatkan kos apabila asas tersebut diabaikan. Pertahanan jangka terdekat Singapura bergantung pada gabungan tampalan pantas, MFA, akses berkeistimewaan minimum, pemantauan berterusan, ujian adversari, penggunaan AI yang selamat dan perkongsian maklumat yang pantas. Organisasi yang menemui kelemahan sendiri sebelum penyerang automatik menemuinya akan mempunyai kelebihan terbesar apabila keupayaan model frontier terus berkembang.