Pengawal Selia Global Bimbang AI Autonomi dalam Kewangan, Singapura Perkenal Rangka Kerja Keselamatan Baharu

Kebimbangan itu bukan hanya tertumpu pada satu transaksi yang tersilap. Tingkah laku model yang serupa, pergantungan pada penyedia teknologi pihak ketiga dan keputusan automatik yang tersebar dengan pantas boleh menguatkan kelemahan sedia ada dalam pasaran ^AB.

Peraturan tidak bergerak sepantas teknologi

Penggubal dasar dan pengawal selia Eropah pada Julai 2026 memberi amaran bahawa peraturan kewangan sedang bergelut untuk mengejar perkembangan AI. Keadaan itu boleh menimbulkan risiko terhadap integriti pasaran dan kestabilan kewangan ^C.

Di United Kingdom, Bank of England sedang mempertimbangkan sama ada pendekatan pengawasan baharu diperlukan bagi sistem agentic AI yang semakin berkeupayaan, khususnya apabila sistem itu digunakan untuk pembayaran atau dagangan ^M.

Keselamatan siber dan risiko operasi

Seorang pengawal selia kanan Switzerland menyifatkan AI sebagai teknologi yang “memperhebat” risiko keselamatan siber. Model AI kini mampu mengenal pasti kelemahan perisian pada skala besar, tetapi keupayaan yang sama turut meningkatkan persoalan tentang serangan siber, keselamatan dan pihak yang bertanggungjawab apabila berlaku insiden ^R.

Analisis BIS turut menyatakan bahawa penggunaan AI oleh institusi kewangan boleh memburukkan risiko mikroprudensial—iaitu risiko terhadap operasi sesebuah institusi—termasuk risiko kredit, kecairan, model dan operasi ^B.

Penipuan pelaburan dan kemudaratan pengguna

Suruhanjaya Dagangan Niaga Hadapan Komoditi Amerika Syarikat atau CFTC telah memberi amaran tentang penipuan pelaburan berasaskan AI. Penipu menggunakan dakwaan bahawa alat pelaburan yang dibantu AI mampu menjana pulangan besar, kemudian menyebarkannya melalui media sosial untuk menarik mangsa ^C.

Dalam pasaran broker pula, laporan pengawasan FINRA bagi 2026 mula membingkaikan agentic AI sebagai isu penyeliaan teras. Perhatian tidak lagi hanya tertumpu pada kandungan komunikasi yang dijana AI, tetapi juga pada kemungkinan sistem automatik melaksanakan langkah yang sepatutnya dilakukan atau disahkan oleh individu berdaftar ^SF.

Respons Singapura: pendekatan berlapis

Singapura membina respons merentas beberapa agensi, dengan setiap inisiatif menangani lapisan risiko yang berbeza.

Apa yang istimewa tentang SAFR?

Kertas putih SAFR yang diterbitkan pada 3 Julai 2026 ialah inisiatif yang paling khusus untuk sektor kewangan. Ia dibangunkan oleh MAS bersama institusi kewangan dan syarikat fintech bagi memastikan ejen AI menjalankan tugas kewangan secara selamat, terjamin dan boleh dipercayai ^E.

Ciri utamanya ialah titik semakan tadbir urus ketika operasi. Sebelum ejen AI melaksanakan sesuatu tindakan, tindakan itu perlu disemak berdasarkan dasar yang telah ditetapkan. Rekod tindakan tersebut juga diwujudkan, supaya keputusan automatik boleh dijejaki dan diaudit ^N.

Pendekatan ini penting kerana risiko agentic AI tidak hanya muncul ketika model dibangunkan. Risiko boleh timbul pada saat sistem sedang beroperasi—contohnya apabila ia mengakses data, memulakan pembayaran, mengubah rekod atau membuat keputusan dagangan.

Empat lapisan kawalan dalam rangka kerja IMDA

Model AI Governance Framework for Agentic AI yang dilancarkan IMDA pada Januari 2026 pula memberi tumpuan kepada isu yang sukar ditangani oleh rangka kerja AI umum. Antara prinsip utamanya ialah:

• Mengehadkan autonomi dan akses ejen, supaya sistem hanya boleh melakukan perkara yang dibenarkan;
• Menetapkan akauntabiliti manusia pada titik semakan yang jelas;
• Menggunakan kawalan teknikal, termasuk ujian asas sebelum penggunaan; dan
• Memastikan tanggungjawab pengguna akhir, walaupun tindakan dilaksanakan oleh ejen AI ^LY.

Pematuhan kepada rangka kerja IMDA itu bersifat sukarela, tetapi organisasi masih bertanggungjawab dari sudut undang-undang terhadap tingkah laku dan tindakan ejen yang mereka gunakan ^T.

Bagaimana pula dengan institusi kewangan?

Konsultasi MAS mengenai AIRG, yang dibuka pada November 2025 dan ditutup pada 31 Januari 2026, mencadangkan keperluan formal berkaitan tanggungjawab lembaga pengarah serta pengurusan kanan. Ia turut menekankan sistem untuk mengenal pasti penggunaan AI, inventori AI yang menyeluruh, kawalan sepanjang kitar hayat dan pengurusan risiko penyedia pihak ketiga ^MMKP.

Cadangan itu bertujuan memastikan bank, syarikat insurans, fintech dan institusi kewangan lain tidak melihat AI sebagai projek teknologi semata-mata. Penggunaan AI perlu dimasukkan ke dalam struktur pengurusan risiko, penyeliaan dan akauntabiliti organisasi.

Bolehkah pendekatan Singapura menjadi contoh dunia?

Pendekatan Singapura menggabungkan rangka kerja tadbir urus, cadangan garis panduan pengawasan, kit pelaksanaan praktikal dan kerjasama industri. Gabungan itu menjadikannya antara respons kawal selia paling menyeluruh terhadap agentic AI dalam kewangan setakat ini.

Namun, kewujudan rangka kerja tidak bermakna semua risiko telah selesai. Cabaran sebenar ialah pelaksanaan: sejauh mana semakan pra-tindakan berfungsi dalam pasaran yang pantas, bagaimana rekod AI diaudit dan siapa yang dipertanggungjawabkan apabila sistem membuat keputusan yang tidak dijangka.

Ketika FSB, Bank of England dan pengawal selia lain terus menyeru perlindungan yang lebih kukuh, seni bina Singapura menawarkan titik rujukan yang konkrit untuk bidang kuasa lain yang sedang mencari cara mengawal AI yang bukan sekadar memberi cadangan, tetapi mampu bertindak sendiri ^AMI.