AI ejen perlu dikawal berdasarkan tindakan, bukan identiti semata-mata

AI ejen (agentic AI) bukan lagi sekadar perisian yang menjawab soalan. Menurut laporan Akamai, Speed, Scale, and Nonhuman Identity: The Agentic Threat Landscape, sistem ini boleh mendapatkan maklumat, menggunakan alat, memanggil API dan melaksanakan tugasan berbilang langkah. Maka, risiko keselamatan muncul pada saat ejen itu boleh bertindak — contohnya memindahkan data, menggunakan pelayar, berhubung dengan API atau memulakan aliran kerja. 117

Hujah utama Akamai ialah pengesahan identiti dan kawalan akses statik tidak lagi memadai. Organisasi perlu mengawal apa yang dilakukan oleh identiti bukan manusia ini, mengikut konteks dan secara masa nyata. Ini termasuk mengetahui ejen yang menjalankan sesuatu tindakan, alat yang digunakannya, data yang boleh dicapai serta sama ada tindakannya munasabah untuk tugasan berkenaan. 12

Mengapa ejen autonomi mengubah model risiko

Ejen AI menggabungkan keupayaan penaakulan model dengan akses kepada sistem organisasi. Kombinasi itu boleh membawa nilai produktiviti, tetapi turut membuka laluan baharu kepada kebocoran data, penyalahgunaan API dan transaksi tanpa pengawasan yang mencukupi.

Akamai menamakan cabaran ini sebagai isu identiti bukan manusia. Dalam erti kata lain, pasukan keselamatan tidak boleh berhenti pada soalan “siapa yang telah log masuk?” Mereka juga perlu menilai “apakah tindakan yang cuba dibuat, terhadap sistem mana, menggunakan alat apa, dan adakah corak itu luar biasa?” 12

Lima risiko yang diberi perhatian Akamai

1. Perbualan chatbot boleh menjadi saluran kebocoran data

Akamai melaporkan bahawa lebih 6% perbualan chatbot AI daripada peranti perusahaan mengandungi maklumat sensitif. Ini menjadikan arahan (prompt), fail yang dimuat naik dan sejarah perbualan sebahagian daripada perimeter keselamatan data organisasi — bukan sekadar isu penggunaan alat produktiviti. 1

Risikonya lebih besar apabila pekerja menggunakan akaun AI peribadi atau akaun yang tidak dipantau. Interaksi sebegini boleh berada di luar keterlihatan dan kawalan dasar organisasi, menyebabkan syarikat sukar menentukan data korporat yang telah dikongsi serta destinasi data tersebut. Akamai menyenaraikan shadow AI sebagai sebahagian daripada permukaan ancaman AI perusahaan yang semakin meluas. 12

2. Sambungan AI pada pelayar mencipta ruang kerja yang sukar dikawal

Pelayar ialah tempat pekerja bekerja, mengesahkan identiti dan melihat maklumat sulit — serta semakin kerap menggunakan pembantu AI. Akamai menyatakan lebih 40% pengguna perusahaan telah memasang sambungan pelayar berkuasa AI, manakala 25% daripada sambungan itu menukar kebenaran dalam tempoh 12 bulan sebelumnya. 12

Bukan semua sambungan tersebut berniat jahat. Namun, kebenaran, akses data dan tingkah lakunya boleh berubah dalam ruang kerja yang mungkin tidak menerima penelitian setanding aplikasi perusahaan yang diurus secara rasmi.

3. MCP mengaburkan sempadan antara data dan tindakan boleh laksana

Model Context Protocol (MCP) membolehkan ejen menggunakan alat dan API. Akamai menyifatkannya sebagai “tangan” praktikal AI ejen, tetapi pada masa sama MCP boleh mengaburkan sempadan antara data dengan kod. Pelayan MCP yang berniat jahat atau telah dikompromi berpotensi mempengaruhi tingkah laku model melalui suntikan arahan (prompt injection) atau serangan antara pelayan. 2

Ini mewujudkan jurang keterlihatan dan kebenaran akses. Pasukan keselamatan perlu mengetahui perkhidmatan MCP yang boleh dicapai oleh ejen, kelayakan serta kebenaran yang tersedia, dan tindakan sebenar yang dilakukan ejen semasa ia beroperasi.

4. Bot dan penyalahgunaan API bergerak pada kelajuan mesin

Akamai mengaitkan kebangkitan ejen AI dengan cabaran yang lebih luas dalam keselamatan bot dan API. Sistem automatik boleh meniru tingkah laku pelanggan serta meningkatkan jumlah interaksi yang perlu dinilai oleh pasukan pertahanan dari segi niat dan kemungkinan penyalahgunaan.

Dalam sektor perdagangan, Akamai merekodkan peningkatan 19% tahun ke tahun dalam trafik bot AI pada 2025, didorong sebahagian besarnya oleh aktiviti runcit. 20

Angka itu tidak bermaksud setiap bot AI adalah berbahaya. Terdapat juga perayap, bot carian, fetcher dan ejen yang sah serta berguna. Tugas keselamatan ialah membezakan aktiviti yang dibenarkan dan dijangka daripada tingkah laku yang aneh atau memudaratkan. 1827

5. Perayap AI semakin bergerak daripada membaca kepada bertindak

Amaran Akamai turut meliputi perkhidmatan yang menghadap web. Penyelidikan yang dirujuk dalam bahan sumber mendapati perayap AI yang disahkan, termasuk ChatGPT, membuat permintaan POST berfrekuensi tinggi dan bukan hanya mengambil halaman melalui permintaan GET. 19

Secara ringkas, GET meminta laman web memaparkan halaman, manakala POST boleh menghantar maklumat atau mencetuskan tindakan seperti log masuk, memasukkan item ke troli dan pembayaran. Dalam analisis 30 hari itu, e-dagang menyumbang 44.8% daripada transaksi POST bot AI, manakala perjalanan mencapai 30% dalam satu bulan. 19

Ini bukan bermakna permintaan POST sememangnya berniat jahat. Sebaliknya, trafik daripada AI semakin boleh sampai ke aliran kerja yang memerlukan kawalan penipuan, semakan kebenaran dan pemantauan transaksi yang lebih ketat.

Empat langkah tadbir urus untuk organisasi

Akamai mengesyorkan peralihan daripada pengurusan identiti konvensional kepada tadbir urus tingkah laku bagi pelaku manusia dan bukan manusia. Secara operasi, pendekatan itu boleh dirumuskan kepada empat keutamaan berikut. 117

1. Kawal tingkah laku, bukan identiti sahaja

Sahkan pengguna, perkhidmatan dan ejen, tetapi nilai juga apa yang mereka cuba lakukan. Kawalan perlu mengambil kira tindakan yang diminta ejen, sistem sasaran, penggunaan alat, akses data dan corak luar biasa merentas aliran kerja serta API. 117

2. Sediakan inventori ejen, API dan alat yang disambungkan melalui MCP

Organisasi memerlukan keterlihatan terhadap ejen yang digunakan, akaun perkhidmatan, sambungan pelayar, pelayan MCP, API yang dihubungkan dan tahap kebenaran masing-masing. Sambungan yang tidak diketahui atau keistimewaan berlebihan sukar dilindungi kerana kesannya tidak dapat dinilai dengan boleh dipercayai. 2

3. Laksanakan prinsip keistimewaan minimum dan lindungi aliran data AI

Hadkan setiap ejen serta alat yang bersambung kepada data, sistem dan tindakan yang benar-benar diperlukan untuk tugasan ditetapkan. Langkah ini perlu digandingkan dengan pemantauan penggunaan chatbot, alat AI berasaskan pelayar dan pergerakan data sensitif. Dasar keselamatan sepatutnya menilai konteks serta destinasi data, bukan hanya sama ada akaun berjaya log masuk. 12

4. Gunakan kawalan masa nyata berasaskan risiko dengan pengawasan manusia

Automasi pada kelajuan mesin memerlukan pertahanan yang boleh menilai tingkah laku ketika ia berlaku. Tugasan berisiko rendah dan mudah dipulihkan mungkin sesuai diberi lebih autonomi. Namun, tindakan yang berimpak besar, melibatkan data sensitif atau menunjukkan corak aneh perlu melalui kawalan lebih ketat atau memerlukan kelulusan manusia. Ini selari dengan penekanan Akamai terhadap kawalan tingkah laku bukan manusia dan aktiviti API secara masa nyata. 17

Intinya

Akamai tidak melihat ejen AI sebagai satu lagi kategori pengguna atau bot. Ejen ini ialah pelaku operasi yang boleh menghubungkan data, alat dan transaksi. Justeru, keutamaan keselamatan ialah memperoleh keterlihatan terhadap hubungan tersebut, mengehadkan kebenaran, memantau tingkah laku secara berterusan dan menetapkan tahap autonomi mengikut risiko. 1217