Peringatan Akamai soal AI Agent: Jangan Hanya Verifikasi Identitasnya, Awasi Tindakannya

Agen AI (agentic AI) bukan lagi sekadar perangkat lunak yang menjawab pertanyaan. Agen dapat mengambil informasi, menggunakan alat, memanggil API, serta menjalankan rangkaian tindakan bertahap. Dalam laporan Speed, Scale, and Nonhuman Identity: The Agentic Threat Landscape, Akamai menilai perubahan ini menggeser fokus keamanan: autentikasi dan akses statis saja tidak lagi memadai. Perusahaan perlu mengatur apa yang dilakukan identitas nonmanusia tersebut, dalam konteks dan secara real-time. 117

Mengapa agen otonom mengubah model risiko

Ketika kemampuan penalaran model digabungkan dengan akses ke sistem perusahaan, titik risiko muncul saat agen dapat bertindak: memindahkan data, memakai browser, terhubung ke API, atau memulai alur kerja.

Akamai menyebutnya sebagai persoalan identitas nonmanusia. Organisasi perlu mengetahui bukan hanya karyawan atau layanan yang berada di balik suatu aktivitas, melainkan juga agen yang bertindak, alat yang dapat digunakannya, data yang dapat diaksesnya, serta apakah perilakunya sesuai dengan tugas yang diberikan. 12

Risiko utama yang disorot Akamai

1. Percakapan chatbot bisa menjadi jalur kebocoran data

Akamai melaporkan bahwa lebih dari 6% percakapan dengan chatbot AI dari perangkat perusahaan memuat informasi sensitif. Artinya, prompt, berkas yang diunggah, dan riwayat percakapan perlu diperlakukan sebagai bagian dari perimeter keamanan data—bukan semata-mata isu alat produktivitas. 1

Risikonya meningkat ketika karyawan menggunakan akun AI pribadi atau akun lain yang tidak dipantau perusahaan. Interaksi seperti ini dapat berada di luar visibilitas dan kontrol kebijakan organisasi, sehingga perusahaan lebih sulit mengetahui data apa yang dibagikan dan ke mana data itu dikirim. Akamai memasukkan shadow AI sebagai bagian dari perluasan permukaan serangan AI di perusahaan. 12

2. Ekstensi browser AI menciptakan ruang kerja yang kurang terkelola

Browser menjadi titik kontrol yang rumit karena di sanalah karyawan bekerja, masuk ke berbagai layanan, melihat informasi sensitif, dan semakin sering menggunakan asisten AI. Akamai menyatakan lebih dari 40% pengguna di lingkungan perusahaan telah memasang ekstensi browser bertenaga AI; 25% dari ekstensi tersebut mengubah izinnya dalam 12 bulan sebelumnya. 12

Bukan berarti setiap ekstensi berbahaya. Masalahnya, izin, akses data, dan perilaku ekstensi dapat berubah dalam ruang kerja yang mungkin tidak diperiksa seketat aplikasi perusahaan yang dikelola secara resmi.

3. MCP mengaburkan batas antara data dan tindakan yang dapat dieksekusi

Model Context Protocol (MCP) memungkinkan agen memakai alat dan API. Akamai menggambarkannya sebagai “tangan” praktis bagi AI agent untuk bertindak, tetapi juga sebagai teknologi yang mengaburkan batas antara data dan kode. Server MCP yang berbahaya atau telah dikompromikan dapat memengaruhi perilaku model melalui prompt injection maupun serangan lintas-server. 2

Tantangannya adalah visibilitas dan otorisasi: tim keamanan perlu tahu layanan MCP mana yang bisa dijangkau agen, kredensial dan izin apa yang tersedia, serta tindakan apa yang benar-benar dilakukan agen saat berjalan.

4. Bot dan penyalahgunaan API bergerak pada kecepatan mesin

Akamai mengaitkan munculnya agen dengan tantangan yang lebih luas pada keamanan bot dan API. Sistem otomatis dapat meniru perilaku pelanggan dan menambah volume interaksi yang harus dinilai oleh tim keamanan untuk membedakan aktivitas normal dari penyalahgunaan. Di sektor perdagangan, Akamai mencatat trafik bot AI naik 19% secara tahunan pada 2025, terutama didorong aktivitas ritel. 20

Namun, tidak semua bot AI bersifat jahat. Ada crawler, bot pencarian, fetcher, dan agen yang berguna. Tugas keamanan adalah membedakan aktivitas yang diizinkan dan diharapkan dari perilaku yang tidak lazim atau merugikan. 1827

5. Crawler AI mulai beralih dari membaca ke bertindak

Peringatan Akamai juga mencakup layanan yang menghadap ke web. Riset yang dikutip dalam materi sumber menemukan crawler AI terverifikasi, termasuk ChatGPT, membuat permintaan POST berfrekuensi tinggi—bukan hanya mengambil halaman melalui GET. Jika GET meminta halaman, POST dapat mengirim informasi atau memicu tindakan seperti proses masuk, menambah barang ke keranjang, dan checkout. 19

Dalam analisis selama 30 hari tersebut, e-commerce menyumbang 44,8% transaksi POST bot AI, sedangkan sektor perjalanan mencapai 30% dalam satu bulan. Ini bukan berarti setiap permintaan POST bersifat berbahaya. Implikasinya, trafik dari AI semakin mungkin masuk ke alur kerja yang membutuhkan kontrol pencegahan fraud, pemeriksaan otorisasi, dan pemantauan transaksi yang kuat. 19

Empat langkah tata kelola untuk perusahaan

Arahan Akamai adalah bergeser dari manajemen identitas konvensional menuju tata kelola perilaku bagi aktor manusia dan nonmanusia. Dalam praktiknya, ada empat prioritas. 117

1. Kendalikan perilaku, bukan identitas saja

Autentikasi pengguna, layanan, dan agen tetap penting. Namun, perusahaan juga harus menilai tindakan yang diminta agen: sistem tujuan, alat yang dipakai, data yang diakses, serta pola perilaku yang tidak biasa di berbagai alur kerja dan API. 117

2. Buat inventaris agen, API, dan alat yang terhubung ke MCP

Organisasi memerlukan visibilitas atas agen yang digunakan, akun layanan, ekstensi browser, server MCP, API yang terhubung, serta masing-masing izinnya. Koneksi yang tidak diketahui dan hak akses berlebihan sulit diamankan karena dampaknya tidak dapat dinilai dengan andal. 2

3. Terapkan hak akses minimum dan lindungi aliran data AI

Setiap agen dan alat terhubung sebaiknya dibatasi hanya pada data, sistem, dan tindakan yang benar-benar diperlukan untuk tugasnya. Langkah ini perlu disertai pemantauan penggunaan chatbot, alat AI berbasis browser, serta perpindahan data sensitif. Kebijakan harus mempertimbangkan konteks dan tujuan data, bukan hanya fakta bahwa sebuah akun berhasil masuk. 12

4. Gunakan kontrol berbasis risiko secara real-time, dengan pengawasan manusia

Otomatisasi pada kecepatan mesin membutuhkan pertahanan yang dapat menilai perilaku ketika aktivitas berlangsung. Tugas berisiko rendah dan mudah dibatalkan dapat diberi otonomi lebih besar. Sebaliknya, tindakan yang berdampak besar, menyangkut data sensitif, atau terlihat tidak lazim perlu menghadapi kontrol lebih ketat atau memerlukan persetujuan manusia. Pendekatan ini sejalan dengan penekanan Akamai pada pengendalian perilaku nonmanusia dan aktivitas API secara real-time. 17

Intinya

Akamai tidak memandang agen AI sebagai kategori pengguna atau bot biasa. Agen merupakan aktor operasional yang dapat menjembatani data, alat, dan transaksi. Karena itu, prioritas keamanan perusahaan adalah memetakan koneksi tersebut, membatasi izin, memantau perilaku secara berkelanjutan, dan menyesuaikan tingkat otonomi dengan tingkat risikonya. 1217