Google Cloud COO Bilang Keamanan AI Harus Bawaan — Lalu Kenapa Developer Kena Tagihan Puluhan Juta?

Pada Mei 2026, COO Google Cloud sekaligus Presiden Produk Keamanan, Francis de Souza, menyampaikan pesan tegas kepada perusahaan yang mengadopsi AI: keamanan, tata kelola, dan kemampuan audit harus dibangun ke dalam platform AI sejak hari pertama. Berbicara di sebuah acara di Los Angeles, ia menekankan bahwa "keamanan bukanlah sesuatu yang bisa Anda tambal belakangan" dan mendesak perusahaan untuk mengambil "pendekatan platform" yang menyematkan kontrol ini secara bawaan (native) . Ia secara spesifik memperingatkan tentang "shadow AI"—karyawan yang menggunakan alat konsumen tanpa pengawasan organisasi—dan permukaan serangan yang meluas, termasuk model, jalur data, dan prompt .

Namun, di minggu yang sama, beberapa laporan independen muncul merinci jenis kegagalan keamanan tambal-sulam yang justru diperingatkan oleh de Souza—terjadi di platform Gemini API milik Google sendiri. Kontras antara panduan publik sang eksekutif dan pengalaman nyata developer di lapangan mengungkapkan kesenjangan yang signifikan antara retorika keamanan AI dan realita operasional.

Penggunaan API tanpa izin dan tagihan kejutan puluhan juta rupiah

Developer yang menggunakan Gemini API melaporkan gelombang kunci API yang disusupi menghasilkan tagihan besar tanpa izin dalam hitungan menit. Di forum developer Google sendiri, seorang pengguna mendokumentasikan tagihan sengketa sebesar ₹8,61,344 (~$10,300 atau sekitar Rp170 jutaan) yang ditelusuri berasal dari kunci API Android yang disediakan secara otomatis oleh Firebase—sebuah kunci yang tidak pernah dimaksudkan untuk mengakses Gemini, tetapi secara otomatis aktif ketika Generative Language API diaktifkan di proyek tersebut . Developer lain melaporkan tagihan $4,368 (sekitar Rp72 jutaan) dari kunci sisi klien yang sudah bocor sejak tahun 2022 .

Dalam satu kasus yang banyak dikutip, akun pelanggan Google Cloud mengalami peningkatan kapasitas otomatis yang memicu tagihan $17.000 (sekitar Rp280 jutaan) dalam hitungan menit . The Register merinci sejumlah pelanggan yang kunci API-nya bocor mengakibatkan tagihan puluhan juta rupiah untuk beban kerja inferensi AI yang mahal, dan mencatat bahwa Google baru mengganti kerugian korban setelah publikasi tersebut melakukan investigasi . Seorang developer mengatakan kepada The Register bahwa mereka "dikejutkan" oleh kebijakan Google yang secara otomatis meningkatkan tingkatan penagihan tanpa persetujuan eksplisit .

Skala masalah ini jauh melampaui beberapa kasus anekdotal. Laporan menggambarkan akun-akun yang sebelumnya menghasilkan tagihan bulanan kecil tiba-tiba mengalami lonjakan cepat yang terkait dengan model AI berbiaya tinggi, dengan sistem otomatis meningkatkan batas pengeluaran hingga sebesar $100.000 (lebih dari Rp1,6 miliar) dan memungkinkan penggunaan tanpa izin berlanjut meskipun batas anggaran yang telah ditetapkan sebelumnya .

Pencabutan kredensial yang lambat: celah 23 menit

Jika kunci API disusupi, respons keamanan standarnya adalah segera mencabutnya. Namun, perusahaan keamanan Aikido menerbitkan riset pada Mei 2026 yang menunjukkan bahwa bahkan setelah developer menghapus kunci API Google yang disusupi, penyerang masih dapat menggunakannya hingga 23 menit kemudian . Para peneliti mengonfirmasi bahwa autentikasi berhasil untuk seluruh jendela waktu tersebut setelah penghapusan dimulai, dengan waktu aktif median sekitar 16 menit dan maksimum yang diamati adalah 23 menit .

Celah ini terjadi karena penghapusan kunci tidak tercermin di semua infrastruktur Google secara bersamaan, melainkan merambat secara bertahap . Bagi penyerang otomatis yang memboroskan panggilan API berbayar, 23 menit adalah waktu yang lebih dari cukup untuk menghasilkan kerusakan finansial yang substansial. Temuan ini secara langsung bertentangan dengan prinsip kontrol keamanan yang bekerja seketika saat dipicu—sebuah harapan dasar untuk platform apa pun yang memproses peristiwa penagihan.

Peningkatan tingkat penagihan otomatis yang menimpa batasan yang ditetapkan pengguna

Mungkin masalah yang paling struktural adalah bagaimana tingkatan penagihan Gemini API dirancang. Sistem ini beroperasi pada tingkatan penggunaan yang meningkat secara otomatis berdasarkan riwayat pembayaran: Tingkat 1 dibatasi pada $250 (sekitar Rp4,1 jutaan) per bulan, Tingkat 2 pada $2.000 (sekitar Rp33 jutaan), dan Tingkat 3 berkisar dari $20.000 hingga lebih dari $100.000 . Pengguna dapat ditingkatkan secara otomatis seiring bertambahnya pengeluaran kumulatif dan usia akun, dengan ambang kualifikasi yang lebih rendah diperkenalkan pada tahun 2026 .

Secara krusial, The Register melaporkan bahwa bahkan setelah mengganti rugi beberapa korban terkenal, Google menyatakan akan tetap berpegang pada kebijakannya untuk secara otomatis memperluas batas pengeluaran pengguna . Ini berarti pengguna yang mendaftar dengan ekspektasi batas $250 bisa mendapati diri mereka terpapar tagihan dengan besaran yang jauh lebih tinggi tanpa persetujuan eksplisit atau peringatan yang memadai.

Google memang memperkenalkan Project Spend Caps pada Maret 2026, sebuah respons langsung terhadap kemarahan publik. Fitur ini memungkinkan developer menetapkan batas dolar bulanan pada pengeluaran Gemini API per proyek di dalam AI Studio . Namun, perbaikan ini datang dengan kelemahan signifikan: jeda penegakan sekitar 10 menit, di mana pengguna tetap bertanggung jawab secara finansial atas setiap tagihan yang timbul . Untuk aplikasi yang memproses ribuan panggilan API per menit, 10 menit penagihan tak terbatas merupakan eksposur finansial yang material.

Apa artinya ini bagi adopsi AI perusahaan

Kesenjangan antara panduan de Souza dan kinerja platform Google sendiri menggambarkan tantangan yang lebih luas dalam AI perusahaan. Nasihat sang eksekutif—sematkan keamanan dan tata kelola dari awal, hindari shadow AI, tuntut kemampuan audit—sudah tepat dan perlu. Tetapi seperti yang dicatat oleh TechCrunch dalam liputannya tentang kontradiksi ini, "Semua orang sedang menavigasi keamanan AI secara real-time—bahkan Google" .

Bagi organisasi yang membangun di atas platform AI, insiden Gemini API menawarkan beberapa pelajaran praktis. Pertama, pengelolaan kunci API dan kebersihan kredensial tetap fundamental: kunci yang tertanam dalam kode sisi klien, disediakan otomatis oleh layanan seperti Firebase tanpa batasan yang tepat, atau dibiarkan tanpa batasan pada proyek akan ditemukan dan dieksploitasi. Kedua, tata kelola penagihan harus diperlakukan sebagai fungsi keamanan. Batas pengeluaran dengan jeda penegakan 10 menit atau peningkatan otomatis yang menimpa keinginan pengguna bukanlah kontrol yang sebenarnya. Ketiga, kemampuan audit membutuhkan lebih dari sekadar pencatatan—ini membutuhkan tindakan keamanan seperti pencabutan kredensial berlaku seketika dan universal di seluruh infrastruktur penyedia.

Peringatan de Souza bahwa waktu rata-rata antara pelanggaran awal dan tahap serangan berikutnya telah turun menjadi 22 detik menggarisbawahi urgensinya . Ketika permukaan serangan meluas hingga mencakup model, jalur data, dan agen, margin kesalahan menyusut. Celah pencabutan kunci 23 menit atau peningkatan tingkat otomatis yang aktif selama kompromi aktif bukanlah ketidaknyamanan kecil—itu adalah kegagalan keamanan yang secara langsung memungkinkan kerugian finansial.