Peringatan Keras IBM: 67% Pemimpin Teknologi Bertanggung Jawab atas AI di Luar Kendali Mereka

Mandat CEO Berbenturan dengan Realitas Operasional

Tekanan dari atas terasa begitu besar. 80% responden mengonfirmasi bahwa CEO mereka telah mengeluarkan mandat transformasi berbasis AI . Namun, ambisi ini tidak sejalan dengan kesiapan organisasi. Sebanyak 77% pemimpin menyebut adopsi AI sudah melampaui kemampuan tata kelola mereka , dan hanya 11% yang merasa sepenuhnya siap menghadapi skala penyebaran agen AI yang diperkirakan terjadi tahun depan . Kesenjangan antara aspirasi strategis dan kesiapan operasional belum pernah selebar ini.

Meningkatnya Beban Insiden Agen AI

Risiko dari penerapan AI yang tak terkendali tidak lagi bersifat teoretis. Organisasi yang disurvei melaporkan rata-rata 54 insiden agen AI dalam setahun terakhir saja—didefinisikan sebagai peristiwa yang tidak diinginkan atau merugikan yang memerlukan koreksi manusia . Kerusakan dari insiden-insiden ini signifikan dan berlapis:

• 17% insiden tergolong berbahaya, masing-masing memerlukan waktu lebih dari empat jam untuk diatasi .
• 37% mengakibatkan paparan data atau pelanggaran keamanan .
• 33% menyebabkan kegagalan sistem berantai, di mana satu agen yang menyimpang memicu reaksi berantai di seluruh sistem yang saling terhubung .
• 17% memicu masalah kepatuhan regulasi langsung .

Belanja Melonjak Tanpa Visibilitas

Saat perusahaan berlomba membangun kemampuan AI mereka, pengeluaran diproyeksikan meroket secara dramatis. Porsi AI dalam anggaran TI diperkirakan tumbuh dari kurang dari 15% pada 2025 menjadi hampir 25% pada 2027, mewakili kenaikan sebesar 71% hanya dalam dua tahun . Pertumbuhan finansial yang cepat ini terjadi dalam kegelapan bagi banyak organisasi. Studi tersebut menemukan bahwa 84% eksekutif C-suite teknologi belum sepenuhnya mengoperasionalkan manajemen keuangan AI, dan 85% tidak memiliki visibilitas lengkap terhadap pengeluaran AI real-time mereka . Tanpa FinOps yang mapan untuk AI, para pemimpin bagai terbang buta saat taruhan finansial meroket.

Jalan Keluar: Menanamkan Kontrol Lewat Desain

Riset IBM tidak hanya mendiagnosis masalah; tetapi juga mengukur hasil bagi yang berhasil memecahkannya. Studi ini mengungkap jurang kinerja yang mencolok antara dua pendekatan: mereka yang menanamkan kontrol langsung ke dalam sistem AI mereka ("kontrol lewat desain") dan mereka yang mengandalkan tata kelola manual tradisional yang tidak bisa mengimbangi.

Organisasi yang merancang tata kelola ke dalam sistem mereka sejak awal, dibandingkan dengan yang menggunakan pengawasan manual, mencapai hasil yang jauh lebih baik :

• Menerapkan 16 kali lebih banyak agen AI .
• Memberikan margin operasi 18% lebih tinggi .
• Mengalokasikan 4 kali lebih sedikit dari total anggaran AI mereka .
• Mengalami 25% lebih sedikit insiden AI .

Data ini menegaskan pergeseran pola pikir yang krusial: tata kelola yang kuat bukanlah rem bagi inovasi—melainkan mesin yang memungkinkan skala aman dan menguntungkan. Temuan tambahan memperkuat hal ini. Organisasi dengan disiplin keuangan yang kuat menerapkan 2,4 kali lebih banyak agen AI tanpa mengeluarkan porsi anggaran TI yang lebih tinggi untuk AI, serta 3 kali lebih mungkin menyatakan diri sepenuhnya siap menghadapi skala AI mendatang . Mereka yang sejak awal merancang fondasi TI untuk adaptabilitas melaporkan pengembalian investasi AI 10% lebih tinggi pada 2025 .