Peringatan Keras IBM: 67% Pemimpin Teknologi Bertanggung Jawab atas AI di Luar Kendali Mereka

Perlombaan perusahaan untuk menerapkan agen AI kini menciptakan jurang akuntabilitas yang berbahaya bagi para pemimpin teknologi. Sebuah studi global baru dari IBM Institute for Business Value (IBV), yang dilakukan bersama Oxford Economics, melukiskan gambaran yang suram: ketika CEO mendorong transformasi AI secara besar-besaran, para CIO dan CTO yang bertugas mengeksekusi mandat tersebut malah semakin sering dimintai pertanggungjawaban atas sistem yang tidak dapat mereka lihat maupun kendalikan sepenuhnya.

Studi CxO 2026 yang mensurvei 2.000 eksekutif teknologi senior di 33 negara dan 19 industri ini mengungkap krisis struktural dalam tata kelola AI perusahaan . Ketegangan intinya jelas: AI berkembang jauh lebih cepat daripada fondasi yang dirancang untuk mengendalikannya.

Jurang Kendali: Bertanggung Jawab atas yang Tak Kasatmata

Temuan utama dari riset IBM ini merupakan peringatan bagi seluruh jajaran C-suite. Sekitar 67% CIO dan CTO yang disurvei melaporkan bahwa mereka dimintai tanggung jawab atas sistem AI yang tidak sepenuhnya mereka kendalikan . Masalah akuntabilitas-tanpa-otoritas ini diperparah oleh kenyataan bahwa 70% pemimpin teknologi menyebut unit bisnis kini meluncurkan teknologi lebih cepat daripada kemampuan TI pusat untuk melacaknya . AI bayangan (Shadow AI), yang dulunya hanya berupa gangguan dari alat SaaS tak resmi, telah berkembang menjadi krisis tata kelola berisiko tinggi yang melibatkan agen otonom yang mengambil keputusan-keputusan krusial.

Mandat CEO Berbenturan dengan Realitas Operasional

Tekanan dari atas terasa begitu besar. 80% responden mengonfirmasi bahwa CEO mereka telah mengeluarkan mandat transformasi berbasis AI . Namun, ambisi ini tidak sejalan dengan kesiapan organisasi. Sebanyak 77% pemimpin menyebut adopsi AI sudah melampaui kemampuan tata kelola mereka , dan hanya 11% yang merasa sepenuhnya siap menghadapi skala penyebaran agen AI yang diperkirakan terjadi tahun depan . Kesenjangan antara aspirasi strategis dan kesiapan operasional belum pernah selebar ini.

Meningkatnya Beban Insiden Agen AI

Risiko dari penerapan AI yang tak terkendali tidak lagi bersifat teoretis. Organisasi yang disurvei melaporkan rata-rata 54 insiden agen AI dalam setahun terakhir saja—didefinisikan sebagai peristiwa yang tidak diinginkan atau merugikan yang memerlukan koreksi manusia . Kerusakan dari insiden-insiden ini signifikan dan berlapis:

• 17% insiden tergolong berbahaya, masing-masing memerlukan waktu lebih dari empat jam untuk diatasi .
• 37% mengakibatkan paparan data atau pelanggaran keamanan .
• 33% menyebabkan kegagalan sistem berantai, di mana satu agen yang menyimpang memicu reaksi berantai di seluruh sistem yang saling terhubung .
• 17% memicu masalah kepatuhan regulasi langsung .

Belanja Melonjak Tanpa Visibilitas

Saat perusahaan berlomba membangun kemampuan AI mereka, pengeluaran diproyeksikan meroket secara dramatis. Porsi AI dalam anggaran TI diperkirakan tumbuh dari kurang dari 15% pada 2025 menjadi hampir 25% pada 2027, mewakili kenaikan sebesar 71% hanya dalam dua tahun . Pertumbuhan finansial yang cepat ini terjadi dalam kegelapan bagi banyak organisasi. Studi tersebut menemukan bahwa 84% eksekutif C-suite teknologi belum sepenuhnya mengoperasionalkan manajemen keuangan AI, dan 85% tidak memiliki visibilitas lengkap terhadap pengeluaran AI real-time mereka . Tanpa FinOps yang mapan untuk AI, para pemimpin bagai terbang buta saat taruhan finansial meroket.

Jalan Keluar: Menanamkan Kontrol Lewat Desain

Riset IBM tidak hanya mendiagnosis masalah; tetapi juga mengukur hasil bagi yang berhasil memecahkannya. Studi ini mengungkap jurang kinerja yang mencolok antara dua pendekatan: mereka yang menanamkan kontrol langsung ke dalam sistem AI mereka ("kontrol lewat desain") dan mereka yang mengandalkan tata kelola manual tradisional yang tidak bisa mengimbangi.

Organisasi yang merancang tata kelola ke dalam sistem mereka sejak awal, dibandingkan dengan yang menggunakan pengawasan manual, mencapai hasil yang jauh lebih baik :

• Menerapkan 16 kali lebih banyak agen AI .
• Memberikan margin operasi 18% lebih tinggi .
• Mengalokasikan 4 kali lebih sedikit dari total anggaran AI mereka .
• Mengalami 25% lebih sedikit insiden AI .

Data ini menegaskan pergeseran pola pikir yang krusial: tata kelola yang kuat bukanlah rem bagi inovasi—melainkan mesin yang memungkinkan skala aman dan menguntungkan. Temuan tambahan memperkuat hal ini. Organisasi dengan disiplin keuangan yang kuat menerapkan 2,4 kali lebih banyak agen AI tanpa mengeluarkan porsi anggaran TI yang lebih tinggi untuk AI, serta 3 kali lebih mungkin menyatakan diri sepenuhnya siap menghadapi skala AI mendatang . Mereka yang sejak awal merancang fondasi TI untuk adaptabilitas melaporkan pengembalian investasi AI 10% lebih tinggi pada 2025 .