Paradoks Kawalan: Pemimpin Teknologi Bertanggungjawab, Tetapi Tidak Berkuasa ke Atas AI Mereka

Perlumbaan korporat untuk melancarkan 'ejen AI' yang autonomi sedang mewujudkan satu jurang akauntabiliti yang amat merisaukan bagi pemimpin teknologi. Satu kajian global baharu dari IBM Institute for Business Value (IBV), yang dijalankan bersama Oxford Economics, menggambarkan senario yang mencabar: apabila CEO mendesak transformasi AI secara besar-besaran, CIO dan CTO yang ditugaskan untuk melaksanakan mandat ini semakin dipertanggungjawabkan ke atas sistem yang tidak dapat mereka lihat sepenuhnya, apatah lagi untuk dikemudi.

Kajian CxO 2026 ini, yang meninjau 2,000 eksekutif teknologi kanan dari 33 negara dan 19 industri, mendedahkan satu krisis struktur dalam tadbir urus AI perusahaan . Ketegangan utamanya jelas: AI berkembang lebih pantas daripada asas yang direka untuk mengawalnya.

Jurang Kawalan: Bertanggungjawab untuk Yang Tidak Kelihatan

Penemuan utama daripada penyelidikan IBM ini adalah satu amaran untuk setiap pihak dalam C-suite. Kira-kira 67% CIO dan CTO yang dikaji melaporkan dipertanggungjawabkan untuk sistem AI yang tidak mereka kawal sepenuhnya . Masalah 'akauntabiliti tanpa autoriti' ini diburukkan lagi oleh realiti bahawa 70% pemimpin teknologi mengatakan unit perniagaan kini menggunakan teknologi lebih pantas daripada kemampuan IT pusat untuk mengesannya . 'Shadow AI', yang dulunya sekadar gangguan daripada perisian SaaS (Perisian sebagai Perkhidmatan) yang tidak diluluskan, kini telah berkembang menjadi krisis tadbir urus berisiko tinggi yang melibatkan ejen autonomi yang membuat keputusan penting.

Mandat CEO Bertembung dengan Realiti Operasi

Tekanan daripada pihak atasan amat besar. 80% responden mengesahkan bahawa CEO mereka telah mengeluarkan mandat transformasi dipacu AI . Namun, cita-cita ini tidak sepadan dengan kesiapsiagaan organisasi. Sebanyak 77% pemimpin mengatakan penggunaan AI sudah mengatasi keupayaan tadbir urus mereka , dan hanya 11% berasa benar-benar bersedia untuk skala pelancaran ejen AI yang dijangka dalam tahun hadapan . Jurang antara aspirasi strategik dan kesiapsiagaan operasi tidak pernah seluas ini.

Jumlah Korban Insiden Ejen AI yang Meningkat

Risiko pelancaran AI yang tidak terkawal bukan lagi bersifat teori. Organisasi yang dikaji melaporkan purata 54 insiden ejen AI pada tahun lalu sahaja—yang ditakrifkan sebagai peristiwa tidak diingini atau berbahaya yang memerlukan pembetulan manusia . Kerosakan daripada insiden ini adalah signifikan dan pelbagai:

• 17% insiden diklasifikasikan sebagai berimpak tinggi, setiap satunya memerlukan lebih daripada empat jam untuk dibendung .
• 37% mengakibatkan pendedahan data atau pelanggaran keselamatan .
• 33% menyebabkan kegagalan sistem berantai, di mana satu ejen 'liar' mencetuskan reaksi berantai merentas sistem yang saling berkait .
• 17% mencetuskan isu pematuhan peraturan secara langsung .

Perbelanjaan Meningkat Tanpa Kebolehlihatan

Sewaktu syarikat berlumba untuk membina keupayaan AI mereka, perbelanjaan dijangka melonjak secara mendadak. Bahagian AI dalam belanjawan IT dijangka berkembang dari bawah 15% pada 2025 kepada hampir 25% menjelang 2027, mewakili peningkatan 71% dalam masa dua tahun sahaja . Pertumbuhan kewangan yang pesat ini berlaku dalam keadaan gelap bagi banyak organisasi. Kajian mendapati bahawa 84% CxO teknologi belum mengoperasikan sepenuhnya pengurusan kewangan AI, dan 85% kekurangan kebolehlihatan sepenuhnya terhadap perbelanjaan AI masa nyata mereka . Tanpa amalan FinOps yang betul untuk AI, pemimpin bagaikan terbang dalam gelap ketika pertaruhan kewangan meroket.

Jalan Ke Hadapan: Menerapkan Kawalan Secara Reka Bentuk

Penyelidikan IBM bukan sekadar mendiagnosis masalah; ia juga mengukur hasil lumayan untuk menyelesaikannya. Kajian itu mendedahkan jurang prestasi yang ketara antara dua pendekatan: mereka yang menerapkan kawalan terus ke dalam sistem AI mereka ('kawalan mengikut reka bentuk') dan mereka yang bergantung pada tadbir urus tradisional secara manual yang tidak dapat mengikuti perkembangan.

Organisasi yang mereka bentuk tadbir urus ke dalam sistem mereka dari awal, berbanding mereka yang menggunakan pengawasan manual, mencapai hasil yang jauh lebih baik :

• Melancarkan 16 kali ganda lebih banyak ejen AI .
• Menikmati margin operasi 18% lebih tinggi .
• Membelanjakan 4 kali ganda kurang daripada keseluruhan belanjawan AI mereka .
• Mengalami 25% lebih sedikit insiden AI .

Data ini menekankan satu perubahan penting dalam pemikiran: tadbir urus yang mantap bukanlah penghalang kepada inovasi—ia adalah enjin yang membolehkan skala yang selamat dan menguntungkan. Penemuan tambahan mengukuhkan ini. Organisasi yang mempunyai disiplin kewangan yang kukuh melancarkan 2.4 kali ganda lebih banyak ejen AI tanpa membelanjakan bahagian belanjawan IT yang lebih tinggi untuk AI, dan mereka 3 kali ganda lebih cenderung untuk mengisytiharkan diri mereka bersedia sepenuhnya untuk skala AI yang akan datang . Mereka yang mereka bentuk asas IT mereka untuk kebolehsuaian lebih awal melaporkan pulangan 10% lebih tinggi ke atas pelaburan AI mereka pada tahun 2025 .