Panduan AI 116 Halaman dari Singapura: 7 Aturan untuk Mengelola AI secara Bertanggung Jawab

Pesan utama: dewan direksi harus memimpin

AI Guide for Boards in Singapore menyampaikan pesan tata kelola yang sederhana: kecerdasan buatan kini menjadi tanggung jawab ruang rapat. Panduan setebal 116 halaman ini diterbitkan oleh Singapore Institute of Directors (SID) bersama Infocomm Media Development Authority (IMDA), Microsoft, dan OpenAI. Tujuannya adalah membantu direksi menghubungkan ambisi AI dengan nilai bisnis, akuntabilitas, serta pengendalian risiko.

Dewan direksi tidak seharusnya menyerahkan seluruh urusan AI kepada komite teknologi, manajemen, atau departemen TI. Direksi perlu memahami dampak AI terhadap strategi, investasi, ketahanan organisasi, sumber daya manusia, dan penciptaan nilai jangka panjang. Mereka juga perlu mempertanyakan apakah penerapan AI benar-benar menghasilkan manfaat yang sebanding dengan risikonya.

Ini bukan berarti setiap direksi harus menjadi insinyur AI. Namun, seluruh anggota dewan membutuhkan pemahaman bersama yang cukup untuk mengajukan pertanyaan yang tepat dan mengenali ketika asumsi, pengendalian, atau metrik yang digunakan manajemen belum memadai.

1. Membangun dewan yang siap menghadapi AI

Panduan tersebut merekomendasikan agar setiap direksi memiliki pemahaman kerja mengenai konsep AI, dampaknya terhadap bisnis, dan isu-isu tata kelola. Sebagian anggota dewan juga perlu mampu menantang manajemen terkait strategi, penerapan, tata kelola data, serta pertukaran antara manfaat dan risiko. Untuk persoalan teknis, regulasi, atau operasional yang kompleks, dewan sebaiknya memiliki akses terhadap keahlian AI yang lebih mendalam.

Ukuran keberhasilannya bukan apakah direksi mampu membahas model AI terbaru. Pertanyaan yang lebih penting adalah apakah mereka memahami berbagai penggunaan AI di organisasi, dapat mengantisipasi hal-hal yang mungkin salah, dan mampu menilai kesiapan manajemen untuk meresponsnya.

2. Mengukur hasil, bukan aktivitas AI

Investasi AI sebaiknya dinilai berdasarkan hasil bisnis yang nyata, bukan statistik adopsi semata. Panduan ini membedakan aktivitas—seperti proyek percontohan, pembelian lisensi, pelatihan, atau eksperimen—dari nilai yang dihasilkan, misalnya alur kerja yang lebih baik, penghematan waktu, peningkatan pengalaman pelanggan, dan dampak operasional.

Karena itu, dewan dapat mengajukan pertanyaan berikut:

• Masalah bisnis apa yang hendak diselesaikan oleh sistem ini?
• Hasil apa yang diharapkan membaik, dan seberapa besar peningkatannya?
• Bagaimana organisasi akan mengukur perbaikan tersebut?
• Bukti apa yang mendukung keputusan untuk memperluas penerapan setelah tahap uji coba?
• Berapa biaya pengawasan, keamanan, integrasi, dan kemungkinan kegagalannya?

Banyaknya eksperimen mungkin menunjukkan antusiasme, tetapi tidak otomatis membuktikan adanya imbal hasil investasi.

3. Mengubah eksperimen karyawan menjadi kemampuan yang terkendali

Karyawan sering kali menemukan penggunaan AI yang bermanfaat sebelum program resmi perusahaan dibentuk. Panduan ini mendorong dewan dan manajemen untuk memanfaatkan pengetahuan tersebut, sekaligus memasukkan eksperimen ke dalam sistem pengendalian organisasi.

Langkahnya mencakup pendokumentasian perangkat yang dibuat dengan AI, penjelasan mengenai siapa yang boleh menggunakannya dan untuk tujuan apa, serta pemeriksaan terhadap persyaratan keselamatan dan tata kelola yang berlaku. Tujuannya bukan menghentikan eksperimen, melainkan mencegah prototipe yang berguna berubah menjadi sistem tak terlihat dan tak terdukung—yang dapat memengaruhi pelanggan, karyawan, atau data perusahaan tanpa pengendalian yang memadai.

4. Memperlakukan risiko AI sebagai risiko perusahaan

Tata kelola AI tidak hanya berkaitan dengan kinerja model. Direksi diminta menelaah risiko etika, siber, data, keselamatan, privasi, dan talenta, serta dampak AI terhadap ketahanan organisasi dan penciptaan nilai jangka panjang.

Dewan perlu mengetahui di mana saja AI digunakan, data dan pihak ketiga apa yang terlibat, siapa yang bertanggung jawab atas setiap sistem, bagaimana insiden dilaporkan, dan kapan suatu penerapan harus dihentikan sementara atau ditinjau ulang. Pengawasan risiko harus sebanding dengan dampak kegagalan. Alat produktivitas internal berisiko rendah, misalnya, tidak memerlukan pengendalian yang sama dengan sistem yang memengaruhi pekerjaan, akses pelanggan, atau keselamatan.

5. Menetapkan pengawasan manusia dan batas yang tidak boleh dilanggar

Panduan ini menyerukan batas keputusan yang jelas. Dewan perlu menetapkan kapan peninjauan manusia wajib dilakukan dan mengidentifikasi “garis merah” ketika keputusan otomatis tidak diperbolehkan—terutama untuk keputusan yang menyangkut pelanggan, karyawan, keselamatan, atau privasi.

Pengawasan manusia hanya bermakna jika peninjau memiliki informasi, kewenangan, dan waktu yang cukup untuk mempertanyakan atau membatalkan rekomendasi yang dibantu AI. Tahap persetujuan formal tidak boleh berubah menjadi sekadar stempel untuk mengesahkan hasil otomatis.

6. Menambah perlindungan untuk keputusan terkait tenaga kerja

Penggunaan AI dalam perekrutan, promosi, atau penilaian kinerja dapat memengaruhi kesempatan dan penghidupan seseorang. Panduan ini merekomendasikan peninjauan manusia, pengujian bias, dan pemeriksaan kualitas data untuk penggunaan tersebut. Selain itu, harus tersedia proses yang jelas agar pihak yang terdampak dapat menggugat atau meminta peninjauan atas suatu keputusan.

Bagi dewan, prinsip keadilan ini harus diterjemahkan menjadi pertanyaan pengawasan yang konkret: bukti apa yang menunjukkan sistem bekerja sesuai tujuan, kelompok mana yang mungkin dirugikan, dan bagaimana seseorang dapat menggugat hasil keputusan?

7. Menjaga ketahanan siber dan akuntabilitas di tingkat dewan

Panduan tersebut menempatkan AI dalam tanggung jawab yang lebih luas untuk menjaga ketahanan organisasi dan digital. Rekomendasinya mencerminkan ekspektasi yang semakin besar agar dewan secara aktif mengawasi risiko terkait AI, termasuk ancaman siber, alih-alih menganggap tim teknis sebagai satu-satunya pihak yang dapat mengelolanya.

Direksi perlu menanyakan kepada manajemen bagaimana AI mengubah permukaan serangan organisasi, bagaimana data sensitif dilindungi, bagaimana vendor dinilai, dan bagaimana perusahaan akan merespons jika sistem AI diretas atau menghasilkan keluaran yang merugikan. Bentuk pengendaliannya dapat berbeda-beda di setiap organisasi, tetapi tanggung jawab untuk mengajukan pertanyaan tersebut tetap berada pada dewan.

Langkah berikutnya bagi dewan direksi

Peninjauan awal dapat dimulai dengan lima pertanyaan praktis:

1. Di mana saja AI sudah digunakan, termasuk alat yang dibuat oleh karyawan?
2. Penerapan mana yang penting secara strategis atau berdampak tinggi?
3. Metrik hasil dan risiko apa yang dilaporkan manajemen kepada dewan?
4. Di mana peninjauan manusia diwajibkan, dan di mana keputusan otomatis dilarang?
5. Bisakah pihak yang terdampak menggugat keputusan, dan dapatkah organisasi menghentikan sistem dengan aman?

Pelajaran yang lebih luas dari panduan ini adalah bahwa tata kelola AI yang bertanggung jawab bukanlah pekerjaan membuat kebijakan sekali jadi. Dewan membutuhkan literasi yang cukup untuk mengawasi strategi, bukti yang cukup untuk menilai manfaat, dan kewenangan yang cukup untuk menetapkan batas ketika risiko lebih besar daripada keuntungan.