Panduan AI 116 Halaman Singapura: 7 Peraturan untuk Tadbir Urus yang Bertanggungjawab

Panduan AI untuk Lembaga Pengarah di Singapura membawa mesej yang jelas: kecerdasan buatan kini bukan lagi sekadar urusan jabatan teknologi, sebaliknya tanggungjawab bilik lembaga. Diterbitkan oleh Singapore Institute of Directors (SID) dengan kerjasama Infocomm Media Development Authority (IMDA), Microsoft dan OpenAI, panduan setebal 116 halaman itu membantu para pengarah menghubungkan cita-cita AI dengan nilai perniagaan, akauntabiliti dan kawalan risiko.

Mesej utama: lembaga pengarah perlu memimpin

Lembaga pengarah tidak sepatutnya menyerahkan semua keputusan berkaitan AI kepada jawatankuasa teknologi, pihak pengurusan atau pasukan IT. Mereka perlu memahami kesan AI terhadap strategi, pelaburan, daya tahan organisasi, tenaga kerja dan penciptaan nilai jangka panjang — serta mempersoalkan sama ada setiap penggunaan AI benar-benar menghasilkan manfaat yang sepadan dengan risikonya.

Ini tidak bermakna setiap pengarah perlu menjadi jurutera. Namun, lembaga pengarah perlu mempunyai tahap kefahaman bersama yang mencukupi untuk mengemukakan soalan yang tepat dan mengenal pasti andaian, kawalan atau ukuran prestasi yang lemah.

1. Bina lembaga pengarah yang bersedia menghadapi AI

Panduan itu mengesyorkan agar setiap pengarah membina pemahaman kerja tentang konsep AI, kesan terhadap perniagaan dan isu tadbir urus. Sebahagian daripada pengarah juga perlu mampu mencabar pihak pengurusan berhubung strategi, penggunaan sistem, tadbir urus data dan pertukaran antara manfaat dengan risiko. Bagi persoalan teknikal, kawal selia atau operasi yang lebih rumit, lembaga pengarah wajar mendapatkan akses kepada kepakaran AI yang lebih mendalam.

Ujian sebenar bukanlah sama ada pengarah boleh membincangkan model AI terkini. Sebaliknya, mereka perlu memahami kes penggunaan organisasi, bertanya perkara yang mungkin tersilap dan menilai sama ada pihak pengurusan mempunyai keupayaan untuk bertindak balas.

2. Ukur hasil, bukan sekadar aktiviti AI

Pelaburan AI perlu dinilai berdasarkan hasil perniagaan yang nyata, bukannya statistik penggunaan semata-mata. Panduan itu membezakan antara aktiviti — seperti projek perintis, pembelian lesen, latihan atau eksperimen — dengan nilai sebenar, termasuk aliran kerja yang lebih baik, penjimatan masa, pengalaman pelanggan dan kesan operasi.

Antara soalan yang lebih berguna untuk dikemukakan oleh lembaga pengarah ialah:

• Apakah masalah perniagaan yang hendak diselesaikan oleh sistem ini?
• Hasil manakah yang dijangka bertambah baik, dan sebanyak mana?
• Bagaimanakah peningkatan itu akan diukur?
• Apakah bukti yang menyokong keputusan untuk mengembangkan projek perintis kepada penggunaan lebih meluas?
• Berapakah kos pemantauan, keselamatan, integrasi dan kegagalan sistem?

Banyaknya eksperimen mungkin menunjukkan minat terhadap AI, tetapi ia tidak dengan sendirinya membuktikan pulangan pelaburan.

3. Tukarkan eksperimen pekerja kepada keupayaan yang terkawal

Pekerja sering menemui kegunaan AI yang praktikal sebelum program rasmi organisasi diwujudkan. Panduan ini menggalakkan lembaga pengarah dan pihak pengurusan memanfaatkan pengetahuan tersebut, sambil membawa eksperimen berkenaan ke dalam persekitaran kawalan organisasi.

Ini bermakna alat yang dibina menggunakan AI perlu didokumentasikan, pengguna yang dibenarkan serta tujuan penggunaannya perlu dijelaskan, dan pematuhannya terhadap keperluan keselamatan serta tadbir urus perlu diperiksa. Matlamatnya bukan untuk menyekat eksperimen, tetapi mengelakkan prototaip yang berguna berubah menjadi sistem tersembunyi dan tidak disokong — apatah lagi jika ia melibatkan pelanggan, pekerja atau data syarikat tanpa kawalan yang mencukupi.

4. Anggap risiko AI sebagai risiko seluruh organisasi

Tadbir urus AI bukan hanya tentang ketepatan model. Para pengarah disaran meneliti risiko etika, siber, data, keselamatan, privasi dan bakat, selain kesan AI terhadap daya tahan serta penciptaan nilai jangka panjang.

Oleh itu, lembaga pengarah perlu mengetahui di mana AI digunakan, apakah data dan pihak ketiga yang terlibat, siapa yang bertanggungjawab terhadap setiap sistem, bagaimana insiden dilaporkan dan bilakah sesuatu penggunaan perlu dihentikan sementara atau dinilai semula.

Tahap kawalan juga perlu sepadan dengan akibat kegagalan. Alat produktiviti dalaman yang berisiko rendah tidak memerlukan kawalan yang sama seperti sistem yang mempengaruhi pekerjaan, akses pelanggan atau keselamatan.

5. Tetapkan peraturan pengawasan manusia dan “garisan merah”

Panduan itu menyeru agar sempadan keputusan ditetapkan dengan jelas. Lembaga pengarah perlu menentukan keadaan yang mewajibkan semakan manusia serta mengenal pasti “garisan merah” yang melarang keputusan automatik — khususnya keputusan yang memberi kesan kepada pelanggan, pekerja, keselamatan atau privasi.

Pengawasan manusia hanya bermakna jika pihak yang menyemak mempunyai maklumat, kuasa dan masa yang mencukupi untuk mempersoalkan atau membatalkan cadangan yang dibantu AI. Langkah kelulusan secara nominal tidak sepatutnya menjadi cop getah kepada keputusan automatik.

6. Perketat perlindungan bagi keputusan berkaitan tenaga kerja

Penggunaan AI dalam pengambilan pekerja, kenaikan pangkat atau penilaian prestasi boleh mempengaruhi peluang dan mata pencarian seseorang. Panduan itu mengesyorkan semakan manusia, ujian berat sebelah serta pemeriksaan kualiti data bagi penggunaan seperti ini. Ia turut menekankan keperluan menyediakan proses yang jelas supaya individu terjejas boleh mencabar atau meminta semakan terhadap sesuatu keputusan.

Bagi lembaga pengarah, ini menjadikan prinsip keadilan sebagai persoalan pengawasan yang konkrit: apakah bukti bahawa sistem berfungsi seperti yang dirancang, kumpulan manakah yang mungkin terjejas dan bagaimana seseorang boleh mencabar keputusannya?

7. Kekalkan daya tahan siber dan akauntabiliti di peringkat lembaga

Panduan ini meletakkan AI dalam tanggungjawab lebih luas untuk mengekalkan daya tahan organisasi dan sistem digital. Syor-syornya mencerminkan jangkaan yang semakin meningkat agar lembaga pengarah mengawasi risiko berkaitan AI secara aktif, termasuk ancaman siber, dan tidak menganggap pasukan teknikal sahaja mampu menguruskannya.

Para pengarah perlu bertanya kepada pihak pengurusan bagaimana AI mengubah permukaan serangan organisasi, bagaimana data sensitif dilindungi, bagaimana vendor dinilai dan bagaimana syarikat akan bertindak jika sistem AI diceroboh atau menghasilkan output yang memudaratkan.

Kawalan khusus akan berbeza mengikut organisasi, tetapi tanggungjawab untuk mengemukakan soalan itu kekal pada lembaga pengarah.

Apa yang boleh dilakukan oleh lembaga pengarah seterusnya?

Semakan awal boleh dimulakan dengan lima soalan berikut:

1. Di manakah AI sedang digunakan — termasuk alat yang dibina oleh pekerja?
2. Penggunaan yang manakah penting dari segi strategi atau berimpak tinggi?
3. Apakah ukuran hasil dan risiko yang dilaporkan oleh pihak pengurusan kepada lembaga pengarah?
4. Dalam keadaan manakah semakan manusia diwajibkan, dan keputusan automatik manakah yang dilarang?
5. Bolehkah individu terjejas mencabar keputusan, dan bolehkah organisasi menghentikan sistem dengan selamat?

Pengajaran lebih besar daripada panduan ini ialah tadbir urus AI yang bertanggungjawab bukanlah usaha menggubal dasar sekali lalu. Lembaga pengarah memerlukan literasi yang mencukupi untuk mengawasi strategi, bukti yang cukup untuk menilai nilai dan kuasa yang jelas untuk mengenakan had apabila risiko melebihi manfaat.