Atur Penggunaan AI di Perusahaan dengan Batas yang Jelas

Pengadilan Singapura menawarkan titik awal yang berguna bagi perusahaan yang ingin mengatur penggunaan AI: tentukan batas berdasarkan seberapa besar tanggung jawab yang diberikan kepada sistem, bukan hanya dengan menyatakan bahwa AI “boleh digunakan” atau “selalu diawasi manusia”. Pengadilan mengizinkan AI generatif membantu menyiapkan dokumen perkara, tetapi pengguna tetap bertanggung jawab memastikan materi yang diajukan akurat dan diverifikasi secara independen. Perusahaan dapat mengambil prinsip itu sebagai inspirasi, tetapi kebijakan internal harus disesuaikan dengan tugas dan risikonya sendiri—bukan dianggap sebagai aturan yang diwajibkan pengadilan. 36

Tetapkan batas berdasarkan tugas, bukan alat

Satu produk AI bisa berguna untuk menyusun draf sederhana, tetapi belum tentu layak dipakai untuk membuat keputusan yang berdampak pada seseorang. Pengadilan Singapura menggambarkan pendekatan lampu lalu lintas: hijau untuk penggunaan seperti penerjemahan dan peringkasan yang membantu orang memahami informasi tanpa memutus perkara; kuning untuk penggunaan yang perlu kehati-hatian lebih; dan merah untuk penggunaan yang tidak akan dipertimbangkan pengadilan. 638

Perusahaan dapat mengadaptasi warna-warna itu menjadi struktur kebijakan praktis. Contoh di bawah ini adalah titik awal yang dapat disesuaikan, bukan klasifikasi universal. Pertimbangkan tugasnya, informasi yang digunakan, dan dampak jika terjadi kesalahan.

Hijau: bantu pekerjaan rutin

Izinkan alat AI yang telah disetujui membantu tugas berisiko lebih rendah, seperti merapikan format, menerjemahkan, mengatur informasi, atau membuat draf awal. Jelaskan alat mana yang boleh digunakan, informasi apa yang boleh dimasukkan, dan apakah hasilnya perlu diperiksa sebelum dipakai. Tegaskan bahwa draf buatan AI bukan dengan sendirinya keputusan atau sikap resmi perusahaan.

Kuning: boleh menyiapkan, jangan mengambil keputusan

Untuk pekerjaan yang berdampak besar, AI dapat membantu mengatur bukti, merangkum catatan, atau menyusun pilihan. Namun, tunjuk seorang peninjau yang bertanggung jawab untuk memeriksa klaim penting dengan merujuk pada catatan asli, mempertimbangkan konteks yang relevan, dan menyetujui hasilnya sebelum digunakan untuk memengaruhi seseorang.

Verifikasi independen berarti memeriksa kembali bukti atau catatan sumber—bukan meminta sistem AI lain mengonfirmasi jawaban AI pertama. Panduan pengadilan Singapura juga menempatkan tanggung jawab pada pengguna pengadilan untuk memastikan materi yang diajukan telah diverifikasi secara independen, akurat, benar, dan layak. 3

Merah: keputusan tetap di tangan manusia

Perusahaan dapat menetapkan keputusan tertentu—misalnya yang menyangkut pekerjaan, keselamatan, atau akses ke layanan penting—sebagai keputusan yang harus dibuat manusia. Dalam situasi itu, AI boleh membantu menyiapkan bahan, tetapi tidak seharusnya membuat atau secara otomatis memicu keputusan akhir. Penanggung jawab perlu menilai kasusnya, memiliki wewenang untuk menolak rekomendasi sistem, dan mampu menjelaskan keputusannya.

Ini adalah perlindungan yang disarankan bagi perusahaan, bukan klaim bahwa pengadilan Singapura menetapkan aturan yang persis sama untuk bisnis. Peradilan Singapura menyatakan bahwa AI dapat membantu hakim membaca dan mencerna materi, sementara untuk saat ini AI tidak digunakan untuk menimbang bukti, menerapkan hukum pada fakta, atau menjalankan diskresi. 40

Jelaskan aturan secara terbuka dan spesifik

Kebijakan publik lebih berguna jika menjelaskan tugas yang sebenarnya, bukan hanya menyatakan komitmen umum terhadap “AI yang bertanggung jawab”. Untuk setiap penggunaan yang disetujui, buat keterangan singkat yang menjawab:

• Apa yang boleh dilakukan AI dalam tugas ini—dan apa yang tidak boleh?
• Informasi apa yang boleh dimasukkan karyawan ke dalam alat tersebut?
• Siapa yang memeriksa hasilnya, dan apa yang harus dijadikan acuan pemeriksaan?
• Siapa yang bertanggung jawab atas keputusan akhir?
• Bagaimana karyawan atau orang yang terdampak dapat menyampaikan kekhawatiran atau meminta kesalahan diperbaiki?

Di internal perusahaan, simpan catatan secukupnya tentang alat dan tugas yang digunakan, sumber yang diperiksa, serta pihak yang menyetujui hasilnya. Beri peninjau waktu dan wewenang untuk tidak menyetujui keluaran AI. Tanpa itu, pemeriksaan manusia bisa menjadi formalitas belaka.

Tinjau ulang klasifikasi dan jaga kemampuan staf

Anggap kategori warna sebagai keputusan yang perlu ditinjau berkala, bukan label permanen. Uji alat tertentu dalam alur kerja yang benar-benar akan menggunakannya, periksa kesalahan yang muncul, lalu tentukan apakah pengendalian perlu diubah atau penggunaannya harus dihentikan sementara. Jangan berasumsi bahwa klaim umum tentang kemampuan suatu model berlaku untuk setiap tugas.

Pastikan pula karyawan tetap mendapat kesempatan berlatih mengerjakan hal-hal yang kini dibantu AI. Ketua Mahkamah Agung Singapura pernah mengangkat kekhawatiran bahwa AI dapat mengubah tugas hukum rutin yang selama ini membantu pengacara junior membangun keterampilan dasar. 2335 Pelajaran bagi perusahaan lebih luas: staf perlu cukup memahami pekerjaan tersebut agar dapat mengenali kesalahan dan menggunakan penilaian mandiri sebelum mereka mampu memeriksa keluaran AI secara bermakna.

Standar sederhana yang bisa diterapkan

Kerangka lampu lalu lintas baru berguna jika tiap warna mengubah praktik kerja: apa yang boleh dilakukan AI, apa yang wajib diperiksa manusia, siapa yang tetap bertanggung jawab, dan bagaimana keputusan dapat dipersoalkan. Umumkan batasannya berdasarkan tugas, tinjau ulang saat alat dan alur kerja berubah, dan serahkan penilaian yang berdampak besar kepada orang yang memiliki wewenang serta kemampuan untuk melakukannya.