Singapura Menjawab Peringatan Bahaya AI dengan Audit dan Pembatasan Agen

Peringatan bahwa AI kelak dapat menimbulkan bencana memunculkan pertanyaan yang lebih dekat dengan keputusan sehari-hari: siapa yang bisa memeriksa klaim keamanan sebuah sistem, dan apa yang boleh dilakukan sistem itu setelah dipasang? Sejumlah suara industri di Singapura menempatkan audit independen, transparansi, dan pembatasan kewenangan sebagai jawaban praktis—bukan pengembangan tanpa kendali, tetapi juga bukan penghentian menyeluruh semua pekerjaan AI. 732

Mengapa perdebatan kembali memanas?

Jacob Coxon mengundurkan diri dari Anthropic setelah pernah bekerja di Anthropic dan OpenAI. Ia menuduh kedua perusahaan berlomba mengembangkan AI supercerdas yang dapat meningkatkan kemampuannya sendiri tanpa bertindak cukup bertanggung jawab. Peneliti Anthropic Evan Hubinger menyatakan sependapat dan memperkirakan secara pribadi bahwa kemungkinan AI menyebabkan kepunahan manusia dalam satu dekade ke depan lebih dari 10%. Angka itu adalah penilaiannya, bukan probabilitas yang terukur atau bukti bahwa kepunahan sudah dekat. 34

Pada 12 September 2026, CEO Anthropic Dario Amodei menyerukan perlambatan pengembangan. Usulnya juga mencakup pemberian akses kepada evaluator pihak ketiga untuk memeriksa apakah praktik keselamatan dan komunikasi perusahaan dijalankan, serta untuk melaporkan insiden. Dengan demikian, perdebatan tidak hanya berkisar pada seberapa besar ancamannya, tetapi juga pada apa yang dapat diverifikasi pihak luar. 1332

Audit berguna, tetapi bukan jaminan mutlak

Pengujian dapat menemukan keterbatasan sistem yang sudah ada. AI Verify, perangkat pengujian yang diluncurkan Singapura pada 2022, membantu menilai apakah hasil AI adil, andal, dan dapat dijelaskan. Program akreditasi penguji AI juga disebut sebagai upaya memperkuat kapasitas pengujian. Namun, keduanya tidak dapat membuktikan bahwa semua sistem AI di masa depan akan aman. 1933

Agar pemeriksaan independen berarti, evaluator memerlukan akses yang memadai untuk menilai praktik yang diklaim penyedia dan mengungkap insiden. Organisasi pengguna pun perlu meminta transparansi dan kendali sebelum menghubungkan model dengan data serta alur kerja mereka. Bahkan akses ke bobot model—parameter yang membentuk perilakunya—tidak otomatis menjelaskan keputusan selama pelatihan, kegagalan, ataupun pengaman yang diterapkan. 3234

Pendekatan ini tidak menutup kemungkinan perlambatan yang terarah. Seorang pakar yang berbasis di Singapura berpendapat bahwa pengembang sebaiknya menghentikan suatu aktivitas jika tidak mampu membatasi sistemnya secara memadai atau menjelaskan bagaimana risiko serius dikelola. Itu berbeda dari menghentikan seluruh penerapan AI tanpa membedakan risikonya. 32

Batasi kewenangan agen sebelum digunakan

Persoalan menjadi mendesak ketika AI berbentuk agen: sistem yang dapat memakai alat dan menjalankan tindakan dalam suatu alur kerja. Pada Januari 2026, Infocomm Media Development Authority (IMDA), otoritas pengembangan media dan digital Singapura, meluncurkan Model AI Governance Framework for Agentic AI. Panduan ini meminta organisasi menilai risiko sejak awal serta membatasi otonomi agen dan aksesnya ke alat maupun data. Versi yang diperbarui merinci prinsip hak akses minimum: agen hanya diberi akses yang diperlukan untuk tugasnya. Kerangka tersebut adalah panduan, bukan larangan hukum menyeluruh atas penggunaan agen. 504852

Bagi organisasi, penerapannya berarti menetapkan penanggung jawab manusia untuk setiap agen, mempersempit izin, mengupayakan agar tindakannya dapat ditelusuri dan dibatalkan, serta terus memantau operasinya. Pengendalian semacam itu lebih konkret daripada sekadar menyebut agen AI “aman”. 34 Menteri Josephine Teo membandingkan peran standar dan pengaman AI dalam membangun kepercayaan dengan praktik keselamatan di penerbangan sipil. 17

Intinya adalah akuntabilitas di tengah ketidakpastian: uji apa yang bisa diuji, buka ruang bagi pemeriksaan independen, dan jangan berikan kewenangan yang belum dapat dikendalikan dengan aman. Langkah-langkah ini tidak menuntaskan perdebatan risiko jangka panjang AI, tetapi memberi pengembang dan pengguna kewajiban yang jelas sekarang. 3248