Jeda AI yang Bermakna: Apa Syaratnya dan Apa Peran Singapura?

Jeda pengembangan AI yang bermakna berarti mengatur laju pengembangan AI terdepan, bukan menghentikan penggunaan AI di seluruh sektor. Seruan terbaru dari sejumlah eksekutif perusahaan AI mengangkat pentingnya evaluasi independen dan koordinasi. Namun, agar usulan itu menjadi perlindungan yang dapat dipercaya, janji sukarela saja tidak cukup: evaluasi harus independen, hasilnya harus berpengaruh pada keputusan peluncuran, dan aturan perlu disesuaikan dengan tingkat risiko.

Singapura sudah memiliki sejumlah bekal, termasuk kerangka tata kelola AI agen, perangkat pengujian AI Verify, dan program untuk mengakui penguji AI pihak ketiga. Tantangan berikutnya adalah menghubungkan perangkat tersebut dengan keputusan yang jelas dan berbasis bukti tentang sistem yang benar-benar digunakan. 4

Apa yang sudah dan belum dibuktikan oleh seruan untuk memperlambat AI

Usulan terbaru berfokus pada laju pengembangan AI terdepan—sistem paling canggih, yang kemampuannya dapat meningkat lebih cepat daripada langkah pengamanan dan pengawasan eksternal. Usulan yang diberitakan mencakup akses berkelanjutan bagi evaluator luar ke perusahaan pengembang AI terdepan, penyelarasan standar keselamatan, serta kerja sama internasional yang lebih luas.

Seruan tersebut menunjukkan minat yang meningkat, bukan kebijakan yang sudah disepakati atau perjanjian mengikat di antara perusahaan AI. Laporan Keselamatan AI Internasional menyebut upaya pengelolaan risiko masih berkembang dan sebagian besar inisiatif perusahaan masih bersifat sukarela. Perbedaan ini penting: komitmen perusahaan untuk menguji model belum otomatis menjadi aturan yang mewajibkan penundaan peluncuran ketika risiko serius belum tertangani.

Jadikan pengelolaan risiko sebagai gerbang sebelum peluncuran

Pendekatan praktis dapat menetapkan syarat lebih ketat bagi sistem dengan kemampuan atau kewenangan lebih besar, tanpa memberlakukan jeda menyeluruh pada penggunaan AI rutin. Alat bantu untuk menyusun draf dan agen yang diberi wewenang mengambil tindakan berdampak besar semestinya tidak otomatis dikenai persyaratan yang sama. Kerangka kerja AI agen Singapura sudah menganjurkan penilaian dan pembatasan risiko, serta titik persetujuan manusia untuk tindakan yang signifikan atau sensitif. 46

Untuk model AI terdepan dan penerapan berdampak tinggi, pembuat kebijakan dapat mengembangkan prinsip itu menjadi proses peluncuran yang mencakup:

• Evaluasi independen sebelum peluncuran: Berikan evaluator eksternal yang memenuhi syarat akses aman ke sistem dan bukti yang relevan, lalu uji kemampuan berbahaya serta potensi penyalahgunaan yang dapat diperkirakan. Akses berkelanjutan bagi evaluator telah diusulkan dalam seruan terbaru untuk mengatur laju pengembangan AI terdepan, tetapi belum menjadi persyaratan universal yang berlaku.
• Ambang batas yang jelas dan tindak lanjut: Tetapkan secara terbuka—atau dengan cara lain yang jelas—temuan seperti apa yang memicu pengamanan tambahan, pembatasan akses, atau penundaan. Hasil evaluasi yang tidak memenuhi ambang seharusnya diikuti tanggapan terdokumentasi dan, bila risikonya cukup besar, penahanan peluncuran, bukan sekadar peninjauan internal tambahan. Ini merupakan usulan tata kelola, bukan kewajiban yang disebut dalam kerangka Singapura saat ini. 4
• Pengamanan sesuai cara penerapan: Untuk agen yang diberi kewenangan melakukan tindakan berdampak besar, pertimbangkan pembatasan akses, persetujuan manusia pada tahap penting, pemantauan, dan pertanggungjawaban yang jelas. Kerangka Singapura mendukung pembatasan risiko dan pengawasan manusia yang bermakna; pengendalian spesifiknya perlu disesuaikan dengan sistem dan penggunaannya. 48
• Evaluasi ulang saat ada perubahan penting: Uji kembali perubahan signifikan pada model, perangkat yang dapat digunakannya, atau konteks penerapannya. Dengan begitu, hasil pengujian lama tidak dianggap sebagai jaminan permanen ketika sistem yang digunakan sudah berubah. Ini adalah usulan agar pengujian tetap relevan, bukan ketentuan yang dinyatakan berlaku saat ini.

Aplikasi berisiko lebih rendah sebaiknya memiliki jalur penggunaan yang lebih sederhana. Aturan berbasis risiko dapat memberi ruang bagi adopsi di dunia usaha tanpa menganggap hasil pengujian yang baik sebagai bukti bahwa sebuah sistem aman dalam semua konteks. Undang-Undang AI Uni Eropa merupakan salah satu contoh regulasi yang disusun dengan mempertimbangkan risiko penggunaan AI.

Aturan perlu terbuka, pengujian harus independen

Koordinasi internasional dapat membuat hasil evaluasi lebih mudah dibandingkan dan mengurangi dorongan untuk mencari pengawasan yang paling longgar. Pemerintah dapat mengupayakan metode pengujian bersama, pertukaran informasi insiden, dan standar minimum untuk sistem berisiko tertinggi. Evaluator independen kemudian dapat mengumpulkan bukti berdasarkan standar tersebut. Seruan terbaru untuk memperlambat pengembangan AI juga mengusulkan koordinasi antarperusahaan dan lintas negara.

Pembagian tanggung jawabnya penting. Otoritas publik seharusnya menetapkan ambang batas yang dapat ditegakkan dan menentukan konsekuensi jika batas itu terlampaui. Perusahaan dapat menyumbangkan pengetahuan teknis, tetapi tidak seharusnya menjadi satu-satunya pihak yang menilai apakah sistem mereka sendiri sudah memenuhi standar. Penguji independen memerlukan metode yang transparan dan pengungkapan konflik kepentingan. Ini merupakan prinsip untuk merancang sistem pengawasan yang diusulkan, bukan fitur yang sudah ditetapkan oleh seruan industri yang diberitakan.

Bekal yang bisa dikembangkan Singapura

Model AI Governance Framework for Agentic AI Singapura memberikan panduan bagi organisasi yang menerapkan agen, termasuk penilaian risiko, akuntabilitas manusia, dan pengendalian. Namun, kerangka tersebut adalah panduan untuk penerapan yang bertanggung jawab, bukan dengan sendirinya gerbang peluncuran yang mengikat secara hukum. 468

AI Verify menyediakan perangkat pengujian, sedangkan AI Tester Accreditation Programme mengakui perusahaan penguji pihak ketiga yang memiliki kemampuan teknis dan kesiapan operasional yang relevan. Bersama-sama, inisiatif ini dapat mendukung penilaian yang lebih konsisten di sektor bisnis dan keuangan. Singapura juga dapat mendorong profil jaminan bersama dan kontrak yang menjelaskan bukti apa yang perlu ditunjukkan oleh penyedia model, integrator sistem, pihak penerap, dan penguji. Itu adalah potensi langkah berikutnya, bukan kebijakan yang sudah ditetapkan oleh kerangka yang dirujuk.

Sasaran yang bermanfaat adalah pengakuan lintas negara atas bukti dan metode pengujian, bukan klaim bahwa satu sertifikat nasional menjamin keselamatan setiap sistem atau penggunaannya. Kerangka kerja dan perangkat pengujian dapat membantu menyusun bukti secara lebih teratur; otoritas dan organisasi tetap perlu menilai apakah bukti tersebut benar-benar sesuai dengan penerapan dan risikonya.

Nilai keselamatan AI, keandalan perangkat lunak, dan keamanan siber bersama-sama

Menguji keluaran model hanyalah sebagian dari evaluasi terhadap agen AI. Penilaian menyeluruh juga perlu memeriksa perangkat lunak yang membungkus model serta keamanan perangkat dan izin yang dapat diaksesnya. Ini adalah pertanyaan yang saling berkaitan, tetapi berbeda: perilaku berbahaya apa yang dapat dihasilkan AI; bagaimana aplikasi yang sudah dirangkai berperilaku saat terjadi kegagalan atau perubahan; dan apakah penyerang dapat mengambil alih atau mengarahkan ulang sistem?

Penilaian gabungan ini merupakan rekomendasi untuk memperluas praktik jaminan, bukan klaim bahwa semua perangkat yang tersedia saat ini sudah mencakup ketiga hal tersebut. Dokumentasi AI Verify Toolkit menjelaskan pengujian teknis untuk sistem pembelajaran mesin tradisional, termasuk keadilan, keterjelasan, dan ketahanan. Karena itu, pengujian menyeluruh tambahan untuk penerapan AI agen perlu dirumuskan dengan jelas—bukan diasumsikan sudah tercakup oleh hasil uji pada tingkat model.

Tolok ukur jeda AI yang bermakna

Jeda AI bermakna jika bukti independen dapat mengubah langkah berikutnya: peluncuran berisiko tinggi bisa ditunda, dibatasi, atau diperbaiki ketika pengamanannya belum memadai, sementara penggunaan biasa yang berisiko lebih rendah tetap memiliki jalur penerapan yang sepadan. Kerangka dan program pengujian Singapura menyediakan fondasi untuk membangun jaminan semacam itu. Namun, ambang peluncuran, penegakan, dan cakupan evaluasinya perlu ditetapkan secara eksplisit.