Perkara yang diketahui tentang cadangan badan piawaian keselamatan AI perintis

Laporan awam menunjukkan terdapat titik persamaan yang nyata antara Anthropic, OpenAI dan Google DeepMind: model AI paling berkeupayaan tinggi sepatutnya dinilai melangkaui pemeriksaan dalaman oleh pembangunnya sendiri sebelum dilancarkan. Namun, laporan itu tidak membuktikan bahawa ketiga-tiga syarikat sudah membentuk pengawal selia bersama baharu, atau mencapai persetujuan tentang ujian yang mengikat, akses audit, ambang pelancaran atau hukuman bagi ketidakpatuhan. 811

Perbezaan ini penting. Persetujuan bahawa penilaian diperlukan tidak sama dengan kewujudan sebuah institusi yang mempunyai kuasa untuk menguatkuasakannya.

Cadangan itu, secara ringkas

Laporan menyatakan bahawa syarikat-syarikat tersebut telah mengadakan perbincangan di peringkat kumpulan kerja sejak Julai 2026 mengenai badan piawaian AI perintis yang diterajui industri. Matlamat yang kelihatan ialah mewujudkan sistem bersama untuk menilai keupayaan berbahaya sebelum penggunaan awam, khususnya risiko melibatkan operasi siber, penyalahgunaan biologi, penipuan dan bentuk penyalahgunaan berimpak tinggi lain. 811

Ketua Pegawai Eksekutif Google DeepMind, Demis Hassabis, mengemukakan model institusi yang paling jelas secara terbuka: Frontier AI Standards Body yang diterajui Amerika Syarikat dan dimodelkan berasaskan FINRA, sebuah organisasi kawal selia kendiri industri kewangan. Cadangannya menggambarkan badan yang dibiayai industri tetapi beroperasi di bawah pengawasan persekutuan, untuk menguji model AI perintis sebelum pelancaran. Ia akan bermula dengan penyerahan secara sukarela dan hanya mungkin menjadi wajib selepas proses penilaian itu terbukti berfungsi. 9

Setakat rekod awam, tiada persetujuan terperinci antara makmal-makmal ini tentang perkara yang menjadikan sistem sebegitu kukuh dan boleh dilaksanakan, termasuk:

• model mana yang mesti disemak;
• penilaian teknikal yang wajib dibuat;
• sejauh mana akses yang diberikan kepada penilai luar;
• keputusan yang akan menghalang, melambatkan atau mengenakan syarat terhadap pelancaran;
• cara badan itu dibiayai dan ditadbir;
• tahap kebebasan penilai daripada syarikat yang mereka nilai; serta
• bentuk pengawasan kerajaan dan perlindungan undang-undang yang akan digunakan.

Selagi persoalan ini belum dijawab, menyifatkan inisiatif tersebut sebagai pengawal selia bersama yang sudah beroperasi adalah keterlaluan berbanding bukti yang ada.

Titik persamaan antara syarikat

Bidang persamaan paling kuat ialah ujian bebas sebelum pelancaran. Axios melaporkan pada Julai bahawa Dario Amodei, Sam Altman dan Demis Hassabis secara umum menyokong penelitian pihak luar terhadap model AI perintis sebelum model itu sampai kepada orang ramai, bukan sekadar bergantung pada laporan kendiri syarikat. 8

Perubahan ini penting kerana keselamatan model AI perintis bukan hanya bergantung pada sama ada pembangun menjalankan penilaian, tetapi juga sama ada pihak bebas boleh mengulangi, menyemak atau mencabar dapatan tersebut. Sistem yang diyakini memerlukan ujian yang jelas, akses yang mencukupi kepada sistem, serta akibat yang ditetapkan jika sesuatu model melepasi ambang risiko.

Ketiga-tiga syarikat turut membingkaikan isu ini sebagai isu antarabangsa. Cadangan mereka mengakui dilema strategik: sekatan unilateral oleh AS mungkin sukar diterima secara politik jika pembangun pesaing di luar negara tidak tertakluk kepada had yang setanding. Pelan Hassabis secara jelas dipimpin AS, manakala Amodei berhujah bahawa langkah perlindungan di peringkat negara sahaja tidak dapat mengawal sistem yang boleh digunakan secara global. 91

Perbezaan pandangan tentang tadbir urus

Bahasa bersama mengenai keselamatan menyembunyikan perbezaan asas: adakah ini sepatutnya rangka kerja industri secara sukarela, sistem yang disokong kerajaan, atau pengawal selia dengan kuasa sebenar?

Model yang dicadangkan DeepMind dibiayai industri tetapi diawasi kerajaan persekutuan. Ia membayangkan fasa awal secara sukarela, dengan kemungkinan semakan itu kemudian menjadi prasyarat untuk pelancaran. 9

Cadangan Amodei pula menekankan penilai bebas yang ditempatkan dalam makmal AI perintis, dan menyeru syarikat di negara demokrasi supaya menyelaraskan piawaian dengan sokongan kerajaan apabila perlu. 12

Pelaporan mengenai perbincangan kumpulan kerja menggambarkan OpenAI sebagai terbuka kepada tindakan industri tanpa menunggu kerajaan membina keseluruhan rangka kerja terlebih dahulu. 11 Ketua Pegawai Eksekutif OpenAI, Sam Altman, juga menyokong idea penilai bebas dengan akses setara pekerja selepas esei Amodei diterbitkan.

Ini bukan sekadar perbezaan kecil. Pengaturan sukarela boleh bergerak pantas dan menyelaraskan amalan teknikal. Namun, tanpa tadbir urus bebas serta kuasa awam, ia mungkin tidak mampu memaksa akses, menyelesaikan pertikaian, mencegah konflik kepentingan atau menghentikan syarikat daripada melancarkan model yang gagal penilaian keselamatan.

Frontier Model Forum bukan bukti pengawal selia baharu

Frontier Model Forum sudah wujud sebagai badan industri yang melibatkan syarikat AI utama. Matlamat rasminya termasuk memajukan penyelidikan keselamatan, membangunkan penilaian serta amalan terbaik, dan berkongsi maklumat dengan penggubal dasar serta industri.

Ini menjadikannya saluran yang munasabah untuk penyelarasan. Tetapi kewujudannya sendiri tidak membuktikan bahawa badan bebas baharu telah dilancarkan atau bahawa sistem audit merentas syarikat adalah mengikat. Persoalan pentingnya ialah sama ada syarikat-syarikat ini akan membentuk entiti yang sekadar menghasilkan panduan, atau entiti yang benar-benar boleh menilai model secara bebas dan mengenakan syarat bermakna terhadap pelancaran.

Mengapa esei Amodei mengubah perdebatan awam

Pada 12 September, Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menerbitkan esei sekitar 3,800 patah perkataan bertajuk We Must Pace the Frontier. Beliau berhujah bahawa peningkatan keupayaan AI patut diperlahankan supaya amalan keselamatan mempunyai masa untuk mengejar kemajuan tersebut. 52

Amodei memberi amaran bahawa dalam tempoh enam hingga 12 bulan, sekumpulan ejen AI automatik yang lebih berkeupayaan berpotensi mengambil alih internet. Ini perlu difahami sebagai ramalan dan amaran risiko, bukannya hasil teknikal yang sudah dibuktikan. 513

Beliau mencadangkan tiga langkah:

1. Menempatkan penilai bebas dalam makmal AI perintis dengan akses setara pekerja untuk menguji sistem, mengenal pasti kegagalan keselamatan dan menilai pematuhan. 12
2. Menyelaraskan piawaian serta had keselamatan bersama antara syarikat AI di negara demokrasi, dengan sokongan kerajaan jika diperlukan. 216
3. Mengusahakan penyelarasan antarabangsa yang lebih luas, termasuk dengan kerajaan autoritarian, kerana model canggih dan risikonya boleh digunakan di seluruh dunia. 115

Anthropic menyatakan ia akan memberikan akses kekal pada tahap pekerja kepada penilai pihak ketiga. Ini merupakan komitmen yang lebih mendalam daripada ujian luar sekali sahaja, tetapi kredibiliti praktikalnya masih bergantung pada siapa yang memilih penilai, perkara yang boleh mereka periksa, sama ada mereka boleh menerbitkan dapatan, dan tindakan yang akan diambil jika mereka mengenal pasti risiko yang tidak boleh diterima. 122

Ujian sebenar: akauntabiliti

Kebimbangan utama pengkritik adalah mudah: syarikat yang berlumba membina sistem paling berkuasa mungkin juga membantu menulis, mentadbir dan mentafsir peraturan bagi sistem mereka sendiri.

Sebuah badan keselamatan akan lebih diyakini jika mempunyai kepimpinan teknikal yang bebas, kaedah penilaian yang telus, perlindungan daripada pengaruh syarikat, pengawasan kerajaan yang bermakna dan kuasa yang jelas untuk bertindak selepas penilaian gagal. Tanpa ciri-ciri ini, piawaian bersama mungkin menambah baik amalan, tetapi masih belum mencapai tahap akauntabiliti bebas.

Indeks Keselamatan AI Musim Panas 2026 oleh Future of Life Institute menunjukkan sebab keraguan itu berterusan. Ia memberikan Anthropic gred C+, OpenAI gred C dan Google DeepMind gred C; tiada makmal yang dinilai menerima gred lebih tinggi daripada C+. 17

Senator Bernie Sanders pula berpendapat bahawa tindakan memperlahankan kemajuan sahaja tidak mencukupi. Beliau menyeru supaya pembangunan AI maju dihentikan sementara dan kecerdasan super buatan diharamkan. Pendirian itu jauh lebih ketat daripada cadangan makmal-makmal tersebut, tetapi ia menyerlahkan jurang antara langkah sukarela dan had yang benar-benar boleh dikuatkuasakan.

Perkara yang perlu diperhatikan selepas ini

Petanda kemajuan yang bermakna bukan sekadar kenyataan prinsip baharu. Ia ialah komitmen institusi yang nyata, seperti:

• piagam tadbir urus yang diterbitkan;
• penilai bebas yang dinamakan;
• ujian seragam untuk keupayaan dan potensi penyalahgunaan;
• peraturan tentang akses audit serta pendedahan;
• ambang pelancaran dan keperluan pemulihan; dan
• jawapan jelas sama ada dapatan keselamatan boleh melambatkan atau menghalang pelancaran.

Buat masa ini, bukti menyokong kesimpulan yang lebih terhad: makmal AI perintis utama sedang membincangkan infrastruktur keselamatan bersama dan semakin menyokong ujian luar. Sama ada perbincangan itu akan menghasilkan badan piawaian yang bebas serta boleh dikuatkuasakan, atau sekadar forum industri secara sukarela, masih belum diputuskan. 8911