Ketua Hak Asasi PBB Desak Peraturan AI Hadapan yang Mengikat

Pesuruhjaya Tinggi Hak Asasi Manusia Pertubuhan Bangsa-Bangsa Bersatu (PBB), Volker Türk, menggesa kerajaan dan syarikat yang membangunkan AI hadapan supaya tidak lagi bergantung pada janji keselamatan sukarela. Dalam surat terbuka, beliau berkata kawal selia kendiri oleh syarikat adalah “langsung tidak mencukupi” untuk menangani kemudaratan sedia ada serta menghalang model AI autonomi yang maju daripada memintas perlindungan manusia. 7

AI hadapan merujuk kepada sistem di barisan paling maju dari segi keupayaan. Bagi Türk, keputusan tentang risiko yang perlu ditanggung masyarakat tidak sepatutnya ditentukan oleh segelintir syarikat teknologi sahaja. 7

Apa yang Türk minta dilakukan

Seruan beliau ditujukan kepada negara dan pembangun AI hadapan, dengan penekanan terhadap perlindungan yang boleh dikuatkuasakan serta disemak dari luar.

• Tadbir urus mengikat berasaskan hak asasi. Negara perlu memperkukuh peraturan, bukannya bergantung pada ikrar sukarela korporat, serta bekerjasama merentas sempadan bagi mengelakkan jurang antara pendekatan nasional. 7
• Usaha wajar hak asasi secara berterusan. Pembangun AI perlu mengenal pasti dan menangani kesan sebenar serta berpotensi terhadap hak asasi sepanjang kitar hayat sistem—bukan sekadar menjalankan penilaian sekali untuk memenuhi syarat pematuhan. Panduan PBB menerangkan proses ini sebagai mengenal pasti risiko, mengambil tindakan, menjejak keberkesanan dan berkomunikasi tentang langkah yang diambil.
• Penilaian dan pengesahan teknikal bebas. Türk menyeru perlindungan yang boleh diperiksa secara bebas, bukan semata-mata diterima berdasarkan jaminan syarikat sendiri. 7
• Tindakan pelbagai hala yang segera. Tadbir urus AI hadapan ialah isu antarabangsa; justeru peraturan dan jaminan keselamatan perlu dibangunkan secara terselaras antara negara dan institusi. 79

Mengapa amaran ini timbul sekarang

Campur tangan Türk berlaku ketika industri AI sedang berdebat secara terbuka tentang kelajuan pembangunan sistem yang semakin autonomi dan berpotensi memperbaik diri sendiri.

Jacob Coxon, penyelidik yang pernah bekerja di OpenAI dan Anthropic, meletak jawatan daripada Anthropic pada September 2026. Beliau berkata kedua-dua syarikat itu sedang berlumba ke arah kecerdasan super yang boleh memperbaik diri sendiri sambil “mempertaruhkan nyawa kita”. 68 Coxon turut menyatakan ada individu yang membangunkan AI percaya teknologi itu boleh “membunuh kita semua” menjelang akhir dekad ini. Itu ialah amaran yang dikaitkan dengan Coxon dan pembangun yang bimbang, bukannya ramalan yang telah terbukti. 6

Dalam perkembangan lain, inisiatif yang dipacu pekerja, Pacing the Frontier, meminta kerajaan Amerika Syarikat menyokong usaha antarabangsa untuk membina alat teknikal dan tadbir urus yang membolehkan pembangunan AI hadapan diperlahankan dengan sengaja apabila teknologi itu bergerak lebih pantas daripada kemampuan manusia untuk mengawasinya dengan selamat. Laman inisiatif itu menyenaraikan 1,386 penandatangan daripada syarikat AI hadapan. 15

Sokongan terhadap langkah “memperlahankan rentak” ini penting, namun tidak menyelesaikan persoalan akauntabiliti. Pendirian Türk jelas: komitmen sukarela, walaupun disokong pekerja atau pemimpin industri, tidak boleh menggantikan perlindungan awam yang boleh dikuatkuasakan. 7

Kemudaratan semasa dan risiko jangka panjang perlu ditangani bersama

Türk tidak membingkaikan isu ini sebagai semata-mata ancaman kepupusan pada masa depan. Beliau menegaskan bahawa kawal selia kendiri sukarela tidak memadai untuk menangani kemudaratan yang sudah berlaku dan juga untuk mencegah model autonomi maju daripada mengelak perlindungan manusia. 7

Laporan yang tersedia tidak memberikan senarai muktamad, satu demi satu, tentang bentuk kemudaratan semasa yang dinyatakan dalam surat itu. Oleh itu, tidak tepat untuk mengaitkan kategori kemudaratan tertentu kepada surat Türk melebihi amaran umum tersebut. Namun, kriteria tadbir urus yang diketengahkannya jelas: hak asasi manusia perlu kekal sebagai teras ketika AI direka, digunakan, dinilai dan ditadbir. 7

Jurang yang dikenal pasti PBB

Terdapat titik persamaan antara sebahagian suara dalam industri AI dengan amaran PBB: kedua-duanya mengakui pembangunan keupayaan AI mungkin perlu diperlahankan secara sengaja dan dinilai secara bebas. 715

Namun jurang yang belum ditutup ialah jurang politik. Kenyataan yang disokong pihak industri boleh menggalakkan penyelarasan, tetapi tidak dengan sendirinya menetapkan ambang bersama, memaksa pendedahan maklumat, mewajibkan penilaian bebas, atau menyediakan remedi dan akauntabiliti apabila kemudaratan berlaku.

Seruan Türk ialah supaya kerajaan menutup jurang itu melalui peraturan pelbagai hala yang segera di bawah undang-undang hak asasi manusia antarabangsa. 79 Bagi pembuat dasar dan organisasi yang membeli atau menggunakan AI, maksud praktikalnya mudah: dakwaan keselamatan perlu disertakan bukti penilaian risiko hak asasi yang berterusan, penelitian luar dan akauntabiliti yang jelas—bukan sekadar janji sukarela daripada syarikat yang membangunkan sistem itu.