Ikrar keselamatan AI satukan pemimpin teknologi buat sementara, tetapi perbezaan pandangan kekal

Pertemuan di Rumah Putih pada 29 September mempertemukan pertikaian tentang risiko kecerdasan buatan (AI) dengan satu ikrar keselamatan yang dipersembahkan secara terbuka. Menurut laporan, beberapa eksekutif teknologi mempersoalkan amaran Ketua Pegawai Eksekutif Anthropic, Dario Amodei. Selepas pertemuan itu, Amodei berkata AI membawa “risiko yang sangat nyata”, tetapi cara menangani risiko tersebut masih dibincangkan. Eksekutif berkenaan dan Presiden Donald Trump turut memperkenalkan ikrar keselamatan sukarela. Namun, persetujuan itu tidak menghapuskan perbezaan mereka tentang peranan kerajaan dalam mengawal selia AI. 2

Apa yang berlaku dalam pertemuan itu?

Satu laporan yang diringkaskan dalam liputan media menyebut berlaku pertikaian dalam sesi yang lebih kecil apabila beberapa eksekutif mencabar amaran Amodei. Maklumat yang tersedia tidak cukup terperinci untuk membina semula perbualan itu atau menentukan dengan tepat siapa yang berkata apa. Laporan tersebut juga tidak mengesahkan bahawa isu kehilangan pekerjaan dibangkitkan dalam pertikaian khusus itu.

Perbezaan pandangan yang lebih luas, bagaimanapun, jelas. Amodei pernah menyeru supaya peraturan mewajibkan audit bebas bagi sistem AI tercanggih. Trump pula menyokong syarikat mengawasi teknologi mereka sendiri, bukannya dikenakan sekatan baharu oleh kerajaan persekutuan. 4 Selepas pertemuan itu, Amodei menegaskan bahawa risikonya memang nyata, sementara cara menanganinya masih dalam perbincangan. 2

Apa yang dijanjikan dalam ikrar sukarela itu?

Ikrar Rumah Putih mengenai Superintelligence menggariskan komitmen syarikat terhadap kawalan dalaman dan semakan keselamatan. Syarikat juga berjanji bekerjasama dengan juruaudit bebas untuk menilai sama ada sistem AI berfungsi seperti yang dimaksudkan pembangunnya, selain menyediakan perlindungan daripada penggodaman atau akses tanpa kebenaran. 315

Trump menyifatkan ikrar itu sebagai “mengikat dari segi moral” dan berkata syarikat akan mengawasi diri mereka sendiri. Namun, laporan media menggambarkannya sebagai sukarela dan tidak boleh dikuatkuasakan di sisi undang-undang. Ringkasnya, ia ialah komitmen industri, bukannya peraturan persekutuan baharu. 411

Perbezaan itu penting. Ikrar tersebut menyenaraikan langkah pengawasan, tetapi tidak menetapkan sama ada peraturan luar patut mewajibkannya, bagaimana langkah itu akan dikuatkuasakan, atau sama ada komitmen berkenaan kelak akan dijadikan undang-undang. Laporan menyebut kemungkinan langkah-langkah itu dimasukkan ke dalam undang-undang pada masa hadapan masih terbuka.

Persoalan pengawasan masih terbuka

Trump membangkitkan cadangan menubuhkan jawatankuasa 10 orang untuk mengawasi industri. Berdasarkan laporan yang tersedia, perkara itu masih berupa cadangan yang sedang dipertimbangkan—bukan badan yang sudah ditubuhkan. 210

Sumber juga tidak mengesahkan dakwaan bahawa sebuah badan kawal selia kendiri industri yang berasingan telah dibatalkan, atau menjelaskan bagaimana rancangan sedemikian akan berkait dengan ikrar itu. Walaupun penyertaan Anthropic dikaitkan dengan pertemuan dan perbahasan lebih luas tentang peraturan, bukti yang ada tidak menunjukkan bahawa syarikat itu menandatangani ikrar untuk memulihkan hubungan dengan pentadbiran menjelang IPO, atau bahawa IPO syarikat itu bakal berlangsung. 45

Persetujuan terbuka, perbahasan belum selesai

Pertemuan itu menghasilkan persetujuan umum tentang langkah perlindungan, tetapi bukan kesepakatan tentang peranan kerajaan. Seruan Amodei supaya audit bebas diwajibkan melalui peraturan berbeza daripada pendirian Trump yang mengutamakan pengawasan sukarela oleh syarikat. Persoalan utamanya kekal: siapa yang patut menetapkan dan menguatkuasakan syarat keselamatan AI? 4

Justeru, ikrar itu paling tepat difahami sebagai rangka kerja sukarela untuk tindakan syarikat—bukan bukti bahawa para eksekutif sependapat tentang tahap risiko AI atau bahawa kawal selia kendiri sudah memadai.