Trump Tolak Perlahan AI, Amodei Desak Peraturan Keselamatan Model Terkini

Presiden Amerika Syarikat Donald Trump melihat perbahasan mengenai kecerdasan buatan (AI) canggih terutama sekali melalui lensa persaingan dengan China. Dalam kenyataan awamnya, beliau berkata AS mesti terus menerajui industri itu kerana “siapa yang menang AI, menang”. Trump kemudian menyifatkan dakwaan bahawa AI boleh mengambil alih dunia atau memusnahkan manusia sebagai “HOAX”, serta menuduh penentangan terhadap AI dan pusat data sebagai konspirasi “SICK” yang menguntungkan China. 1719

Mengapa Trump menyerang Dario Amodei

Respons Trump hadir selepas Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru agar kadar peningkatan keupayaan sistem AI paling canggih diperlahankan secara sengaja. Kedua-duanya bermula daripada keutamaan yang berbeza: Trump menekankan kepimpinan teknologi AS, manakala Amodei berhujah bahawa keupayaan model mungkin berkembang lebih pantas daripada amalan keselamatan dan pengawasan yang berkesan. 17

Trump juga berkata kuasa jenayah dan kawal selia sedia ada ke atas syarikat-syarikat itu sudah besar, malah mendakwa presiden yang kuat ialah perlindungan yang diperlukan. Justeru, kritikannya terhadap Amodei menggabungkan penolakan terhadap amaran risiko kewujudan manusia dengan kebimbangan bahawa sekatan rasmi boleh melemahkan syarikat AS berbanding pesaing China. 1921

Apa yang dicadangkan dalam “We Must Pace the Frontier”

Amodei tidak mencadangkan supaya penyelidikan AI dihentikan. Pelan tiga bahagiannya mahu memperlahankan peningkatan keupayaan tanpa kawalan agar penyelidikan keselamatan, ujian dan tadbir urus sempat mengejar.

1. Penilai bebas kekal di dalam makmal AI paling canggih. Anthropic berkata ia akan memberi penilai pihak ketiga akses berterusan setaraf pekerja kepada sistemnya. Mereka boleh mengesahkan pematuhan terhadap amalan keselamatan, melaporkan insiden dan menilai sama ada model kekal sejajar dengan matlamatnya ketika latihan. 16
2. Penyelarasan antara syarikat AI peneraju. Makmal AI termaju dicadangkan membentuk piawaian keselamatan bersama serta had terhadap pembangunan yang tidak terkawal, bukannya berlumba semata-mata untuk mempercepat peningkatan keupayaan.
3. Kerjasama antarabangsa. Amodei berhujah bahawa risiko AI paling serius akhirnya memerlukan kerjasama melangkaui satu negara atau blok geopolitik.

Langkah pertama ialah komitmen segera Anthropic sendiri, bukannya sekadar cadangan supaya kerajaan atau pesaing mengikutinya. 16

Reaksi daripada pemimpin teknologi lain

Ketua Pegawai Eksekutif OpenAI, Sam Altman, berkata beliau bersetuju bahawa pembangunan di peringkat paling canggih perlu diperlahankan, dan OpenAI juga akan memberi akses kepada penilai luar. Elon Musk, yang menerajui xAI, turut menyatakan persetujuan dengan Amodei.

Ketua Pegawai Eksekutif Microsoft, Satya Nadella, menyambut baik pendekatan memperlahankan pembangunan secara sengaja dan penggunaan penilai terbina dalam. Namun beliau menekankan satu syarat penting: pengawasan tidak sepatutnya dikawal oleh hanya segelintir syarikat. Menurutnya, sebarang usaha mengejar superintelligence—AI yang jauh mengatasi keupayaan manusia dalam banyak tugas—mesti memberi manfaat kepada manusia dan kekal di bawah kawalan manusia.

Reaksi ini belum membentuk satu rejim kawal selia bersama yang lengkap. Namun, ia menunjukkan beberapa tokoh industri menyokong penelitian yang lebih formal dan berterusan terhadap sistem AI paling maju.

Masalah penyelarasan: China dan risiko menahan diri secara bersendirian

Bekas penyelidik Anthropic dan OpenAI, Jacob Coxon, berkata orang yang membina sistem berkenaan benar-benar takut terhadap masa depan manusia. Beliau mengalu-alukan usaha memperlahankan pembangunan, tetapi berkata langkah itu perlu diselaraskan dengan China. 1

Inilah inti pertikaian tersebut. Syarikat atau negara yang memperlahankan langkahnya secara sendirian mungkin bimbang ketinggalan kepada pesaing yang tidak berbuat demikian. Kementerian Luar China pula membantah seruan Amodei untuk mengehadkan keupayaan AI China, dengan melihatnya sebagai usaha AS untuk membendung China, bukan tadbir urus keselamatan yang berkecuali. 4

Akibatnya, timbul masalah kepercayaan: penyokong melihat peraturan timbal balik sebagai cara mengurangkan risiko, manakala penentang boleh melihat peraturan yang sama sebagai alat untuk mengekalkan kelebihan teknologi pihak lain.

Kritikan bahawa peraturan keselamatan boleh melindungi pemain sedia ada

Pelabur Michael Burry menyifatkan kempen memperlahankan AI sebagai “self-serving”, atau menguntungkan pihak sendiri. Kritikan beliau ialah pembangunan yang lebih perlahan dan kos pematuhan yang lebih tinggi boleh membantu syarikat AI yang sudah kukuh, kerana ia menyukarkan pencabar baharu untuk bersaing. Beliau juga mempertikaikan pandangan bahawa model bahasa besar semasa sedang menuju kepada kecerdasan am buatan (AGI).

Kritikan itu tidak membuktikan kebimbangan keselamatan AI tidak berasas. Namun ia mengenal pasti risiko dasar yang nyata: peraturan yang direka untuk menjadikan pembangunan AI lebih selamat juga boleh mengukuhkan kuasa syarikat yang paling mampu mematuhinya. Kerangka yang diyakini perlu menangani kedua-dua isu—keselamatan dan penumpuan kuasa.

Mengapa pertemuan Trump-Xi pada 24 September penting

Trump dan pemimpin China Xi Jinping dijangka membincangkan tadbir urus AI dalam pertemuan yang dirancang pada 24 September. 4 Pertemuan itu penting kerana cabaran paling sukar dalam strategi keselamatan AI bukan sekadar menulis peraturan untuk sebuah makmal. Cabarannya ialah membina aturan yang dipercayai kuasa-kuasa pesaing sebagai timbal balik dan boleh dikuatkuasakan.

Pendekatan Trump yang mendahulukan persaingan dengan China, bersama bantahan Beijing terhadap had ke atas pembangunan AInya, menunjukkan betapa sukarnya usaha tersebut. Maka perdebatan ini bukan pilihan mudah antara berhenti dan memecut: persoalan sebenarnya ialah sama ada perlumbaan AI boleh ditadbir tanpa menjadikan dasar keselamatan sebagai satu lagi medan persaingan geopolitik. 174