Arthur Mensch Pertikai Amaran Bencana AI: Soal Keselamatan atau Kuasa Pasaran?

Dalam wawancara dengan Le Monde pada 24 September, ketua pegawai eksekutif Mistral AI, Arthur Mensch, mempertikaikan cara gergasi teknologi Amerika membicarakan bahaya kecerdasan buatan (AI). Katanya, “AI ialah perisian. Ia boleh dikawal.” Beliau berpendapat ketakutan terhadap teknologi itu boleh digunakan untuk mengukuhkan penguasaan pasaran. Tetapi dakwaan tersebut bukan keputusan muktamad tentang keselamatan AI: sesuatu amaran boleh menggambarkan risiko sebenar, walaupun syarikat yang mengeluarkannya turut mendapat manfaat.29

Siapa yang menetapkan syarat keselamatan?

Inti cabaran Mensch ialah siapa yang berhak menentukan kadar pembangunan AI yang dianggap bertanggungjawab. Jika syarikat terbesar membentuk peraturan mengikut syarat yang paling mudah dipenuhi oleh mereka sendiri, pesaing lebih kecil mungkin menanggung beban yang lebih berat. Itu kebimbangan tentang persaingan, bukannya bukti bahawa risiko AI direka-reka.29

Mistral sendiri tidak mengatakan penggunaan AI bebas daripada bahaya. Syarikat itu pernah memberi amaran bahawa model AI boleh menjadi pelaku yang berkuasa apabila diberi kebebasan bertindak dan akses kepada alat, lalu perlu digunakan dengan cermat. Maka, kenyataan Mensch bahawa AI boleh dikawal lebih wajar dibaca sebagai hujah untuk mengurus risiko, bukan jaminan bahawa semua sistem pada masa depan pasti dapat dikawal.72

Mengapa amaran itu tetap perlu diteliti

Pada awal September, Jacob Coxon, bekas penyelidik Anthropic yang pernah bekerja di OpenAI, memberi amaran bahawa AI “boleh membunuh kita semua menjelang akhir dekad ini”. Ketua pegawai eksekutif Anthropic, Dario Amodei, kemudian menyeru supaya pembangunan model paling maju diperlahankan secara sukarela. Menurut Le Monde, pesaing utama Anthropic di Amerika menyokong seruan beliau pada 12 September.18

Amaran itu serius, tetapi bukan ramalan yang sudah terbukti. Kata-kata Coxon menyatakan suatu kemungkinan, bukan tarikh akhir yang telah dapat dipastikan. Begitu juga, sokongan terhadap usaha memperlahankan pembangunan tidak dengan sendirinya membuktikan langkah itu lebih berkesan daripada perlindungan yang disasarkan kepada risiko tertentu.18

Perbezaan pandangan ini bukan sekadar pertentangan Eropah dengan Amerika. Geoffrey Hinton menggesa tindakan lebih cepat untuk menyediakan langkah perlindungan, manakala Andrew Ng mempersoalkan bukti di sebalik publisiti bernada malapetaka dan menolak seruan umum untuk menghentikan kemajuan. Persoalan yang lebih berguna ialah: risiko mana yang sudah ditunjukkan melalui bukti, dan langkah apa yang benar-benar dapat menanganinya?

Di mana dakwaan antipersaingan bermula?

Sekumpulan pelanggan perkhidmatan AI telah memfailkan saman yang mendakwa Anthropic, OpenAI, SpaceXAI dan Google bersetuju untuk menyekat pembangunan yang bersaing susulan seruan memperlahankan AI pada 12 September. Itu dakwaan dalam saman, bukan keputusan mahkamah bahawa suatu perjanjian menyalahi undang-undang telah berlaku. Beberapa eksekutif menyuarakan kebimbangan keselamatan yang serupa tidak, dengan sendirinya, membuktikan mereka berpakat.

Kritikan Mensch dan saman tersebut menyentuh isu yang berkait, tetapi berbeza. Mensch mempersoalkan sama ada hujah keselamatan boleh memihak kepada pemain sedia ada. Saman itu pula mempersoalkan sama ada pesaing benar-benar mencapai persetujuan untuk memperlahankan pembangunan. Kedua-duanya tidak boleh dijawab dengan menganggap setiap amaran sebagai helah pemasaran, atau setiap seruan berhati-hati sebagai bukti pakatan.

Ujian yang paling munasabah ialah menilai setiap cadangan keselamatan berdasarkan bukti yang boleh diperiksa secara bebas, kemudian bertanya sama ada kos pematuhannya membebankan bakal pesaing secara tidak seimbang. Penelitian yang sama perlu dikenakan terhadap hujah Mistral untuk terus membangunkan AI dan seruan syarikat besar supaya pembangunan diperlahankan. Kepentingan perniagaan ialah sebab untuk menguji sesuatu hujah dengan lebih teliti, bukan alasan untuk menolaknya tanpa menilai bukti.789