Arthur Mensch Menantang Narasi Bahaya AI: Soal Keselamatan atau Persaingan?

Dalam wawancara dengan Le Monde pada 24 September, CEO Mistral AI Arthur Mensch menuduh raksasa AI Amerika Serikat memanfaatkan ketakutan terhadap teknologi itu. “AI adalah perangkat lunak. AI bisa dikendalikan,” ujarnya. Pernyataan tersebut menantang narasi bahwa pengembangan AI harus diperlambat, tetapi bukan bukti bahwa semua risiko keselamatan telah teratasi.29

Siapa yang diuntungkan oleh aturan keselamatan?

Inti kritik Mensch adalah siapa yang menentukan standar pengembangan AI yang bertanggung jawab. Jika persyaratan keselamatan dirancang mengikuti kemampuan perusahaan terbesar, pesaing yang lebih kecil bisa kesulitan memenuhinya. Itu alasan untuk memeriksa dampak aturan terhadap persaingan—bukan alasan untuk menyimpulkan bahwa bahayanya dibuat-buat.29

Mistral sendiri tidak mengatakan penggunaan AI bebas risiko. Perusahaan itu memperingatkan bahwa model AI dapat menjadi pelaku yang kuat ketika diberi keleluasaan bertindak dan akses ke berbagai alat, sehingga penerapannya perlu dilakukan dengan hati-hati. Dengan demikian, klaim Mensch lebih tepat dibaca sebagai seruan untuk mengelola risiko, bukan jaminan bahwa setiap sistem AI kelak pasti dapat dikendalikan.72

Peringatan serius, tetapi bukan ramalan pasti

Pada awal September, Jacob Coxon, mantan peneliti Anthropic yang sebelumnya bekerja di OpenAI, memperingatkan bahwa AI “bisa membunuh kita semua sebelum akhir dekade ini”. CEO Anthropic Dario Amodei kemudian menyerukan perlambatan sukarela dalam pengembangan model AI paling canggih. Menurut Le Monde, seruannya pada 12 September didukung pesaing-pesaing utama Anthropic di AS.18

Peringatan Coxon menyatakan suatu kemungkinan, bukan tenggat kepunahan yang telah terbukti. Begitu pula, dukungan terhadap perlambatan belum dengan sendirinya menunjukkan bahwa langkah tersebut lebih efektif daripada pengamanan yang ditujukan pada risiko tertentu.18

Perbedaan pandangan ini juga tidak sesederhana Eropa melawan AS. Geoffrey Hinton mendesak tindakan pengamanan yang lebih cepat, sementara Andrew Ng mempertanyakan dasar bukti di balik narasi bencana dan menolak seruan menghentikan kemajuan secara menyeluruh. Pertanyaan yang lebih berguna adalah: risiko mana yang sudah ditunjukkan oleh bukti, dan tindakan apa yang tepat untuk mengatasinya?

Gugatan persaingan usaha adalah perkara terpisah

Sejumlah pelanggan layanan AI menggugat Anthropic, OpenAI, SpaceXAI, dan Google. Mereka menuduh perusahaan-perusahaan itu sepakat menahan laju pengembangan yang saling bersaing setelah seruan perlambatan pada 12 September. Itu masih tuduhan, bukan putusan bahwa telah terjadi kesepakatan yang melanggar hukum. Para eksekutif yang menyuarakan kekhawatiran serupa tidak otomatis berarti berkoordinasi.

Kritik Mensch menanyakan apakah retorika keselamatan dapat menguntungkan perusahaan yang sudah dominan. Gugatan tersebut menanyakan apakah para pesaing benar-benar mencapai kesepakatan untuk memperlambat pengembangan. Kedua pertanyaan itu perlu dinilai secara terpisah.

Ukuran yang paling masuk akal adalah menguji usulan pengamanan dengan bukti yang dapat diperiksa secara independen, lalu menilai apakah biayanya secara tidak proporsional membebani calon pesaing. Pengujian yang sama berlaku bagi alasan Mistral untuk terus mengembangkan AI maupun seruan perlambatan dari perusahaan besar: kepentingan bisnis adalah alasan untuk memeriksa argumen mereka, bukan langsung menolaknya.789