Roland Lescure: Memperlambat AI Berisiko Mengabadikan Dominasi Perusahaan AS

Perdebatan mengenai seberapa cepat kecerdasan buatan (AI) harus dikembangkan kini bukan hanya soal keamanan, melainkan juga soal pengaruh teknologi. Menteri Keuangan Prancis Roland Lescure, pada 16 September, mengatakan seruan untuk memperlambat pengembangan AI berpotensi menguntungkan perusahaan-perusahaan AS yang sudah berada di posisi terdepan. 2

Menurut Lescure, pihak yang menyerukan perlambatan kini justru datang dari mereka yang sudah “berada di puncak kelas”. Jika semua pihak yang tertinggal juga dipaksa melambat, para pemimpin tersebut dapat mempertahankan posisi pertama—sesuatu yang, menurutnya, jelas sejalan dengan kepentingan mereka sendiri. 2

Kapabilitas AI sebagai cara mengelola risiko

Lescure tidak mengatakan AI tanpa risiko. Inti argumennya adalah Prancis dan Eropa perlu mempercepat penggunaan serta membangun kemampuan AI sendiri agar dapat menjadi pemimpin yang sanggup mengelola risiko teknologi itu. Ketergantungan pada penyedia model AI terdepan dari luar kawasan akan membuat Eropa memiliki kendali praktis yang lebih kecil atas penerapan dan tata kelola AI. 2

Pandangan ini sejalan dengan peringatannya sebelumnya bahwa kedaulatan AI Eropa tidak dapat bergantung pada satu perusahaan saja. Ia menyerukan pembangunan ekosistem yang lebih luas, alih-alih menaruh seluruh ambisi AI Eropa pada satu juara nasional. 17

Berseberangan dengan seruan untuk mengatur laju AI terdepan

Sikap Lescure berbeda dengan usulan CEO Anthropic, Dario Amodei. Amodei meminta perusahaan AI memperlambat laju peningkatan kemampuan model-model AI terdepan (frontier AI) agar kerja keselamatan dan tata kelola memiliki waktu untuk mengejar ketertinggalan. Usulannya antara lain melibatkan evaluator independen yang memperoleh akses berkelanjutan ke sistem untuk menilai komitmen keselamatan dan insiden. 15

Reuters melaporkan CEO OpenAI Sam Altman termasuk di antara para pemimpin industri yang menginginkan perlambatan terkoordinasi. Posisi itu membuat Altman lebih dekat dengan resep jangka pendek Amodei ketimbang pandangan Lescure yang menekankan percepatan. 4

Karena itu, perdebatan ini bukan sekadar pilihan sederhana antara kecepatan atau keamanan. Kelompok Amodei berpendapat kenaikan kapabilitas AI perlu diatur lajunya supaya perlindungan dapat mengejar. Sementara Lescure menilai Eropa harus membangun dan mengadopsi AI dengan cepat agar memiliki kapasitas nyata untuk mengatur dampaknya. 12

Kekhawatiran soal hilangnya kendali

Pelaporan yang tersedia mendukung pernyataan bahwa Amodei memperingatkan agen AI yang sangat canggih dapat menjadi sulit dikendalikan. Ia menggambarkan skenario ketika sekelompok agen AI dapat mengambil alih sebagian besar internet dalam enam hingga 12 bulan. 39

Namun, usulan Amodei bukan penghentian total pekerjaan AI. Ia mengusulkan pengaturan laju pengembangan AI terdepan, bukan mengakhiri riset dan pengembangan AI secara menyeluruh. 18

Batas fakta yang didukung pelaporan

Sumber yang tersedia tidak memverifikasi klaim bahwa para peneliti Anthropic mengatakan kemajuan AI yang cepat akan menyebabkan kepunahan manusia. Sumber tersebut juga tidak mendukung atribusi bahwa Lescure secara khusus mengidentifikasi risiko AI dalam bidang keamanan siber dan pendidikan, atau bahwa ia mengatakan prediksi pasti mengenai risiko eksistensial dapat membuat masyarakat menghindari tanggung jawab kolektif.

Yang dapat dipastikan dari pelaporan adalah adanya perbedaan strategi yang tegas: mempercepat kapasitas AI Eropa demi kedaulatan dan kemampuan mengelola risiko, atau memperlambat kemajuan model AI terdepan agar langkah-langkah keselamatan dapat menyusul. 124