Trump Tolak Perlambatan AI, Amodei Dorong Aturan Keselamatan untuk Model Tercanggih

Presiden AS Donald Trump menempatkan perdebatan AI canggih terutama dalam bingkai persaingan dengan China. Dalam pernyataan publik, ia mengatakan Amerika Serikat harus mempertahankan posisi terdepan karena “siapa yang memenangkan AI, menang.” Trump kemudian menyebut anggapan bahwa AI dapat mengambil alih dunia atau menghancurkan umat manusia sebagai “HOAX”, serta melabeli penolakan terhadap AI dan pusat data sebagai konspirasi “SICK” yang menguntungkan China. 1719

Mengapa Trump menyerang Dario Amodei?

Respons Trump muncul setelah CEO Anthropic, Dario Amodei, meminta industri untuk sengaja memperlambat laju peningkatan kemampuan sistem AI paling canggih—sering disebut frontier AI. Keduanya berangkat dari prioritas yang berbeda: Trump menekankan kepemimpinan teknologi AS, sedangkan Amodei berpendapat kemampuan model bisa berkembang lebih cepat daripada praktik keselamatan dan pengawasan yang efektif. 17

Trump juga mengatakan kewenangan pidana dan regulasi yang ada sudah besar, serta presiden yang kuat merupakan pengaman yang dibutuhkan. Kritiknya terhadap Amodei dengan demikian memadukan skeptisisme terhadap peringatan risiko eksistensial dengan kekhawatiran bahwa pembatasan formal akan melemahkan perusahaan AS dibandingkan pesaing dari China. 1921

Isi usulan “We Must Pace the Frontier”

Amodei tidak menyerukan penghentian riset AI. Rencana tiga bagiannya meminta perlambatan kenaikan kemampuan yang tidak terkendali agar pekerjaan keselamatan, pengujian, dan tata kelola memiliki waktu untuk menyusul.

1. Evaluator independen permanen di dalam laboratorium AI terdepan. Anthropic mengatakan akan memberi evaluator pihak ketiga akses berkelanjutan setara karyawan ke sistemnya. Mereka akan memverifikasi praktik keselamatan, melaporkan insiden, dan menilai keselarasan (alignment) model selama pelatihan—yakni apakah perilaku sistem tetap sejalan dengan tujuan yang ditetapkan manusia. 16
2. Koordinasi antarpengembang AI frontier. Laboratorium terkemuka diminta membangun standar keselamatan bersama dan membatasi pengembangan yang tidak terkendali, alih-alih semata berlomba meningkatkan kemampuan model secepat mungkin.
3. Kerja sama internasional. Amodei menilai pengelolaan risiko AI yang paling serius pada akhirnya membutuhkan kerja sama lintas negara, bukan hanya kebijakan satu negara atau satu blok.

Langkah pertama dipaparkan sebagai komitmen langsung Anthropic, bukan sekadar usulan agar pemerintah atau pesaingnya bertindak. 16

Respons Altman, Musk, dan Nadella

CEO OpenAI Sam Altman mengatakan ia setuju bahwa perkembangan AI terdepan perlu diatur lajunya, dan OpenAI juga akan memberi akses kepada evaluator eksternal. Elon Musk, yang menjalankan xAI, turut menyatakan persetujuannya dengan Amodei.

CEO Microsoft Satya Nadella menyambut gagasan perlambatan yang disengaja dan evaluator yang tertanam di dalam perusahaan. Namun, ia mengajukan syarat penting: pengawasan tidak boleh dikendalikan hanya oleh segelintir perusahaan. Menurutnya, setiap upaya mengejar superinteligensi harus bermanfaat bagi manusia dan tetap berada di bawah kendali manusia.

Respons tersebut belum berarti sudah ada rezim regulasi bersama yang lengkap. Tetapi, hal itu menunjukkan sejumlah pemimpin industri mendukung pengawasan yang lebih formal dan berkelanjutan terhadap sistem AI paling maju.

Masalah koordinasi: China dan risiko menahan diri sendirian

Jacob Coxon, mantan peneliti Anthropic dan OpenAI, mengatakan orang-orang yang membangun sistem ini “benar-benar takut” terhadap masa depan umat manusia. Ia menyambut gagasan perlambatan, tetapi menekankan bahwa langkah itu harus dikoordinasikan dengan China. 1

Di sinilah letak persoalan utama. Perusahaan atau negara yang memperlambat diri secara sepihak bisa khawatir tertinggal dari pesaing yang terus melaju. Kementerian Luar Negeri China menolak seruan Amodei mengenai pembatasan yang memengaruhi kemampuan AI China, dengan melihatnya sebagai upaya AS menahan China, bukan tata kelola keselamatan yang netral. 4

Hasilnya adalah masalah kepercayaan: para pendukung melihat aturan timbal balik sebagai cara mengurangi risiko, sementara pihak yang menolak dapat memandang aturan yang sama sebagai alat untuk mempertahankan keunggulan teknologi pihak lain.

Kritik bahwa keselamatan dapat melindungi pemain lama

Investor Michael Burry menyebut kampanye perlambatan AI sebagai sesuatu yang “self-serving”, atau menguntungkan kepentingan pihak yang mendorongnya. Kritiknya: pengembangan yang lebih lambat dan kewajiban kepatuhan yang lebih berat dapat membantu perusahaan AI mapan karena membuat pendatang baru lebih sulit bersaing. Ia juga menolak pandangan bahwa model bahasa besar saat ini otomatis berada di jalur menuju kecerdasan umum buatan atau AGI.

Kritik itu tidak dengan sendirinya membantah kekhawatiran soal keselamatan AI. Namun, kritik tersebut menyoroti risiko kebijakan yang nyata: aturan yang dibuat untuk mengamankan pengembangan AI frontier juga dapat memperkuat dominasi perusahaan yang paling mampu memenuhi kewajiban tersebut. Kerangka yang kredibel perlu menangani keselamatan sekaligus konsentrasi kekuasaan.

Mengapa rencana pertemuan Trump–Xi penting?

Trump dan pemimpin China Xi Jinping dijadwalkan membahas tata kelola AI dalam pertemuan yang direncanakan pada 24 September. 4 Pertemuan itu penting karena tantangan terbesar strategi keselamatan AI frontier bukan sekadar menulis aturan untuk satu laboratorium, melainkan menciptakan kesepakatan yang dipercaya negara-negara pesaing sebagai aturan yang timbal balik dan dapat ditegakkan.

Cara Trump membingkai isu ini dengan mengutamakan persaingan China, serta keberatan Beijing terhadap pembatasan pengembangan AI-nya, menunjukkan betapa sulitnya tugas tersebut. Karena itu, perdebatan ini lebih besar daripada pilihan sederhana antara mempercepat atau menghentikan laju AI: pertanyaan sebenarnya adalah apakah perlombaan AI dapat diatur tanpa menjadikan kebijakan keselamatan sebagai medan baru persaingan geopolitik. 174