Amazon Minta AI Diuji Ketat sebelum Rilis, tetapi Tak Dukung Perlambatan Industri

Amazon mengambil posisi tengah dalam perdebatan keselamatan kecerdasan buatan (AI): model berkemampuan tinggi harus dirilis hanya setelah melewati pengujian ketat dan memiliki pengaman yang kuat. Perusahaan juga menekankan perlunya kerja bersama antara industri dan pemerintah. Namun, Amazon tidak mendukung perlambatan pengembangan AI secara terkoordinasi di seluruh industri. 6

Bagi Amazon, kemajuan dan keselamatan bukan dua pilihan yang saling meniadakan. Fokusnya adalah pada ambang sebelum peluncuran: model dinilai, diberi pengaman, lalu hanya diterapkan ketika dinilai aman digunakan.

Apa yang sebenarnya didorong Amazon

Kepada Reuters, Amazon menyatakan model seharusnya dirilis ketika “siap dan aman digunakan”, yang menurutnya mensyaratkan pengujian ketat serta pengaman kuat. Amazon juga menekankan aksi kolektif antara industri dan pemerintah. 6

Perbedaannya penting. Amazon tidak menyerukan jeda pelatihan model maupun pembatasan umum atas peningkatan kemampuan AI. Standar yang diajukan terkait kesiapan untuk dirilis, bukan kecepatan riset dan pengembangan: evaluasi sistem, pasang pengaman, lalu luncurkan bila cukup aman.

Tetap ada pertanyaan besar yang belum terjawab: siapa yang menetapkan standar pengujian, bukti apa yang cukup untuk menyatakan sebuah model aman, dan apakah pengujian yang dilakukan pengembang sendiri sudah memadai.

Bedanya dengan usulan Anthropic

CEO Anthropic, Dario Amodei, meminta perusahaan AI di garis depan memperlambat laju peningkatan kemampuan model agar langkah keselamatan punya waktu untuk mengejar. Usulannya mencakup evaluator independen dengan akses mendalam, standar lintas industri, serta koordinasi internasional. 12

Posisi Amodei lebih menuntut daripada Amazon. Ia tidak hanya menjadikan keselamatan sebagai syarat sebelum rilis, tetapi juga berpendapat bahwa laju pengembangan perlu dikurangi saat pengaman tertinggal dari kemajuan kemampuan model. Peringatannya mengenai penyalahgunaan dan hilangnya kendali di masa depan merupakan argumen untuk bersikap hati-hati, bukan bukti bahwa pengambilalihan oleh AI otonom sudah terjadi. 111

Ringkasnya:

• Amazon: kemajuan dapat berlanjut, tetapi jangan merilis model sebelum lolos pengujian ketat dan aman digunakan. 6
• Anthropic: keselamatan juga harus menentukan seberapa cepat kemampuan AI tingkat lanjut ditingkatkan, dengan pengawasan independen dan standar yang terkoordinasi. 12

Posisi perusahaan AI lain

Pimpinan OpenAI, Google DeepMind, dan xAI secara terbuka menyatakan dukungan terhadap arah usulan Amodei. CEO OpenAI Sam Altman mengatakan ia akan menyamai komitmen Anthropic untuk melibatkan evaluator eksternal dengan akses setara karyawan guna meninjau praktik keselamatan. 4

Namun, dukungan atas tujuan keselamatan tidak otomatis menyelesaikan rincian penerapannya. Perlambatan terkoordinasi membutuhkan definisi bersama mengenai kemampuan yang berbahaya, mekanisme verifikasi yang kredibel, serta kesepakatan antarpesaing yang berada di bawah tekanan bisnis dan geopolitik. Reuters melaporkan para pemimpin AI besar masih terbelah soal tingkat urgensi risiko dan respons yang tepat.

Sebaliknya, CEO Meta Mark Zuckerberg lebih mendukung pengaman yang dipandu pasar ketimbang perlambatan terkoordinasi.

Inti sengketa kebijakan: pengujian sukarela atau pengawasan yang bisa dipaksakan?

Sikap Amazon selaras dengan langkah seperti evaluasi pra-rilis, red-teaming—pengujian untuk mencari celah dan kegagalan—kontrol keamanan, serta pelaporan risiko. Praktik-praktik ini telah diakui dalam manajemen risiko AI. International AI Safety Report 2026 mencantumkan pemodelan ancaman, evaluasi kemampuan, pengungkapan transparansi, dan pelaporan insiden sebagai langkah yang relevan.

Pertanyaan yang belum selesai adalah apakah langkah tersebut akan tetap bersifat sukarela. Para perunding Senat AS membahas rancangan undang-undang yang akan mewajibkan perusahaan AI menunjukkan bahwa mereka telah mengambil “langkah pencegahan yang wajar” terhadap bahaya. Usulan itu dapat memberi Menteri Perdagangan AS kewenangan meminta bukti dan mengerahkan auditor pemerintah untuk menguji produk perusahaan. 20

Rezim kewajiban kehati-hatian seperti itu akan membawa perdebatan melampaui janji korporasi. Ini tidak harus berarti penghentian menyeluruh, tetapi dapat menciptakan otoritas eksternal yang mampu mempertanyakan klaim perusahaan bahwa modelnya siap dirilis.

Kerja sama juga menghadapi masalah persaingan usaha dan tata kelola

Kesepakatan keselamatan bersama dapat membuat pengujian dan pelaporan lebih konsisten, tetapi juga memunculkan pertanyaan: siapa yang berhak menulis aturannya? Ketua Federal Trade Commission (FTC) AS, Andrew Ferguson, mengatakan publik semestinya “sangat curiga” bila perusahaan AI meminta pengecualian antimonopoli sambil melobi regulasi baru. Meski demikian, para ahli mengatakan kepada Reuters bahwa hukum persaingan usaha yang ada mungkin memungkinkan koordinasi untuk mencegah risiko katastrofik. 17

CEO Cohere, Aidan Gomez, juga memperingatkan bahwa pengaturan keselamatan yang dikuasai segelintir laboratorium AI dominan dapat mengukuhkan posisi pemain lama. Ia mendorong pengaman yang dapat diverifikasi secara independen, transparansi, dan partisipasi lebih luas, alih-alih membiarkan perusahaan terdepan menetapkan standar sendiri.

Kritik tersebut tidak membantah alasan keselamatan untuk bertindak bersama. Namun, kritik itu menegaskan satu syarat desain penting: pengawasan harus kredibel sekaligus tahan terhadap regulatory capture, yaitu ketika regulasi terlalu dipengaruhi pihak yang seharusnya diawasi.

Latar politik yang menyulitkan

Lingkungan kebijakan AS dapat membuat formula kerja sama industri-pemerintah versi Amazon sulit diterapkan. Pemerintahan Trump mendorong pendekatan internasional yang longgar terhadap regulasi AI, sementara Presiden Trump menyatakan pengaman yang ada sudah memadai. Pemerintahannya juga memberi tahu pengembang AI bahwa model dengan bobot terbuka (open-weight) tidak akan dikenai pengujian keselamatan sukarela.

Di sisi lain, Bill Gates berpendapat pemerintah belum siap menghadapi perubahan yang dipicu AI dan perlu bekerja sama secara internasional terkait risiko, termasuk gangguan terhadap pekerjaan, kecanduan, serta serangan siber. 18

Kesimpulannya

Kontribusi Amazon dalam perdebatan ini bukanlah seruan untuk memperlambat AI. Pesannya adalah menaikkan ambang peluncuran: jangan rilis model sebelum diuji secara ketat dan dilindungi pengaman yang kuat. 6

Posisi itu lebih longgar dibanding usulan Anthropic yang ingin menyesuaikan laju peningkatan kemampuan AI tingkat lanjut ketika keselamatan belum mampu mengejar. Namun, sikap Amazon tetap mengarahkan perdebatan pada pertanyaan praktis yang sangat penting: apakah perusahaan dapat dipercaya mengawasi sendiri keputusan peluncurannya, atau evaluator independen dan otoritas publik harus dapat memverifikasi, menantang, bahkan memblokirnya. 120