Jensen Huang: AI Tak Perlu Aturan Baru, Keselamatan Bukan Alasan Memperlambat

Jensen Huang membawa pesan tegas di Dreamforce 2026, konferensi tahunan Salesforce: kemajuan AI yang cepat dan keselamatan AI bukan dua tujuan yang saling bertentangan. CEO Nvidia itu menilai industri tidak membutuhkan undang-undang atau regulasi baru yang khusus dibuat untuk AI, karena pengembang yang bertanggung jawab dapat membangun, menguji, dan menerapkan sistem secara aman tanpa menghentikan laju inovasi.

Posisi itu menempatkan Huang di salah satu sisi perdebatan yang kian menguat: siapakah yang seharusnya menentukan tempo pengembangan AI paling canggih—perusahaan pembuatnya sendiri, atau pengawas independen dan pemerintah?

Menurut Huang, keselamatan adalah persoalan rekayasa

Huang menolak anggapan bahwa perusahaan harus memilih antara bergerak cepat atau membuat produk yang aman. Baginya, itu adalah pilihan semu. Pengembang AI dapat bekerja secepat mungkin, tetapi tetap harus memegang kendali atas sistem yang mereka buat, melakukan pengujian ketat, dan tidak merilis produk yang belum siap.

Artinya, ia tidak menganggap keselamatan sebagai hal sepele. Namun, Huang memandangnya terutama sebagai tanggung jawab teknis dan operasional laboratorium atau perusahaan yang membangun sistem AI, bukan alasan untuk memasang rem regulasi secara luas pada pengembangan teknologi.

Ia juga skeptis terhadap peringatan bahwa AI berpotensi memusnahkan umat manusia sebagai kerangka utama dalam menilai risiko. Meski begitu, sikapnya bukan berarti menolak penilaian dari luar sepenuhnya. Huang dilaporkan terbuka terhadap evaluator independen, selama laboratorium yang kapabel tetap memegang kendali dan pengujian keselamatan dilakukan secara substansial, bukan sekadar formalitas.

Sejalan dengan percakapan Huang dan Trump di All-In Summit

Sikap Huang di Dreamforce konsisten dengan ucapannya di All-In Summit. Dalam acara itu, ia menggambarkan keputusan untuk “berhenti sejenak” atau “mengatur tempo” sebagai pilihan sukarela yang dapat diambil perusahaan bila mereka merasa telah kehilangan kendali atas sistemnya.

Presiden Donald Trump, yang menelepon Huang saat acara berlangsung, menyampaikan pandangan yang bahkan lebih menepis seruan agar AI diperlambat. Premis yang mereka bagikan ialah Amerika Serikat perlu menjaga momentum AI, bukan menerapkan perlambatan regulasi menyeluruh.

Namun, preferensi kebijakan itu bukan bukti bahwa seluruh risiko AI dapat ditangani lewat tindakan sukarela. Pertanyaan utamanya adalah apakah perusahaan yang menghadapi persaingan sangat ketat bisa secara konsisten memutuskan sendiri kapan rilis produk bernilai komersial tinggi harus ditunda.

Pandangan tandingan: laju kemampuan AI perlu diatur

CEO Anthropic, Dario Amodei, menyerukan agar laju peningkatan kemampuan AI mutakhir diperlambat—bukan menghentikan pengembangan AI, melainkan memberi waktu agar riset keselamatan, pemantauan, dan tata kelola dapat mengejar ketertinggalan. Ia mengusulkan pengujian keselamatan yang lebih kuat serta evaluator independen dengan akses bermakna ke perusahaan AI terdepan. 14

Sam Altman dan Elon Musk secara terbuka mendukung seruan umum Amodei untuk lebih berhati-hati. Altman mengatakan OpenAI akan menyambut evaluator independen dengan akses yang setara dengan karyawan, sementara Musk menyatakan, “Dario benar.” 49

Dengan begitu, garis perbedaannya lebih rumit daripada sekadar kubu “pro-AI” dan “anti-AI”:

• Pandangan Huang: terus maju cepat; keselamatan ditangani melalui rekayasa yang kompeten, pengujian, dan keputusan rilis yang bertanggung jawab.
• Pandangan Amodei: peningkatan kemampuan AI mutakhir perlu sengaja diatur temponya agar pengawasan independen dan langkah keselamatan mampu mengikutinya.
• Posisi yang disampaikan Altman dan Musk: mendukung kehati-hatian lebih besar dan evaluasi independen, walaupun rincian praktis soal perlambatan di seluruh industri tetap diperdebatkan. 14

Evaluator independen menjadi titik temu terbatas

Perdebatan ini tidak sepenuhnya hitam-putih. Usulan Amodei mencakup evaluator pihak ketiga yang ditempatkan di dalam perusahaan untuk menilai apakah perusahaan benar-benar menjalankan praktik keselamatan yang mereka janjikan. 312

Keterbukaan Huang terhadap evaluator menunjukkan adanya ruang kesepakatan yang sempit: peninjauan eksternal dapat bermanfaat, tetapi tidak harus berarti rezim regulasi baru atau perlambatan wajib. Perselisihan sebenarnya terletak pada penegakan dan kewenangan. Apakah evaluator hanya berperan sebagai penasihat dan auditor yang bekerja bersama perusahaan, atau menjadi bagian dari sistem mengikat yang dapat mewajibkan perusahaan berhenti sementara?

Kekhawatiran terhadap pusat data adalah isu yang berbeda

Penolakan publik terhadap pembangunan pusat data lokal berkaitan dengan perdebatan AI, tetapi berbeda dari kekhawatiran tentang hilangnya kendali atas model AI canggih. Warga dapat menyoroti dampak langsung fasilitas baru, seperti kebutuhan listrik, penggunaan air, emisi, pemakaian lahan, kebisingan, dan beban terhadap infrastruktur setempat.

Kekhawatiran tersebut tidak membuktikan bahwa AI menimbulkan ancaman kepunahan. Namun, hal itu memperlihatkan bahwa pembangunan infrastruktur AI memiliki konsekuensi sosial dan lingkungan yang dirasakan secara lokal, sementara banyak manfaat ekonomi serta keputusan penting terkonsentrasi di tempat lain.

Materi yang tersedia untuk artikel ini tidak menetapkan seberapa luas penolakan tersebut. Karena itu, tidak tepat untuk menggambarkannya sebagai tren nasional atau global yang sudah terukur.

Kepentingan Nvidia dalam hasil perdebatan ini

Bisnis Nvidia sangat terkait dengan kelanjutan investasi dalam pelatihan dan penerapan AI. Kesepakatan Nvidia senilai US$12,9 miliar untuk mengakuisisi Hugging Face akan memperluas perannya melampaui chip dan infrastruktur pusat data, menuju platform penting bagi model AI, kumpulan data, dan pengembang. 17

Karena itu, masuk akal untuk menyimpulkan bahwa aturan yang secara material menunda pelatihan model, peluncuran produk, atau pembangunan pusat data dapat memengaruhi permintaan di seluruh ekosistem AI Nvidia yang sedang diperluas. Ini adalah insentif komersial yang berkaitan dengan posisi Nvidia—bukan bukti motif pribadi Huang atau bukti bahwa argumen keselamatannya tidak tulus.

Intinya

Argumen Huang di Dreamforce bertumpu pada tanggung jawab pengembang: AI dapat terus maju dengan cepat jika perusahaan pembuatnya tetap memegang kendali, menguji sistem secara menyeluruh, dan menolak merilis produk yang tidak aman. Argumen tandingan Amodei bertumpu pada pengaturan tempo dan pengawasan independen: sistem AI mutakhir bisa menjadi terlalu mampu terlalu cepat sehingga perlindungan sukarela saja tidak cukup dapat diandalkan. 14

Persoalan yang belum terjawab bukanlah apakah keselamatan itu penting. Persoalannya adalah apakah keselamatan dapat tetap menjadi disiplin rekayasa yang terutama berada di dalam laboratorium AI, atau apakah skala dan dampak potensial sistem mutakhir menuntut pengawasan eksternal yang dapat ditegakkan sebelum lompatan kemampuan berikutnya terjadi.