Jensen Huang Tolak Undang-Undang Baharu AI: Pertembungan Keselamatan di Dreamforce

Jensen Huang menyampaikan pendirian yang tegas di Dreamforce 2026 anjuran Salesforce: kemajuan AI yang pantas tidak perlu dibayar dengan keselamatan yang lebih rendah. Ketua Pegawai Eksekutif Nvidia itu berkata industri tidak memerlukan undang-undang atau peraturan khusus baharu untuk AI.

Pada pandangannya, syarikat yang membina model AI perlu memastikan sistem mereka berada di bawah kawalan, menjalankan ujian rapi dan tidak melancarkan produk yang belum cukup bersedia. Maka, keselamatan bukan alasan untuk mengenakan brek menyeluruh terhadap inovasi — ia ialah tanggungjawab teknikal dan operasi pembangun AI.

“Pantas atau selamat” ialah pilihan yang palsu

Huang menolak andaian bahawa syarikat perlu memilih sama ada mahu bergerak cepat atau menghasilkan produk yang selamat. Beliau menyifatkan pertentangan itu sebagai pilihan palsu.

Maksud praktikalnya bukan keselamatan tidak penting. Sebaliknya, Huang meletakkan keselamatan sebagai masalah kejuruteraan: makmal AI perlu membina sistem dengan baik, mengujinya secara ketat dan membuat keputusan bertanggungjawab sama ada sesuatu model patut dilepaskan kepada pengguna.

Beliau juga tidak menerima amaran tentang kepupusan manusia akibat AI sebagai kerangka utama untuk menilai risikonya. Namun, pendirian itu tidak semestinya bermakna beliau menolak pemeriksaan luar sepenuhnya. Huang dilaporkan terbuka kepada penilai bebas, asalkan makmal yang berkeupayaan kekal mengawal sistem mereka dan penilaian keselamatan itu benar-benar bermakna, bukannya sekadar formaliti.

Sehaluan dengan Trump di All-In Summit

Pendirian di Dreamforce itu selari dengan kenyataan Huang di All-In Summit. Ketika itu, beliau berkata tindakan seperti “berhenti seketika” atau memperlahankan pembangunan boleh dibuat secara sukarela oleh syarikat jika mereka merasakan sistem mereka tidak lagi terkawal.

Presiden Donald Trump, yang menghubungi Huang ketika acara itu berlangsung, mengambil pendirian lebih keras terhadap seruan agar pembangunan AI diperlahankan. Premis bersama mereka ialah Amerika Syarikat tidak seharusnya mengorbankan momentum AI melalui kelembapan kawal selia secara meluas.

Namun, itu ialah pilihan dasar — bukannya bukti bahawa semua risiko AI boleh ditangani melalui tindakan sukarela. Persoalan pentingnya ialah sama ada syarikat yang bersaing sengit untuk melancarkan produk baharu akan sentiasa sanggup menangguhkan pelepasan yang bernilai tinggi atas pertimbangan keselamatan semata-mata.

Amodei mahu kemampuan AI dipacu pada kadar yang lebih terkawal

Di pihak lain, Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru agar kadar peningkatan keupayaan AI tercanggih diperlahankan. Beliau bukan mahu pembangunan AI dihentikan, tetapi mahu lebih masa diberikan kepada penyelidikan keselamatan, pemantauan dan tadbir urus untuk mengejar kemajuan teknologi. Cadangannya termasuk ujian keselamatan yang lebih kukuh serta penilai bebas yang mempunyai akses bermakna kepada syarikat AI terkemuka. 14

Ketua OpenAI, Sam Altman, dan Elon Musk menyokong seruan umum Amodei untuk lebih berhati-hati. Altman berkata OpenAI akan mengalu-alukan penilai bebas dengan akses seperti pekerja, manakala Musk menulis, “Dario is right.” 49

Perbezaan itu bukan sekadar pertentangan antara pemimpin yang “menyokong AI” dan yang “menentang AI”:

• Pandangan Huang: bergerak pantas, dan tangani keselamatan melalui kejuruteraan yang cekap, ujian serta keputusan pelepasan yang bertanggungjawab.
• Pandangan Amodei: perlahankan peningkatan keupayaan AI tercanggih secara sengaja supaya perlindungan keselamatan dan pengawasan bebas dapat mengejar.
• Pendirian Altman dan Musk: menyokong lebih banyak langkah berhati-hati serta penilaian bebas, walaupun pelaksanaan perlahan secara menyeluruh bagi industri masih diperdebatkan. 14

Penilai bebas ialah titik persamaan yang terhad

Perdebatan ini bukan hitam putih. Cadangan Amodei merangkumi penilai pihak ketiga yang ditempatkan dalam syarikat supaya mereka boleh menilai sama ada amalan keselamatan yang dijanjikan benar-benar dipatuhi. 312

Keterbukaan Huang terhadap penilai sedemikian menunjukkan ruang persamaan yang kecil: semakan luar boleh berguna tanpa semestinya mewujudkan rejim peraturan baharu atau arahan wajib untuk memperlahankan pembangunan. Pertikaian sebenar ialah soal kuasa dan penguatkuasaan. Adakah penilai itu sekadar penasihat serta juruaudit, atau sebahagian daripada sistem mengikat yang boleh memaksa syarikat berhenti seketika?

Bantahan terhadap pusat data mencerminkan kebimbangan lain

Kebimbangan orang ramai terhadap pembinaan pusat data berkaitan dengan gelombang AI, tetapi ia berbeza daripada isu kehilangan kawalan ke atas model AI tercanggih. Komuniti setempat mungkin lebih menumpukan kesan langsung seperti penggunaan elektrik dan air, pelepasan, penggunaan tanah, bunyi bising serta tekanan terhadap infrastruktur tempatan.

Kebimbangan ini tidak membuktikan AI membawa ancaman kepupusan manusia. Namun, ia menunjukkan pembangunan pesat AI mempunyai kesan sosial dan alam sekitar yang dirasai secara tempatan, sedangkan banyak manfaat ekonomi serta keputusan utama mungkin tertumpu di tempat lain.

Bahan sumber yang diberikan tidak membuktikan sejauh mana meluasnya bantahan ini. Oleh itu, ia tidak wajar digambarkan sebagai trend nasional atau global yang telah diukur secara pasti.

Kepentingan Nvidia dalam hasil perdebatan ini

Perniagaan Nvidia sangat berkait dengan pelaburan berterusan dalam latihan dan penggunaan AI. Perjanjian bernilai AS$12.9 bilion untuk mengambil alih Hugging Face akan meluaskan kedudukan Nvidia daripada cip dan infrastruktur pusat data kepada sebuah platform penting bagi model AI, set data dan pembangun. 17

Maka, munasabah untuk membuat inferens bahawa peraturan yang melambatkan latihan model, pelancaran AI atau pembinaan pusat data secara material boleh menjejaskan permintaan di seluruh ekosistem AI Nvidia yang semakin luas. Tetapi itu ialah insentif komersial yang berkait dengan kedudukan syarikat — bukan bukti tentang motif peribadi Huang atau bukti bahawa hujah keselamatannya tidak ikhlas.

Kesimpulannya

Hujah Huang di Dreamforce ialah pertaruhan terhadap tanggungjawab pembangun: AI boleh maju dengan cepat jika syarikat yang membinanya kekal mengawal sistem, menguji dengan teliti dan enggan melepaskan produk yang tidak selamat. Hujah Amodei pula ialah pertaruhan terhadap kadar kemajuan yang disengajakan dan penelitian bebas: sistem AI tercanggih mungkin menjadi terlalu berkeupayaan terlalu cepat untuk perlindungan sukarela sahaja boleh diharap. 14

Isu yang masih belum selesai bukan sama ada keselamatan itu penting. Isunya ialah sama ada keselamatan boleh kekal terutamanya sebagai disiplin kejuruteraan di dalam makmal AI, atau skala serta kesan potensi sistem AI tercanggih memerlukan semakan luaran yang boleh dikuatkuasakan sebelum lonjakan keupayaan seterusnya.