Zuckerberg: Makmal AI patut tahu bila perlu memperlahankan diri

Mark Zuckerberg tidak mengatakan pembangunan kecerdasan buatan (AI) mesti diteruskan walau apa pun risikonya. Yang ditolaknya ialah persetujuan agar seluruh industri memperlahankan pembangunan serentak. Dalam temu bual dengan Joanna Stern dari NBC News, ketua Meta itu berkata makmal terkemuka boleh memperlahankan atau menghentikan sementara produk masing-masing jika merasakan teknologi tersebut tidak selamat. 10

Mengapa beliau mahu setiap makmal menentukan rentaknya sendiri?

Pada pandangan Zuckerberg, setiap makmal bertanggungjawab menetapkan rentak yang membolehkannya melatih model AI dengan selamat. Beliau berhujah bahawa syarikat juga mempunyai sebab perniagaan untuk berbuat demikian: pengguna mungkin enggan memakai agen AI yang tidak menurut kehendak mereka, manakala makmal boleh berdepan tanggungan undang-undang jika sistemnya menyebabkan mudarat. Baginya, persaingan menjadikan kepercayaan dan keupayaan AI untuk mengikut niat pengguna suatu kelebihan produk. 172934

Ini hujah untuk keputusan keselamatan pada peringkat syarikat, bukannya jaminan bahawa dorongan pasaran sentiasa mencukupi. Pendekatan itu bergantung pada keupayaan syarikat mengesan masalah dan bertindak sebelum pengguna terjejas.

Apa yang ditunjukkan oleh contoh Muse?

Zuckerberg merujuk keputusan Meta menangguhkan agen AI Muse selama beberapa bulan untuk memperkukuh keselamatan dan sekuritinya. Maksud beliau: Meta boleh menahan pelancaran produknya sendiri tanpa meminta pesaing turut berhenti. 1727

Meta juga menerangkan kewujudan agen berasingan, Sentinel, yang menyemak tindakan dan data yang dihantar keluar oleh Muse. Menurut penerangan itu, sistem tersebut direka untuk meminta kebenaran pengguna apabila diperlukan. Ia menunjukkan bentuk perlindungan yang Meta katakan telah dibangunkannya, tetapi bukan bukti bahawa semua risiko sudah dihapuskan. 30

Mengapa pemimpin AI lain mahu penyelarasan?

Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru pembangunan AI paling canggih diperlahankan; Sam Altman dari OpenAI dan Elon Musk turut menyokong seruan itu. Pada 23 September 2026, Amodei dan Altman berucap kepada Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu dan meminta penyelarasan antarabangsa untuk menangani risiko AI. 146

Perbezaan utamanya ialah siapa yang patut menentukan rentak. Zuckerberg mahu setiap makmal boleh menangguhkan kerja atas sebab keselamatan, dengan tekanan pengguna dan risiko undang-undang sebagai pendorong. Amodei dan Altman pula mahukan kerjasama merentas syarikat dan negara, bukan hanya keputusan berasingan oleh pesaing. 10174

Kebimbangan penyelidik turut menajamkan perdebatan ini. Selepas meletak jawatan daripada Anthropic, Jacob Coxon membangkitkan amaran tentang risiko AI yang berpotensi membawa akibat amat buruk. Namun, beliau juga mencadangkan agar makmal terkemuka dibenarkan mengawal selia diri sementara Kongres Amerika Syarikat merangka pendekatan jangka panjang untuk memperlahankan pembangunan. Pendirian itu menunjukkan bahawa mengambil serius risiko AI tidak semestinya bermaksud menuntut semua syarikat berhenti serentak sekarang. 4237