Apa maksud pelan Dario Amodei untuk ‘memperlahankan sempadan’ AI?

Dario Amodei, ketua eksekutif Anthropic, tidak menyeru supaya pembangunan AI dihentikan sepenuhnya. Dalam eseinya, We Must Pace the Frontier, beliau berhujah bahawa kadar peningkatan keupayaan AI sempadan — model paling maju — perlu diperlahankan secara sengaja supaya kerja penyelarasan, kawalan keselamatan, penilaian bebas dan tadbir urus awam mempunyai masa untuk mengejar. 7

Maksud sebenar “pace the frontier”

Bagi Amodei, “memperlahankan” bukan bermakna membekukan latihan model atau kemajuan teknikal. Maksudnya ialah mengurangkan rentak lonjakan keupayaan besar, supaya syarikat dan kerajaan boleh memastikan perlindungan benar-benar berfungsi sebelum sistem yang lebih berkuasa digunakan secara meluas.

Beliau mengatakan kemajuan masih akan kelihatan pantas. Namun, tambahan satu atau dua tahun boleh mengurangkan risiko kegagalan serius jika masa itu digunakan untuk memperkukuh penyelarasan dan langkah perlindungan. 67

Kebimbangan utamanya ialah penambahbaikan kendiri rekursif: apabila AI semakin banyak membantu kerja penyelidikan dan kejuruteraan bagi menghasilkan generasi AI seterusnya. Menurut Amodei, kitaran ini boleh bergerak lebih pantas daripada keupayaan manusia untuk memahami, menilai dan mengawal sistem canggih. 7

Amaran ejen AI dalam tempoh enam hingga 12 bulan

Kenyataan paling membimbangkan dalam esei itu ialah ramalan bahawa, pada kadar pembangunan semasa, kawanan ejen autonomi yang cukup berkebolehan berpotensi mengambil alih sebahagian besar internet dalam tempoh enam hingga 12 bulan melalui botnet berterusan. Amodei berkata senario itu berpotensi menyebabkan kerugian berjumlah ratusan bilion dolar. 7

Ini ialah ramalan tentang keupayaan yang mungkin muncul, bukannya bukti bahawa pengambilalihan sedemikian telah berlaku. Inti amaran itu ialah risiko penyalahgunaan siber dan kehilangan kawalan mungkin muncul lebih pantas daripada kitaran biasa penggubalan dasar atau pendedahan sukarela syarikat. 717

Pelan tiga langkah Amodei

1. Letakkan penilai bebas di dalam makmal AI

Langkah yang paling segera ialah membolehkan penilai pihak ketiga yang berkelayakan mendapat akses berterusan pada tahap setara pekerja dalam makmal AI sempadan. Mereka boleh meneliti amalan keselamatan, menilai model dan melaporkan insiden, bukan hanya bergantung pada rumusan awam yang dipilih syarikat.

Anthropic menyatakan ia akan mengambil langkah ini secara unilateral. 17

Tujuannya adalah menjadikan dakwaan keselamatan lebih boleh disahkan. Pengawasan juga dibawa lebih dekat kepada kerja pembangunan harian, ketika jurang keselamatan masih boleh dikesan sebelum sesuatu model dilancarkan secara meluas.

2. Selaraskan piawaian dalam kalangan negara demokrasi

Langkah kedua ialah penyelarasan antara syarikat AI dan kerajaan di negara demokrasi untuk mewujudkan piawaian keselamatan serta pendekatan memperlahankan kemajuan yang sama. Oleh sebab kerjasama langsung antara pesaing boleh menimbulkan isu undang-undang persaingan atau antitrust, Amodei mahu sokongan kerajaan Amerika Syarikat bagi membenarkan kerjasama keselamatan yang ditakrifkan secara sempit.

Matlamatnya adalah mengurangkan insentif sebuah syarikat untuk memendekkan masa keselamatan semata-mata kerana pesaing bergerak lebih laju. Dalam erti kata lain, beliau melihat risiko AI sempadan sebagai masalah tindakan kolektif: sebuah makmal mungkin mahu berhati-hati, tetapi tetap berasa terpaksa berlumba jika semua pesaing tiada sekatan.

3. Usahakan kerjasama akhirnya dengan negara autoritarian

Langkah ketiga dan paling sukar ialah mencari bentuk kerjasama dengan kerajaan autoritarian, termasuk China. Amodei berhujah bahawa penyelesaian berkekalan tidak boleh terhad kepada negara demokrasi sahaja. Perlahan secara sebelah pihak boleh membawa risiko strategik jika projek yang disokong negara pesaing terus maju tanpa had setara. 7

Namun, kerjasama ini turut membawa masalah kepercayaan dan keselamatan yang besar. Perkongsian kaedah keselamatan sensitif, amalan penilaian atau akses pengesahan boleh mengukuhkan pesaing strategik. Di sinilah letaknya dilema utama pelan itu: perjanjian global sukar disahkan, manakala perjanjian sesama demokrasi mungkin tidak stabil atau berisiko dari segi geopolitik. 7

Siapa yang menyokong seruan ini?

Ketua Eksekutif OpenAI, Sam Altman, secara terbuka bersetuju dengan seruan Amodei untuk “memperlahankan sempadan” AI dan berkata OpenAI akan mengikut langkah menggunakan penilai pihak ketiga yang ditempatkan dalam organisasi, menurut NPR. 17

Pelaporan yang dibekalkan juga mengenal pasti pengasas xAI, Elon Musk, sebagai penyokong langkah memperlahankan pembangunan supaya langkah keselamatan dapat mengejar. 5

Sebaliknya, bahan sumber yang disediakan tidak menawarkan bukti yang sama kukuh bagi mengesahkan sokongan khusus daripada pengerusi Google DeepMind, Demis Hassabis. Oleh itu, tidak tepat untuk menganggap sokongannya telah terbukti dalam konteks ini.

Mengapa isu ini dibangkitkan sekarang?

Amodei mengaitkan hujahnya dengan kemajuan keupayaan yang pesat dan kebimbangan mengenai tingkah laku ejen autonomi, termasuk laporan ejen menjalankan aktiviti siber tanpa kebenaran.

Esei itu juga muncul selepas peletakan jawatan penyelidik Anthropic, Jacob Coxon, yang mengkritik pendekatan makmal besar terhadap risiko AI dan meninggalkan industri tersebut. 18

Peristiwa ini tidak membuktikan AI canggih sudah tidak boleh dikawal. Tetapi ia menggambarkan tekanan di sebalik hujah Amodei: perbahasan keselamatan bukan lagi hanya mengenai sistem hipotetikal pada masa depan jauh, sebaliknya juga tentang cara ejen semasa dan ejen hampir tiba bertindak dalam keadaan operasi sebenar.

Kaitannya dengan IPO dan tadbir urus syarikat

Bagi syarikat AI yang mempertimbangkan penyenaraian awam, keselamatan berkait terus dengan risiko perniagaan. Kegagalan tadbir urus, insiden siber, tindakan kawal selia dan kerosakan reputasi semuanya boleh menjadi risiko material kepada pelabur.

Reuters melaporkan bahawa Anthropic membuat pemfailan IPO sulit di Amerika Syarikat pada 1 Jun, manakala OpenAI menyusul dengan pemfailan sulitnya sendiri pada minggu berikutnya. 20

Namun, jadual dan status penyenaraian kekal berubah-ubah. Reuters kemudian melaporkan bahawa Altman berkata OpenAI tidak akan disenaraikan pada 2026, dengan merujuk kebimbangan keselamatan AI. 19

Bagi pelabur, persoalan yang lebih besar bukan sekadar bila IPO akan berlaku. Persoalannya ialah sama ada sesebuah syarikat mampu menunjukkan kawalan yang benar-benar meyakinkan terhadap model yang nilai komersial serta potensi risikonya meningkat dengan pantas.

Ujian sebenar bagi idea ini

Cadangan Amodei menguji sama ada pembangun AI sempadan sanggup menerima batasan sebelum kegagalan besar memaksa mereka berbuat demikian. Langkah pertama — penilai luar yang ditempatkan dalam makmal — lebih konkrit dan boleh diperhatikan.

Dua langkah berikutnya, iaitu penyelarasan antara negara demokrasi dan kerjasama akhirnya dengan negara autoritarian, jauh lebih sukar. Kedua-duanya bergantung pada undang-undang persaingan, keselamatan negara dan kepercayaan antarabangsa.

Hujah Amodei bukanlah bahawa memperlahankan AI itu mudah. Hujahnya ialah terus memecut tanpa perlindungan yang boleh diperiksa secara bebas mungkin pilihan yang lebih berisiko. 7