Sam Altman beri amaran: AI boleh lepas kawalan atau dikuasai segelintir pihak

AI yang sangat berkuasa boleh gagal dengan dua cara yang berbeza, menurut Ketua Pegawai Eksekutif OpenAI, Sam Altman: manusia mungkin hilang kawalan terhadap sistem yang semakin mampu, atau kawalan ke atas sistem itu tertumpu kepada terlalu sedikit pihak. Bagi Altman, keselamatan AI bukan hanya soal kemampuan model, tetapi juga soal siapa yang berhak mengarah dan menggunakannya. 1316

Dua laluan yang perlu dielakkan

Pertama: manusia hilang kawalan. Altman memberi amaran bahawa manusia boleh “kehilangan kawalan terhadap masa depan kepada AI”, sesuatu yang beliau sifatkan sebagai tidak boleh diterima. Prinsip yang diketengahkannya jelas: AI mesti berkhidmat untuk manusia, bukannya manusia menjadi terlalu bergantung atau tunduk kepada sistem yang tidak dapat diawasi dengan secukupnya. 216

Kedua: kuasa AI terlalu tertumpu. Beliau juga membayangkan risiko sebuah AI yang amat berkuasa berada di bawah kawalan seorang individu, sebuah syarikat atau sebuah negara, lalu digunakan untuk memaksakan pandangan dunia mereka ke atas orang lain. Altman berkata hasilnya boleh menjadi “amat distopia”. 113

Kedua-dua risiko ini saling berkait, tetapi tidak sama. Risiko pertama menyentuh keupayaan manusia untuk memahami, mengehadkan dan mengambil alih sistem AI. Risiko kedua pula berkaitan penyalahgunaan kuasa oleh pihak yang mengawal sistem itu, walaupun sistem tersebut secara teknikalnya masih boleh dikawal.

Perlindungan yang disokong Altman

Pendirian Altman bukan sekadar menghentikan pembangunan AI. Sebaliknya, beliau berhujah bahawa kemajuan keupayaan AI tidak sepatutnya mendahului penjajaran (alignment) dan pemantauan — iaitu usaha memastikan sistem bertindak selaras dengan matlamat manusia serta boleh diperiksa. Tekanan persaingan, katanya, tidak boleh dijadikan alasan untuk bertindak cuai. 213

Antara langkah yang diketengahkan beliau ialah:

• Penjajaran dan pemantauan yang bergerak seiring dengan peningkatan keupayaan. Pembangun perlu dapat menilai serta mengawal tindakan sistem AI yang semakin canggih dengan bermakna. 213
• AI mesti terus berkhidmat kepada manusia. Inilah matlamat asas di sebalik amaran beliau tentang kehilangan kawalan. 216
• Keperluan persekutuan yang konsisten bagi AI sempadan. Altman menyokong satu rangka kerja persekutuan di Amerika Syarikat untuk mengurus risiko AI paling maju, berbanding hanya bergantung pada komitmen sukarela yang berpecah-pecah. 1316
• Semakan bebas. Beliau menyebut juruaudit bebas sebagai satu cara yang berpotensi meningkatkan keyakinan awam terhadap syarikat yang membangunkan model semakin berkeupayaan tinggi. 16

Dalam amalan, pendekatan ini meletakkan beban bukti yang lebih tinggi ke atas sistem AI paling canggih: perlindungan keselamatan perlu diuji dan diyakini sebelum keputusan pelancaran dibuat, bukan dijadikan tambahan selepas keupayaan teknologi melangkaui kawalan.

Amaran daripada Anthropic menghangatkan perbahasan

Pada minggu yang sama, bekas penyelidik Anthropic, Jacob Coxon, memberi amaran bahawa makmal AI terkemuka sedang berlumba ke arah AI yang boleh memperbaik dirinya sendiri sambil “mempertaruhkan nyawa kita”. Laporan mengenai peletakan jawatannya menyatakan beliau percaya penyelidik yang membina sistem itu benar-benar bimbang AI boleh menjadi terlalu berkuasa untuk dikawal manusia. 17

Nadanya lebih keras berbanding Altman, namun kebimbangan asasnya bertindih: kemajuan keupayaan mungkin mengatasi kemampuan manusia untuk menyelia sistem dengan boleh dipercayai. Dalam satu pertukaran awam yang dilaporkan, Evan Hubinger, ketua penjajaran di Anthropic, memberikan anggaran peribadi melebihi 10% bahawa AI boleh menyebabkan kepupusan manusia dalam tempoh sedekad. Beliau juga mengakui belum ada penyelesaian lengkap bagi penjajaran kecerdasan super. Itu ialah penilaian risiko peribadi, bukannya ramalan saintifik yang telah dipersetujui. 17

Poin pentingnya bukan bahawa garis masa kepupusan tertentu telah terbukti — ia tidak terbukti. Sebaliknya, penyelidik yang paling dekat dengan pembangunan AI sempadan kini secara terbuka mempertikaikan sama ada amalan keselamatan sedia ada berkembang cukup pantas untuk sistem yang sedang dibina.

Pertikaian sebenar: keupayaan dahulu atau keselamatan dahulu?

Perpecahan ini sering digambarkan sebagai pertarungan antara pihak yang mahu mempercepat AI dan pihak yang mahu memperlahankannya. Namun, gambaran itu terlalu mudah. Kebanyakan pihak mengakui AI berpotensi membawa manfaat besar. Pertikaian sebenar ialah mengenai turutan langkah dan kebolehkuatkuasaan.

Satu pandangan menegaskan pembangunan AI sempadan perlu diperlahankan agar penyelidikan keselamatan, penilaian, tadbir urus dan tindak balas terhadap penyalahgunaan sempat matang. Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru agar kadar peningkatan keupayaan model diperlahankan. Beliau mencadangkan penilai bebas yang mempunyai akses seperti pekerja, penyelarasan antara makmal AI sempadan, dan kerjasama antarabangsa.

Tekanan untuk bergerak pantas memang wujud. Syarikat dan kerajaan bimbang ketinggalan daripada pesaing akan menyebabkan kehilangan kelebihan ekonomi atau geopolitik. Namun, hujah Altman ialah persaingan tidak boleh membenarkan keupayaan AI mendahului penjajaran dan pemantauan. 13

Reuters melaporkan bahawa sebahagian penyelidik percaya kemampuan model tiba lebih pantas daripada jangkaan, sedangkan keupayaan manusia untuk melihat cara sistem berfungsi — dan berpotensi mengawalnya — semakin berkurang. Justeru, persoalan dasar yang mendesak ialah sama ada makmal patut terus melancarkan model yang semakin autonomi sambil perlindungan keselamatan cuba mengejar, atau mereka perlu membuktikan terlebih dahulu bahawa perlindungan itu benar-benar memadai.

Apa ertinya untuk tadbir urus AI

Dua amaran Altman menunjukkan tadbir urus AI sempadan perlu menangani dua perkara serentak: kawalan teknikal dan pengagihan kuasa. Penilaian model yang lebih baik, penyelidikan penjajaran, pemantauan dan pengawasan bebas menyasar masalah pertama. Peraturan yang konsisten, ketelusan dan had terhadap kawalan sebelah pihak pula menyasar masalah kedua.

Ramalan bencana atau garis masa yang tepat tidak patut dianggap fakta muktamad. Namun, besarnya akibat jika berlaku kegagalan menjadikan seruan untuk penilaian lebih ketat, semakan pihak luar dan syarat keselamatan lebih kukuh bukan lagi isu pinggiran dalam industri AI. 13