Shane Legg: Keselamatan AI Tidak Boleh Ketinggalan Daripada Kemajuan AGI

Pesanan Shane Legg jelas: peningkatan keupayaan kecerdasan buatan (AI) tidak boleh bergerak lebih pantas daripada kawalan keselamatan yang diperlukan untuk memantau dan mengawal sistem tersebut. Pengasas bersama Google DeepMind itu menyuarakan amaran ini ketika melancarkan DeepMind Institute (DMI), sebuah wadah yang meneliti pelaksanaan serta kesan kecerdasan buatan umum, atau AGI. 141

Bukan sekadar AI semakin hebat

Kebimbangan Legg bukan hanya bahawa model AI akan menjadi semakin berupaya. Isu utamanya ialah sama ada mekanisme pengawasan, pemantauan, tadbir urus dan kawalan dapat maju cukup pantas untuk memastikan sistem yang semakin berkuasa terus boleh diurus. 1

Sebab itu skop DMI melangkaui penyelidikan teknikal semata-mata. Institut itu mahu menggalakkan penyelidikan, kerjasama dan perbahasan rentas disiplin bagi menjawab persoalan teknikal serta kemasyarakatan paling penting dalam era AGI — termasuk cara membina dan mentadbir sistem AGI, serta komuniti ejen AI yang mungkin terbentuk, dengan selamat. 16

DeepMind Institute ialah forum, bukan makmal baharu

DMI berfungsi sebagai platform penerbitan dan perbincangan, bukannya pengganti kepada penyelidikan AI teras DeepMind. Matlamatnya ialah menghimpunkan penyelidik Google DeepMind dan komuniti penyelidikan lebih luas untuk menerbitkan serta membahaskan cara AI yang semakin berkeupayaan patut dibina, ditadbir, digunakan dan dilaksanakan. 3642

Agendanya meliputi sains, pendidikan, masyarakat, dasar, falsafah, ekonomi, keselamatan dan kesejahteraan manusia. Dalam erti kata lain, perbincangan bukan sekadar tertumpu pada cara mengehadkan risiko serius, tetapi juga institusi, dasar dan matlamat sosial yang mungkin perlu disesuaikan sekiranya AGI digunakan secara meluas. 1636

Cadangan memperlahankan pelepasan model sempadan

Legg menyifatkan cadangan Ketua Pegawai Eksekutif Anthropic, Dario Amodei, untuk memperlahankan — tetapi tidak menghentikan — pelepasan model AI sempadan sebagai sesuatu yang “menarik dari segi arah” dan “wajar dipertimbangkan”. 2

Kenyataan itu bukan pengumuman dasar rasmi DeepMind. Namun, ia menunjukkan bahawa Legg melihat kadar pelepasan yang lebih berhati-hati sebagai pilihan serius dalam perbahasan tentang keperluan memadankan penggunaan AI dengan perlindungan yang mencukupi. 2

Mengapa beliau menganggap dakwaan AGI sudah wujud sebagai terlalu awal

Legg berkata masih terlalu awal untuk mengisytiharkan AGI telah dicapai, walaupun terdapat dakwaan terkini daripada eksekutif Nvidia dan OpenAI. Laporan mengenai kenyataannya tidak menghuraikan secara langsung setiap jurang keupayaan yang beliau maksudkan. Maka, kesimpulan paling kukuh berdasarkan bukti yang ada ialah beliau tidak menganggap sistem semasa telah memenuhi ambang AGI DeepMind. 4

Google DeepMind menggambarkan AGI sebagai sistem yang mempunyai keupayaan kognitif seperti otak manusia. Itu ialah piawaian yang jauh lebih luas daripada hanya cemerlang dalam beberapa penanda aras atau tugasan tertentu. 13

Pada masa yang sama, Legg masih “selesa” dengan anggaran lamanya: terdapat 50% peluang untuk mencapai AGI “minimum” menjelang 2028. Ini ialah ramalan, bukannya jadual yang sudah pasti. 210

Apa yang dibincangkan dalam esei awal DMI

Koleksi pelancaran DMI mengandungi esei pengenalan dan beberapa esei substantif. Tiga tema awal menunjukkan pendekatannya yang luas:

1. Ketelusan penaakulan — Esei oleh Rohin Shah dan Anca Dragan berhujah bahawa penaakulan yang boleh ditafsir perlu dikekalkan supaya manusia boleh memantau model bagi tanda-tanda penipuan atau perancangan tersembunyi. 11
2. Dasar ekonomi untuk AGI — Satu esei menilai 11 dasar yang berpotensi membantu mengurus gangguan ekonomi daripada AI yang semakin maju dan meluas, menggunakan ukuran seperti kebajikan, daya tahan, agensi individu dan kestabilan ekonomi. 39
3. Prinsip untuk utopianisme baharu — Esei ini meneliti makna kesejahteraan manusia dalam masyarakat yang dibentuk AGI, sambil mengingatkan bahawa “utopia” tidak wajar dianggap sebagai janji kesempurnaan. 37

Institut itu turut menyenaraikan sebuah lagi esei substantif ketika pelancaran, iaitu “A framework for frontier AI and the dawning of a new age”, di samping esei pengenalan dan tiga tema di atas. 4138

Intinya: kemampuan dan kawalan perlu bergerak seiring

Pendirian Legg menggabungkan rasa mendesak dengan sikap berhati-hati. Beliau tidak menganggap AGI sudah dicapai, tetapi masih memberikan kebarangkalian 50% bahawa AGI minimum boleh dicapai menjelang 2028. Bagi beliau, persoalan utama bukan semata-mata bila AGI tiba, tetapi sama ada sistem untuk memahami, menyelia dan membentuk penggunaannya akan berkembang seiring dengan kemajuan keupayaan AI. 1216