Shane Legg: Kemampuan AI Jangan Melaju Lebih Cepat dari Sistem Keamanannya

Google DeepMind co-founder Shane Legg menyampaikan peringatan yang tegas: kemampuan AI yang berkembang pesat tidak boleh melaju lebih cepat daripada kontrol keselamatan untuk memantau dan mengendalikannya. Peringatan itu ia sampaikan saat meluncurkan DeepMind Institute (DMI), wadah baru yang menyoroti penerapan serta dampak kecerdasan buatan umum atau artificial general intelligence (AGI). 141

Keselamatan harus mengejar laju kemampuan AI

Yang dipersoalkan Legg bukan semata-mata AI menjadi semakin canggih. Pertanyaan utamanya adalah apakah pengawasan, pemantauan, tata kelola, dan mekanisme kontrol berkembang cukup cepat agar sistem tersebut tetap dapat dikelola manusia. 1

Karena itu, agenda DMI tidak terbatas pada riset teknis. Institut ini ingin mendorong riset, kolaborasi, dan debat lintas disiplin tentang pertanyaan teknis maupun sosial di era AGI: bagaimana sistem AGI dan komunitas agen AI dapat dibangun serta diatur dengan aman, dan institusi atau kebijakan apa yang mungkin perlu berubah. 16

DeepMind Institute bukan pengganti laboratorium riset

DMI merupakan platform publikasi dan diskusi bagi peneliti dari Google DeepMind maupun komunitas riset yang lebih luas. Fokusnya adalah membahas bagaimana AI yang makin mampu seharusnya dibangun, ditata kelola, diterapkan, dan digunakan—bukan menggantikan riset inti DeepMind. 3642

Cakupannya luas, meliputi sains, pendidikan, masyarakat, kebijakan, filsafat, ekonomi, keselamatan, dan kesejahteraan manusia. Artinya, diskusinya mencakup pencegahan risiko serius sekaligus tujuan sosial yang perlu dikejar jika AGI diterapkan secara luas. 1636

Usulan memperlambat rilis model perintis

Legg menilai usulan CEO Anthropic Dario Amodei untuk memperlambat, tetapi tidak menghentikan, rilis model AI perintis sebagai gagasan yang “menarik secara arah” dan “layak dipertimbangkan”. 2

Pernyataan itu bukan pengumuman kebijakan resmi DeepMind. Namun, komentar tersebut menunjukkan bahwa Legg menganggap laju rilis yang lebih hati-hati sebagai opsi serius dalam perdebatan tentang kecukupan pengamanan sebelum teknologi disebarluaskan. 2

Mengapa AGI belum bisa dinyatakan tercapai

Legg mengatakan masih terlalu dini untuk menyimpulkan AGI telah dicapai, meski ada klaim terbaru dari eksekutif Nvidia dan OpenAI. Laporan yang tersedia tidak merinci seluruh kesenjangan kemampuan yang ia maksud; kesimpulan yang dapat didukung bukti adalah bahwa sistem saat ini belum memenuhi ambang AGI versi DeepMind. 4

Google DeepMind menggambarkan AGI sebagai sistem dengan kemampuan kognitif seperti otak manusia. Standar ini jauh lebih luas daripada sekadar unggul pada tolok ukur atau tugas tertentu. 13

Meski demikian, Legg tetap merasa nyaman dengan proyeksi lamanya: ada peluang 50% AGI “minimal” tercapai pada 2028. Itu adalah perkiraan, bukan jadwal yang sudah pasti. 210

Topik tulisan perdana DMI

Peluncuran DMI mencakup esai pengantar dan beberapa esai substantif. Tiga pokok bahasan awalnya memperlihatkan pendekatan yang tidak hanya berkutat pada keselamatan AI:

1. Transparansi penalaran — Rohin Shah dan Anca Dragan mengusulkan agar penalaran yang dapat ditafsirkan tetap dipertahankan, sehingga manusia dapat memantau model untuk mendeteksi kemungkinan penipuan atau perencanaan tersembunyi. 11
2. Kebijakan ekonomi untuk AGI — Esai ini menilai 11 pilihan kebijakan untuk menghadapi potensi disrupsi ekonomi akibat AI yang semakin maju dan meluas, dengan ukuran seperti kesejahteraan, ketahanan, agensi, dan stabilitas ekonomi. 39
3. Prinsip utopianisme baru — Esai ini membahas arti kesejahteraan manusia dalam masyarakat yang dibentuk AGI, sembari mengingatkan bahwa “utopia” tidak boleh diperlakukan sebagai janji kesempurnaan. 37

DMI juga memuat esai substantif keempat, “A framework for frontier AI and the dawning of a new age”, selain pengantar dan tiga topik di atas. 4138

Intinya

Sikap Legg memadukan rasa mendesak dengan kehati-hatian. Ia tidak menganggap AGI sudah tiba, tetapi tetap menilai peluang tercapainya AGI minimal pada 2028 cukup besar. Pesan utamanya: bila kemampuan AI berakselerasi, kapasitas manusia untuk memahami, mengawasi, dan mengarahkan penerapannya juga harus berakselerasi. 1216