Peringatan Bill Gates soal AI: Pekerjaan, Keamanan, dan Relasi Manusia Terancam

Peringatan Bill Gates soal kecerdasan buatan (AI) bukan sekadar ramalan bahwa chatbot akan mengambil alih pekerjaan di kantor. Dalam esainya yang hampir 6.000 kata, “The turbulent AI era is here. The choices we make now are critical”, ia berpendapat bahwa AI berkembang begitu cepat sehingga dapat mengubah dunia kerja, keamanan, dan hubungan sosial sebelum pemerintah maupun masyarakat memiliki kesepakatan tentang cara mengelola peralihannya. 117

Gates tidak menyerukan agar AI dihentikan sepenuhnya. Inti argumennya adalah bahwa manfaat AI tidak akan otomatis lebih besar daripada kerugiannya. Tanpa kebijakan yang dirancang secara sadar, teknologi ini justru dapat memperlebar ketimpangan dan menghasilkan dampak bersih yang negatif.

Tiga risiko besar AI menurut Bill Gates

1. Banyak pekerjaan bisa hilang secara permanen

Gates memperkirakan AI akan mengambil alih pekerjaan di bidang hukum, layanan pelanggan, kedokteran, perangkat lunak, dan manufaktur dalam waktu sekitar satu dekade—bukan melalui perubahan bertahap selama beberapa generasi. Pekerjaan yang paling rentan, menurutnya, sering kali merupakan posisi tingkat pemula dan menengah. Sementara itu, banyak pekerjaan baru akan membutuhkan keterampilan yang perlu dipelajari selama bertahun-tahun. 15

Situasi ini menciptakan masa transisi yang sulit, bahkan jika AI pada akhirnya melahirkan jenis pekerjaan baru. Pekerja yang kehilangan pekerjaan hari ini mungkin tidak dapat mengikuti pelatihan ulang dengan cukup cepat. Tanpa kebijakan yang tepat, jumlah pekerjaan baru juga bisa lebih sedikit daripada pekerjaan yang hilang. 15

Dampaknya tidak berhenti pada pekerjaan di depan komputer. Seiring AI dan robot menjadi lebih canggih, pekerjaan fisik seperti konstruksi dan perhotelan juga berpotensi terdampak. Karena itu, Gates menilai pemerintah tidak bisa menganggap otomasi sebagai persoalan sementara yang hanya menyasar profesi kantoran tertentu. 110

2. AI yang makin canggih dapat memudahkan tindakan berbahaya

Gates juga memperingatkan bahwa AI dapat memperkuat kemampuan penjahat dan pelaku kejahatan lain untuk melancarkan serangan siber maupun mengejar ancaman biologis. Ketika kemampuan sistem meningkat, keahlian dan sumber daya yang dibutuhkan untuk menimbulkan kerusakan dapat ikut menurun. 717

Dalam pernyataannya sebelumnya, ia menyebut penyalahgunaan AI oleh pihak jahat sebagai salah satu dari dua tantangan utama dekade mendatang, bersama dengan gangguan terhadap pasar kerja. 22 Dalam esai terbarunya, kekhawatiran itu menjadi alasan untuk membangun pengamanan, pemantauan, dan koordinasi internasional yang lebih kuat—bukan hanya mengandalkan janji sukarela perusahaan teknologi.

3. Teman virtual AI dapat menggantikan hubungan manusia

Risiko ketiga bersifat sosial, bukan semata-mata ekonomi atau militer. Gates memperingatkan bahwa teman virtual berbasis AI dapat menggantikan sebagian interaksi manusia dan memanfaatkan kerentanan emosional pengguna. Menurutnya, hal ini berpotensi memengaruhi perkembangan sosial dan emosional anak-anak. 413

Kekhawatirannya bukan hanya soal konten yang tidak pantas. Sistem yang dirancang untuk memaksimalkan keterlibatan pengguna dapat mendorong seseorang menghabiskan lebih banyak waktu bersama teman buatan, hingga mengurangi interaksi dengan keluarga, teman, guru, dan orang lain di dunia nyata.

Mengapa Gates menilai dunia belum siap

Kritik Gates tidak hanya ditujukan kepada pemerintah. Ia mengatakan para pemimpin, pakar, perusahaan, komunitas, dan masyarakat luas belum memiliki rencana bersama untuk menghadapi peralihan yang berpotensi menjadi salah satu masa paling bergejolak dalam sejarah. 110

Ia juga menilai industri teknologi memiliki dorongan kuat untuk menonjolkan manfaat AI dan menggambarkan risiko besar sebagai sesuatu yang masih jauh. Perusahaan-perusahaan bersaing memperebutkan investasi, pangsa pasar, talenta, dan keunggulan strategis. Kondisi ini dapat membuat sikap hati-hati sulit dipertahankan, bahkan ketika risikonya masuk akal dan patut diperhitungkan. 16

Di situlah ketegangan utama dalam esai Gates: AI mungkin menghasilkan kemajuan luar biasa, tetapi lembaga yang bertugas membagi manfaat tersebut dan membatasi dampaknya berkembang lebih lambat daripada teknologinya.

Usulan Gates untuk tingkat nasional

Membangun sistem koordinasi transisi AI

Gates menyerukan sistem koordinasi yang mempertemukan lembaga pemerintah, peneliti, perusahaan, dan komunitas. Sistem ini dapat digunakan untuk memantau dampak AI, mengantisipasi guncangan di pasar kerja, serta menetapkan aturan bagi penggunaan berbahaya sebelum masalahnya meluas. 1719

Mengenakan pajak atas penggantian tenaga kerja

Ia juga mengusulkan pajak atau mekanisme serupa terhadap otomasi dan penggantian tenaga kerja oleh AI. Alasannya, keuntungan finansial dari pengurangan tenaga kerja tidak boleh terutama mengalir kepada perusahaan teknologi sementara masyarakat menanggung biaya pengangguran, pelatihan ulang, dan ketimpangan. 614

Menyisihkan sebagian pekerjaan untuk manusia

Usulan Gates yang paling khas adalah konsep “Human Reserved”, yaitu pekerjaan atau tugas yang sengaja dipertahankan untuk manusia meskipun AI atau robot sebenarnya mampu mengerjakannya. Ia membandingkan gagasan ini dengan cagar alam: wilayah yang dilindungi karena pembangunan tanpa batas dapat menimbulkan kehilangan yang tidak bisa dipulihkan. 81219

Sebagian peran mungkin dipertahankan selamanya karena kehadiran manusia dianggap penting. Peran lain dapat dilindungi sementara, terutama untuk pekerja yang secara realistis sulit mengikuti pelatihan ulang atau berpindah ke bidang baru. 8

Sejumlah laporan menyebut Gates membahas kemungkinan mempertahankan sekitar 40% pekerjaan untuk manusia dalam versi paling luas dari gagasan tersebut. Angka itu merupakan ide kebijakan, bukan ramalan tentang berapa banyak pekerjaan yang akan dihapus AI dan bukan pula aturan pemerintah yang sudah berlaku. 11

Sistem internasional yang ingin dibangun Gates

Menurut Gates, aturan nasional saja tidak akan cukup. Ia mengusulkan lembaga global yang dapat memantau AI canggih, menilai kemampuan yang berbahaya, dan mengoordinasikan pengamanan lintas negara. 917

Kerangka tersebut akan mengambil pelajaran dari sejumlah sistem internasional yang sudah ada, termasuk inspeksi nuklir, aturan keselamatan penerbangan, dan Protokol Montreal untuk menangani zat perusak lapisan ozon. Fungsinya diharapkan mencakup verifikasi, peringatan dini, standar bersama, serta kerja sama menghadapi risiko yang melampaui batas negara. 910

Gates juga dilaporkan ingin membicarakan pengelolaan risiko AI internasional dengan Presiden China Xi Jinping, termasuk kemungkinan pemantauan potensi penggunaan AI dalam serangan biologis. Pertemuan itu masih disebut tentatif. Pengendalian global yang berarti akan bergantung pada kerja sama negara-negara besar di bidang AI, bukan tindakan satu negara saja. 9

Gates mengakui dirinya bukan pengamat yang sepenuhnya netral

Gates mengakui bahwa ia bukan regulator yang independen atau spesialis keselamatan AI. Ia adalah pengusaha teknologi dan filantropis yang kariernya juga terkait erat dengan manfaat inovasi. Namun, menurutnya, justru orang-orang yang memiliki pengaruh perlu berbicara terus terang mengenai risiko, alih-alih menunggu konsensus sempurna atau kepastian mutlak. 110

Kesimpulan praktis dari peringatannya bukanlah bahwa semua skenario buruk pasti terjadi. Pesannya lebih sederhana: masyarakat harus bersiap sebelum dampak pemutusan hubungan kerja, penyalahgunaan teknologi, dan kerusakan sosial menjadi sulit dibalikkan. Gates percaya AI bisa menjadi alat pemerataan terbesar yang pernah diciptakan—atau sumber ketidakadilan bersejarah. Hasil akhirnya akan ditentukan oleh keputusan yang dibuat sekarang. 418