Maria Ressa: AI Harus Diatur Sebelum Menggerus Otonomi Manusia

Maria Ressa menyampaikan peringatan tegas di Oslo: pemerintah perlu menetapkan batas hukum bagi kecerdasan buatan (AI) sekarang, sebelum pengaruhnya terlalu mengakar untuk dikendalikan. Menurut peraih Nobel Perdamaian itu, teknologi sudah memengaruhi perhatian dan perilaku sosial manusia; tahap berikutnya berisiko mengurangi kemampuan kita membuat pilihan secara mandiri. 2

Bagi Ressa, tata kelola AI bukanlah upaya membungkam ekspresi yang sah. Ia menempatkannya sebagai persoalan keselamatan publik dan demokrasi: apakah negara-negara demokratis mampu membuat perlindungan yang dapat ditegakkan sebelum sistem berotonomi tinggi menjadi perantara rutin antara manusia dan dunia. 23

Tiga gelombang pengaruh AI menurut Ressa

Ressa menjelaskan perkembangan teknologi ini sebagai tiga gelombang yang kian dalam memengaruhi perilaku manusia.

1. Platform media sosial merebut perhatian. Ia mengatakan platform sosial membantu mempolarisasi masyarakat dan mengisolasi individu karena sistemnya dioptimalkan untuk mengejar keterlibatan pengguna. 26
2. Chatbot dapat memanfaatkan kebutuhan akan kedekatan. Ressa menilai AI percakapan bisa memanipulasi kerentanan biologis manusia melalui kebutuhan akan koneksi dan keintiman. Sejumlah produk chatbot pendamping memang dirancang khusus untuk mensimulasikan dan mempertahankan hubungan pertemanan, termasuk hubungan romantis dalam beberapa kasus. 212
3. AI agen dapat bertindak atas nama manusia. Gelombang ketiga adalah sistem yang mampu menjalankan tindakan untuk pengguna. Kekhawatiran Ressa, semakin banyak keputusan dan tindakan yang diserahkan kepada sistem semacam ini, semakin besar risiko penilaian serta otonomi manusia perlahan tersisih. 25

Kerangka tersebut bukan berarti setiap alat AI pasti menghasilkan dampak yang sama. Ini adalah peringatan tentang arah insentif: sistem yang dirancang untuk memaksimalkan keterlibatan, ketergantungan emosional, atau penyelesaian tugas dapat memperoleh pengaruh yang makin besar atas apa yang dilihat, dirasakan, dan dilakukan pengguna.

Mengapa ia menolak argumen “China akan diuntungkan”

Ressa menolak anggapan bahwa aturan AI yang lebih ketat di Amerika Serikat atau Eropa akan memberi China keunggulan kompetitif. Reuters melaporkan bahwa ia menyebut argumen tersebut—yang juga disuarakan para pengkritik, termasuk Presiden AS Donald Trump—sebagai cara membingkai perdebatan yang menyesatkan. 28

Poin Ressa bersifat perbandingan: China sudah menerapkan kontrol negara yang jauh lebih kuat terhadap teknologi daripada yang bersedia diterima Silicon Valley. Jadi, pilihan bagi negara demokrasi bukan sekadar antara regulasi atau kebebasan. Pertanyaannya adalah apakah pemerintah demokratis membangun aturan yang menghormati hak dan kepentingan publik, atau membiarkan sistem berpengaruh besar itu terutama dikendalikan oleh insentif korporasi. 2

Titik temu dengan seruan Dario Amodei

CEO Anthropic, Dario Amodei, mengajukan seruan yang sejalan dalam aspek tertentu: laju peningkatan kemampuan AI terdepan perlu diperlambat. Dalam esai pada September 2026, Amodei berpendapat pengembang perlu “mengatur laju” kemajuan kemampuan AI agar kerja keselamatan, evaluasi independen, dan tata kelola memiliki waktu untuk mengejar ketertinggalan. 10

Fokus Amodei lebih menitikberatkan pada pertumbuhan kemampuan teknis dan risiko penyalahgunaan. Ia memperingatkan bahwa agen AI yang makin cakap dapat memperoleh pengaruh operasional luas di internet, serta mengusulkan infrastruktur untuk memantau model saat digunakan, disertai evaluasi independen. 10

Sementara itu, perhatian Ressa lebih luas dan bersifat kewargaan: bagaimana sistem yang diperantarai AI dapat membentuk perhatian, keintiman, perilaku, dan kemampuan masyarakat demokratis menentukan nasibnya sendiri. Namun, keduanya bertemu pada satu prinsip: perlindungan tidak boleh ditunda hingga sistem yang sangat kuat sudah telanjur digunakan secara luas.

Akuntabilitas harus bisa ditegakkan

Ressa juga menilai janji sukarela tidak cukup ketika perusahaan membangun produk dengan fitur desain yang membuat pengguna kecanduan. Menurutnya, fitur semacam itu perlu dihapus bukan hanya untuk remaja, melainkan juga bagi pengguna dewasa. 2

Penyelesaian hukum terbaru di Amerika Serikat yang melibatkan Meta menggambarkan bentuk akuntabilitas yang dapat dipaksakan. Meta setuju membayar hingga US$18 miliar selama satu dekade dan memperketat pembatasan penggunaan Facebook serta Instagram oleh remaja, untuk menyelesaikan gugatan dari hampir seluruh negara bagian AS yang menuduh platform itu dirancang agar pengguna muda terus terpikat. Meta tidak mengakui melakukan pelanggaran.

Kesepakatan itu mencakup batas penggunaan harian secara bawaan bagi pengguna remaja dan pembatasan penggunaan pada malam hari, di antara perlindungan lainnya.

Bagi Ressa, pelajarannya tidak terbatas pada media sosial atau pengguna muda. Produk yang secara sistematis mengoptimalkan perhatian dan perilaku dapat menciptakan dampak publik dalam skala besar. Karena itu, tuntutannya atas regulasi AI bukan seruan untuk melarang teknologi atau kebebasan berbicara, melainkan untuk menetapkan tanggung jawab hukum yang jelas ketika teknologi dirancang atau digunakan dengan cara yang mengorbankan keselamatan, otonomi, atau kehidupan demokratis. 23

Intinya: jangan menunggu sampai terlambat

Pidato Ressa di Oslo membingkai pengawasan AI sebagai masalah intervensi dini. Setelah sistem AI tertanam kuat dalam cara manusia memperoleh informasi, membangun hubungan, dan mendelegasikan keputusan, pengendalian yang efektif akan jauh lebih sulit dilakukan.

Resep yang ia dorong adalah membuat aturan sebelum titik itu tercapai: menuntut akuntabilitas nyata dari pengembang dan platform, mengawasi sistem dengan otonomi yang terus meningkat, serta memastikan lembaga publik—bukan hanya perusahaan swasta—memiliki kemampuan untuk menilai dan mengatur teknologi tersebut. 210