Amaran Maria Ressa: Tiga Gelombang AI yang Boleh Menghakis Kuasa Pilihan Manusia

Maria Ressa memberi amaran bahawa ancaman AI terhadap demokrasi bukan semata-mata soal mesin autonomi pada masa depan. Menurut beliau, tiga gelombang teknologi telah bergerak daripada membentuk perkara yang diperhatikan orang ramai, kepada mengeksploitasi keintiman emosi, dan akhirnya berpotensi bertindak dengan cara yang menyingkirkan pilihan manusia. Jika dibiarkan tanpa kawalan, arah aliran itu boleh menjejaskan keupayaan rakyat untuk mentadbir diri sendiri secara demokratik. 1

Tiga gelombang AI menurut Ressa

1. Media sosial merampas perhatian

Ressa menyifatkan media sosial sebagai gelombang pertama. Platform-platform ini bersaing untuk mendapatkan perhatian pengguna dan, katanya, turut mempolarisasi serta mengasingkan manusia. Kebimbangan terhadap demokrasi ialah masyarakat yang tidak dapat mengekalkan perhatian bersama, kepercayaan sosial atau persekitaran maklumat yang dikongsi akan lebih mudah dipecahbelahkan dan sukar berbincang secara kolektif. 1

2. Chatbot memanfaatkan keperluan terhadap keintiman

Gelombang kedua ialah AI perbualan. Ressa berkata chatbot boleh memanipulasi biologi manusia dengan memanfaatkan keperluan kita terhadap keintiman. Kebimbangannya bukan sekadar orang ramai menggunakan chatbot dengan kerap, tetapi sistem yang direka untuk menghasilkan interaksi yang memikat emosi boleh membuka ruang baharu untuk mempengaruhi pengguna yang rentan. 1

3. AI beragen boleh mengurangkan agensi manusia

Gelombang terakhir dalam kerangka Ressa ialah AI beragen dan berbilang ejen—sistem yang boleh bertindak bagi pihak manusia, atau mungkin bertentangan dengan kepentingan mereka. Beliau memberi amaran bahawa sistem sebegini boleh menghakis agensi manusia, iaitu keupayaan membuat pilihan secara bebas, melainkan masyarakat menggubal had undang-undang sebelum ia tertanam luas dalam kehidupan harian. 1

Bagi Ressa, ketiga-tiga gelombang ini menunjukkan peningkatan risiko yang jelas: daripada persaingan mendapatkan perhatian, kepada pengaruh melalui keintiman, kemudian kepada kemungkinan sistem automatik membuat keputusan yang lebih penting bagi pihak manusia.

Mengapa beliau melihat kawal selia AI sebagai isu keselamatan awam

Ressa menggesa agar tadbir urus AI ditangani sebagai isu keselamatan awam, bukan terutamanya pertikaian tentang kebebasan bersuara atau persaingan teknologi. Beliau berkata rakyat perlu berkempen untuk peraturan AI supaya wakil rakyat didesak menggubal undang-undang. 1

Antara langkah yang beliau tekankan ialah:

• Syarikat teknologi besar dipertanggungjawabkan di sisi undang-undang apabila produk mereka menyebabkan mudarat. 1
• Ciri produk yang mencetuskan ketagihan dibuang, bukan hanya untuk remaja tetapi juga pengguna dewasa. 1
• Had umur bagi akses kepada teknologi berkaitan. 1
• Memperlahankan pembangunan dan pelaksanaan AI sementara peraturan serta perlindungan diwujudkan. 1

Ressa juga menolak hujah bahawa peraturan di negara Barat akan menyebabkan mereka menyerahkan perlumbaan AI kepada China. Seperti dilaporkan Reuters, pendirian beliau ialah kegagalan mengawal selia membawa kos yang jauh lebih asas: kemungkinan manusia kehilangan agensi dan demokrasi kehilangan kawalan. 1

Bukan sekadar menyekat sistem yang berbahaya

Hujah Ressa bukan hanya tentang mengehadkan sistem yang boleh memudaratkan. Beliau juga menyeru wartawan dan komuniti supaya membina serta memiliki teknologi yang menyokong integriti maklumat. Dalam Persidangan Keamanan Nobel, beliau menekankan bahawa pembina teknologi perlu mengawal data dan infrastruktur mereka sendiri, sambil menghala kepada alternatif berkepentingan awam berbanding platform dominan. 9

Sisi membina dalam agenda itu merangkumi ruang komunikasi yang lebih selamat dan berorientasikan komuniti seperti Rappler Communities—satu infrastruktur yang bertujuan menyokong penyertaan demokratik tanpa menjadikan dorongan memaksimumkan penglibatan pengguna sebagai matlamat utama.

Inti pati amaran beliau

Kerangka tiga gelombang Ressa ialah seruan untuk bertindak sebelum sistem beragen menjadi pembuat keputusan biasa dalam kehidupan seharian. Dua gelombang terdahulu, pada pandangan beliau, memperlihatkan bagaimana sistem digital boleh mengeksploitasi perhatian dan keintiman pada skala besar. Persoalan yang dibawa oleh gelombang ketiga ialah sama ada masyarakat mampu mengekalkan pilihan manusia, kebertanggungjawaban dan kawalan demokratik sebelum sistem yang lebih autonomi berakar umbi. 1