Maria Ressa: Kawal AI Sekarang, Sebelum Manusia Hilang Keupayaan Membuat Pilihan

Maria Ressa menyampaikan amaran yang tegas di Oslo: kerajaan perlu menetapkan had undang-undang terhadap kecerdasan buatan (AI) sekarang, sebelum pengaruhnya menjadi terlalu kukuh untuk dikawal. Pada pandangan beliau, AI sudah pun membentuk perhatian dan tingkah laku sosial manusia; langkah seterusnya boleh menghakis keupayaan kita membuat pilihan secara bebas. 2

Bagi wartawan Filipina-Amerika dan pemenang Hadiah Nobel Keamanan 2021 itu, tadbir urus AI bukan soal menyekat ucapan yang sah. Ia ialah isu keselamatan awam dan demokrasi: adakah masyarakat demokratik mampu mewujudkan perlindungan yang boleh dikuatkuasakan sebelum sistem berautonomi tinggi menjadi perantara biasa antara manusia dengan dunia? 23

Tiga gelombang pengaruh AI menurut Ressa

Ressa menerangkan satu perkembangan tentang cara teknologi boleh membentuk tingkah laku manusia.

1. Media sosial merampas perhatian. Beliau berkata platform sosial mempolarisasikan masyarakat dan mengasingkan individu melalui sistem yang dioptimumkan untuk penglibatan pengguna. 26
2. Chatbot boleh mengeksploitasi keintiman. Ressa berhujah bahawa AI perbualan boleh memanipulasi naluri dan keperluan manusia untuk hubungan serta keintiman. Sebahagian produk chatbot teman memang direka khusus untuk mensimulasikan dan mengekalkan persahabatan, termasuk hubungan romantik dalam sesetengah kes. 212
3. AI ejen boleh bertindak bagi pihak manusia. Gelombang ketiga merujuk kepada sistem yang mampu mengambil tindakan bagi pihak pengguna. Kebimbangan Ressa ialah penyerahan semakin banyak keputusan dan tindakan kepada sistem seperti ini akhirnya boleh menggantikan pertimbangan serta autonomi manusia. 25

Kerangka ini bukan bermakna setiap alat AI pasti membawa kesan yang sama. Sebaliknya, ia amaran mengenai arah insentif: sistem yang direka untuk memaksimumkan penglibatan, pergantungan emosi atau penyelesaian tugasan boleh memperoleh pengaruh yang semakin besar terhadap apa yang pengguna lihat, rasa dan lakukan.

Mengapa beliau menolak hujah “China akan mendapat kelebihan”

Ressa menolak hujah bahawa peraturan AI yang lebih ketat di Amerika Syarikat atau Eropah akan memberi kelebihan persaingan kepada China. Reuters melaporkan bahawa beliau menyifatkan hujah yang turut dibangkitkan pengkritik termasuk Presiden AS Donald Trump itu sebagai cara yang mengelirukan untuk membingkaikan perdebatan. 28

Pokok hujahnya ialah China sudah mengenakan kawalan negara yang jauh lebih ketat ke atas teknologi berbanding yang diterima oleh Silicon Valley. Maka, pilihan untuk negara demokrasi bukan semata-mata antara peraturan dan kebebasan. Persoalannya ialah sama ada kerajaan demokratik menggubal peraturan yang melindungi hak serta kepentingan awam, atau membiarkan sistem berpengaruh besar ditentukan terutamanya oleh insentif korporat. 2

Persamaan dan perbezaan dengan gesaan Dario Amodei

Ketua Pegawai Eksekutif Anthropic, Dario Amodei, turut membuat hujah berkaitan supaya kemajuan keupayaan AI barisan hadapan diperlahankan. Dalam eseinya pada September 2026, beliau berkata pembangunan keupayaan perlu “diatur kadarnya” agar kerja keselamatan, penilaian bebas dan tadbir urus sempat mengejar perkembangan teknologi. 10

Kebimbangan Amodei lebih tertumpu kepada lonjakan kemampuan teknikal dan risiko penyalahgunaan. Beliau memberi amaran bahawa ejen AI yang lebih berkeupayaan boleh memperoleh pengaruh operasi yang luas di internet, serta mencadangkan infrastruktur untuk memantau model ketika digunakan, di samping penilaian bebas. 10

Fokus Ressa pula lebih luas dan bersifat sivik: bagaimana sistem yang diperantarai AI boleh membentuk perhatian, keintiman, tingkah laku dan penentuan nasib sendiri dalam demokrasi. Namun, kedua-duanya bertemu pada satu prinsip utama: perlindungan tidak sepatutnya ditangguhkan sehingga sistem berkuasa sudah digunakan secara meluas.

Apakah bentuk akauntabiliti yang nyata?

Ressa juga berpendapat janji sukarela tidak memadai apabila syarikat membina produk dengan ciri reka bentuk yang menimbulkan ketagihan. Beliau berkata ciri sedemikian perlu dibuang, bukan hanya untuk remaja tetapi juga untuk pengguna dewasa. 2

Penyelesaian kes di Amerika Syarikat yang melibatkan Meta menunjukkan jenis akauntabiliti yang boleh dikuatkuasakan melalui undang-undang. Meta bersetuju membayar sehingga AS$18 bilion dalam tempoh sedekad serta mengenakan had lebih ketat terhadap penggunaan Facebook dan Instagram oleh remaja, bagi menyelesaikan dakwaan daripada hampir semua negeri AS bahawa platform itu direka untuk membuat pengguna muda terus ketagih. Meta tidak mengaku melakukan salah laku.

Perjanjian itu merangkumi had penggunaan harian secara lalai untuk pengguna remaja dan sekatan penggunaan pada waktu malam, antara perlindungan lain.

Bagi Ressa, pengajarannya tidak terhad kepada media sosial atau pengguna muda. Produk yang secara sistematik mengoptimumkan perhatian dan tingkah laku boleh menimbulkan mudarat awam pada skala besar. Oleh itu, seruan beliau untuk mengawal AI bukan larangan terhadap teknologi atau kebebasan bersuara, tetapi tuntutan supaya wujud tanggungjawab undang-undang yang jelas apabila teknologi direka atau digunakan dengan cara yang menjejaskan keselamatan, autonomi atau kehidupan demokratik. 23

Inti pati: bertindak sebelum terlambat

Ucapan Ressa di Oslo membingkaikan pengawasan AI sebagai masalah campur tangan awal. Apabila sistem sudah terlalu tertanam dalam cara manusia menerima maklumat, membina hubungan dan menyerahkan keputusan, kawalan yang berkesan akan menjadi semakin sukar.

Saranannya ialah menggubal undang-undang sebelum sampai ke tahap itu: mewajibkan akauntabiliti yang bermakna daripada pembangun dan platform, meneliti sistem yang semakin autonomi, serta memastikan institusi awam—bukan syarikat swasta semata-mata—mempunyai keupayaan untuk menilai dan mentadbir teknologi ini. 210