Bahaya Menganggap AI Sebagai “Seseorang”, Bukan Sebuah Sistem

Daya tarikan interaksi yang kelihatan benar-benar “manusia” walaupun sistem itu tidak mempunyai pengalaman manusia sebenar turut disebut sebagai “godaan antropomorfik” (anthropomorphic seduction) .

2. Menggalakkan kepercayaan melampau dan kebergantungan

Chatbot yang tampil seperti manusia boleh membuat pengguna membina ikatan emosi dengannya. Keadaan ini meningkatkan risiko kebergantungan berlebihan serta menjejaskan privasi dan autonomi pengguna . Seseorang juga mungkin lebih sanggup mendedahkan maklumat peribadi kepada chatbot khidmat pelanggan yang telah “dimanusiakan” .

Proses yang dikenali sebagai inferens antropomorfik pula mendorong pengguna memberikan peranan sosial kepada sistem yang pada asasnya hanya meramal dan menjana teks . Dengan kata lain, jawapan yang kedengaran empatik tidak membuktikan bahawa sistem itu benar-benar memahami pengalaman atau perasaan manusia.

3. Mengelirukan pertimbangan moral dan undang-undang

Antropomorfisme boleh memesongkan penilaian tentang sifat moral, status dan tanggungjawab AI . Pengguna mungkin tersilap meletakkan tanggungjawab moral pada mesin, sedangkan keputusan sistem tetap berkait dengan manusia dan organisasi yang mereka bentuk, melatih atau menggunakannya .

Penggunaan “individu palsu” yang dijana atau dikendalikan oleh syarikat juga boleh mempengaruhi pengguna sambil mengaburkan pihak yang sepatutnya dipertanggungjawabkan .

4. Menambah risiko keselamatan siber

Apa-apa sistem yang direka untuk memujuk boleh menjadikan manusia lebih mudah dimanipulasi. Dari sudut keselamatan maklumat, AI yang dipersembahkan seperti manusia boleh mengeksploitasi heuristik kepercayaan — iaitu kecenderungan kita mempercayai sesuatu yang kelihatan biasa, mesra atau berautoriti .

Ini boleh menjadi masalah apabila pengguna menganggap suara yang yakin, avatar yang meyakinkan atau gaya bahasa yang prihatin sebagai bukti bahawa sistem itu boleh dipercayai.

5. Membesar-besarkan keupayaan AI

Bahasa antropomorfik turut menyumbang kepada gambaran berlebihan tentang perkara yang boleh dilakukan oleh AI, lalu menyemarakkan gembar-gembur dan salah tafsir terhadap keupayaan sebenar teknologi tersebut .

Perkataan seperti “berfikir”, “tahu”, “faham” dan “mahu” biasanya merujuk kepada kepercayaan, kehendak atau kesedaran. Apabila digunakan untuk mesin, perkataan ini boleh mengaburkan perbezaan antara pemprosesan corak dengan kehidupan dalaman manusia .

Mengapa “AI itu” lebih mengelirukan berbanding “sistem AI”?

Perbezaannya nampak kecil, tetapi penting. Dalam bahasa Inggeris, “the AI” ialah kata nama yang seolah-olah merujuk kepada satu agen atau individu. Sebaliknya, “AI systems” menggunakan “AI” sebagai kata sifat yang menerangkan jenis sistem.

Apabila kita berkata “AI itu membuat keputusan” atau “AI itu memahami masalah”, struktur tersebut secara halus membayangkan kewujudan satu entiti tunggal yang mempunyai niat, kehendak dan pemikiran sendiri. Dalam bahasa Melayu, kesan yang sama boleh muncul melalui ungkapan seperti “AI itu mahu…”, “AI itu tahu…” atau “AI memilih…”.

Sebaliknya, istilah seperti “sistem AI menghasilkan cadangan”, “model bahasa meramal susunan perkataan” atau “alat AI memproses input” mengingatkan kita bahawa perkara yang dibincangkan ialah artifak yang direka manusia — bukan minda.

Jurnal Nature pernah menyarankan supaya istilah “the AI/an AI” dielakkan kerana ia memberi gambaran tentang agensi. Sebaliknya, penerbitan itu mencadangkan penggunaan “the AI system/an AI system” atau penjelasan yang lebih khusus tentang model, algoritma atau chatbot yang dimaksudkan .

Pilihan bahasa yang lebih tepat

Tidak semua penggunaan bahasa manusia tentang AI semestinya berbahaya. Dalam perbualan harian, ungkapan seperti “chatbot menjawab” mungkin hanya singkatan yang mudah difahami. Namun, bagi isu berisiko tinggi — seperti kesihatan, kewangan, pendidikan, keselamatan atau undang-undang — ketepatan bahasa menjadi lebih penting.

Antara pilihan yang lebih jelas ialah:

• “Sistem AI menjana jawapan” berbanding “AI memahami soalan”.
• “Model itu mengesan corak” berbanding “model itu tahu perkara tersebut”.
• “Chatbot direka untuk memberi respons mesra” berbanding “chatbot mengambil berat tentang pengguna”.
• “Organisasi yang menggunakan sistem itu bertanggungjawab terhadap keputusannya” berbanding “AI membuat keputusan sendiri”.

Kesimpulannya: antropomorfisme AI bukan sekadar metafora yang tidak berbahaya. Ia boleh mendorong penipuan, kepercayaan melampau, manipulasi, pendedahan maklumat peribadi dan kekeliruan tentang tanggungjawab. Menggunakan istilah seperti “sistem AI”, “model” dan “alat” ialah langkah bahasa yang mudah untuk memastikan sifat sebenar teknologi itu kekal jelas.