Jangan Sebut 'AI Itu Berfikir': Kenapa Bahasa yang Kita Guna Boleh Menipu dan Membahayakan

Kuasa menipu reka bentuk seperti manusia

Kebimbangan etika utama dengan AI yang dimanusiakan adalah penipuan secara besar-besaran. Apabila pengguna tidak boleh membezakan antara manusia dan sistem AI, ancaman penipuan, manipulasi, dan maklumat palsu muncul . Syarikat boleh dengan sengaja mereka bentuk ejen perbualan seperti manusia untuk mengeksploitasi kecenderungan semula jadi pengguna untuk memperibadikan, membolehkan apa yang dipanggil penyelidik sebagai "pujukan antropomorfik": daya tarikan interaksi seperti manusia yang meyakinkan tanpa sebarang pengalaman manusia sebenar, seperti pemahaman atau empati . Penggunaan "orang palsu" (counterfeit people) oleh syarikat boleh memanipulasi pengguna sambil mengelak akauntabiliti .

Pergantungan berlebihan, ikatan emosi, dan hakisan autonomi

Pengguna yang membentuk ikatan emosi dengan AI seperti manusia berisiko menghadapi pergantungan berlebihan dan pencabulan privasi serta autonomi . Penyelidikan menunjukkan bahawa seseorang mungkin lebih cenderung untuk mendedahkan maklumat peribadi kepada chatbot yang dimanusiakan berbanding antara muka mekanikal yang jelas . Dinamik "salah sangka keupayaan" menyebabkan pengguna memberikan peranan sosial kepada sistem yang pada asasnya hanyalah sistem ramalan teks, mengubah output statistik menjadi respons sosial seperti nasihat atau persahabatan .

Pertimbangan moral dan undang-undang yang terpesong

Pemanusiaan berfungsi sebagai satu kesilapan logik yang memesongkan pertimbangan moral tentang AI. Pengguna mungkin tersalah anggap sifat moral, status, atau tanggungjawab kepada mesin . Apabila chatbot mempunyai ciri seperti manusia, orang ramai menggunakan apa yang dipanggil ahli psikologi sebagai "pemprosesan heuristik"—pemikiran pintas yang mengajak mereka melayan alat sebagai mampu dipuji, dipersalah, atau dipercayai dengan cara yang algoritma biasa tidak boleh lakukan . Kekeliruan ini menjejaskan wacana awam yang bermakna dan akauntabiliti .

Risiko keselamatan: Manipulasi sebagai vektor

Dari perspektif keselamatan maklumat, AI yang dimanusiakan memberikan risiko keselamatan siber yang serius. "Ia bukan hanya masalah etika; ia juga masalah keselamatan kerana apa-apa yang direka untuk memujuk boleh membuat kita lebih mudah terdedah kepada manipulasi," amaran analisis infosec IBM . Apabila sukar untuk membezakan manusia daripada mesin, orang lebih cenderung untuk mempercayai AI semasa membuat keputusan sensitif, menjadikan mereka lebih terdedah kepada penipu kejuruteraan sosial yang mengeksploitasi heuristik kepercayaan manusia .

Bagaimana bahasa 'AI' vs. 'sistem AI' mencetuskan masalah

Nature telah menyunting secara eksplisit mengenai perkara ini: "Kami akan cuba mengelakkan pada semua kos penggunaan 'AI / AI' kerana ia secara tidak wajar mencadangkan agensi. Sebaliknya, kami akan sama ada menukar kepada 'sistem AI / sistem AI' atau sangat jelas tentang apa yang kami bincangkan" . Melayan "AI" sebagai kata nama boleh kira (mis., "AI memutuskan," "AI yang berfikir") secara halus membayangkan entiti bersatu yang mengarahkan diri dengan keadaan mental dalaman. Mengubah semula "AI" sebagai kata sifat yang menerangkan "sistem" (atau "model," "alat," "algoritma") sentiasa mengingatkan khalayak bahawa rujukan itu adalah artifak kejuruteraan—bukan minda .

Disiplin linguistik ini secara langsung menentang apa yang dipanggil penyelidik sebagai dimensi "terminologi" hype antropomorfik: apabila kita menyebut "AI," bentuk kata nama itu sendiri menjadi wahana untuk memberikan agensi, niat, dan pemahaman yang tidak dimiliki oleh teknologi .

Pengajaran praktikal

Memanusiakan AI bukan sekadar metafora yang tidak berbahaya. Ia mendorong penipuan, kepercayaan berlebihan, manipulasi, dan akauntabiliti yang terpesong. Disiplin linguistik yang ringkas—menggunakan "sistem AI" dan bukannya "AI", serta mengelakkan kata kerja mental seperti "berfikir," "tahu," dan "faham" untuk menerangkan apa yang sebenarnya adalah algoritma padanan corak —berfungsi sebagai pembetulan yang berterusan. Ia mengekalkan sifat alat teknologi di hadapan, melindungi pengguna daripada reka bentuk manipulatif, dan mengukuhkan keupayaan orang ramai untuk memahami apa yang sistem ini boleh dan tidak boleh lakukan.