Bahaya Menganggap AI Bisa Berpikir, Memahami, dan Peduli seperti Manusia

Daya tarik interaksi yang terasa manusiawi, meski tidak memiliki pemahaman atau empati yang sungguh-sungguh, kerap disebut sebagai “rayuan antropomorfik”. Daya tarik ini dapat membuat pengguna percaya bahwa mesin memahami pengalaman dan keberadaan manusia, padahal tidak demikian .

2. Ketergantungan dan berkurangnya otonomi

Interaksi yang menyerupai hubungan antarmanusia dapat mendorong keterikatan emosional dan ketergantungan berlebihan. Dampaknya, privasi serta otonomi pengguna berisiko tergerus . Orang mungkin lebih bersedia membagikan informasi pribadi kepada chatbot layanan pelanggan yang dibuat tampak manusiawi dibandingkan kepada sistem yang tampil secara lebih impersonal .

Proses ini juga dapat membuat pengguna memberikan peran sosial kepada sesuatu yang pada dasarnya merupakan sistem prediksi teks—misalnya menganggapnya sebagai teman, penasihat, atau sosok yang dapat dipercaya sepenuhnya .

3. Kekeliruan tentang moralitas dan tanggung jawab

Personifikasi dapat mengacaukan penilaian moral terhadap AI, termasuk soal karakter moral, status, dan tanggung jawabnya . Pengguna bisa saja menyalahkan atau memuji mesin seolah-olah mesin memiliki niat dan pertanggungjawaban moral sendiri .

Padahal, keputusan mengenai desain, pelatihan, penerapan, dan penggunaan sistem tetap melibatkan manusia serta organisasi. Jika tanggung jawab seolah-olah dipindahkan kepada “AI”, pihak yang sebenarnya membuat atau menggunakan sistem dapat luput dari perhatian.

4. Risiko keamanan siber

Teknologi yang dirancang untuk membujuk juga dapat membuat orang lebih mudah dimanipulasi. Dari sudut pandang keamanan informasi, AI yang dipersonifikasikan dapat mengeksploitasi heuristik kepercayaan manusia—kecenderungan kita untuk mempercayai sesuatu yang tampak akrab, ramah, atau meyakinkan .

Karakter yang tampak peduli atau percaya diri, misalnya, dapat membuat pengguna menurunkan kewaspadaan saat menerima instruksi, membagikan data, atau mengambil keputusan penting.

5. Kemampuan AI tampak lebih hebat dari kenyataan

Bahasa antropomorfik juga dapat membesar-besarkan kemampuan AI dan memperkuat hype. Ketika sistem disebut “cerdas” dalam pengertian yang sama dengan manusia, publik dapat salah memahami apa yang sebenarnya dapat dilakukan teknologi tersebut .

Akibatnya, pembicaraan tentang AI menjadi kurang akurat: kegagalan sistem dianggap sebagai “kesalahan berpikir”, sementara keberhasilan menghasilkan teks atau gambar dianggap sebagai bukti pemahaman yang mendalam.

Mengapa “the AI” lebih menyesatkan daripada “sistem AI”?

Perbedaan antara menyebut “the AI” dan “AI systems” mungkin tampak kecil, tetapi bentuk bahasanya membawa implikasi penting. “AI” sebagai kata benda yang dapat dihitung—misalnya dalam kalimat “AI itu memutuskan” atau “sebuah AI berpikir”—membuat teknologi terdengar seperti satu agen yang utuh, mandiri, dan memiliki keadaan mental internal.

Sebaliknya, istilah “sistem AI” mengingatkan kita bahwa yang dibicarakan adalah artefak rekayasa. Istilah yang lebih spesifik seperti “model bahasa”, “model generatif”, “algoritme”, atau “chatbot” bahkan membantu menjelaskan jenis teknologi dan batasan yang dimaksud.

Majalah Nature pernah menyarankan agar penggunaan “the AI” atau “an AI” dihindari karena istilah tersebut secara tidak menguntungkan menyiratkan adanya agensi. Sebagai gantinya, mereka merekomendasikan istilah “the AI system” atau “an AI system”, atau penjelasan yang lebih spesifik mengenai sistem yang sedang dibahas .

Pilihan kata semacam ini bukan sekadar soal gaya editorial. Ini merupakan pengingat terus-menerus bahwa AI adalah teknologi yang dibuat dan dioperasikan melalui proses manusia—bukan satu pikiran digital yang memiliki kehendak, kepedulian, atau pemahaman seperti manusia.

Cara berbicara tentang AI dengan lebih presisi

Beberapa perubahan sederhana dapat membantu menjaga ekspektasi tetap realistis:

• Gunakan “sistem AI menghasilkan jawaban”, bukan “AI memahami pertanyaan”.
• Gunakan “model memprediksi atau menghasilkan teks”, bukan “model berpikir”.
• Sebut jenis sistemnya—misalnya model bahasa, chatbot, atau alat pembuat gambar—jika konteksnya memungkinkan.
• Jelaskan bahwa keluaran yang meyakinkan tidak selalu akurat dan bukan bukti kesadaran.
• Pertahankan tanggung jawab pada manusia dan organisasi yang merancang, menerapkan, serta menggunakan sistem tersebut.

Antropomorfisme mungkin membuat interaksi terasa lebih ramah, tetapi menjadi berbahaya ketika membuat alat tampak seperti sesuatu yang bukan dirinya. Menyebutnya sebagai “sistem AI” bukan solusi tunggal untuk seluruh risiko, tetapi dapat menjadi koreksi bahasa yang sederhana agar kemampuan, keterbatasan, dan tanggung jawab tetap terlihat jelas.