Amaran Sam Altman tentang AI dan penyerahan pertimbangan manusia

Sam Altman berkata beliau “sangat tidak selesa” apabila orang cuba memberikan “kuasa keagamaan” kepada model AI atau menyerahkan pertimbangan manusia kepadanya. Beliau menyifatkannya sebagai “isu keselamatan yang sebenar”. Altman tidak menyebut Anthropic dalam hantaran itu, tetapi waktunya—beberapa hari selepas laporan tentang pertemuan syarikat tersebut dengan sarjana agama—menyebabkan kenyataannya dibaca sebagai sindiran terhadap Anthropic. 71

Namun, meneroka cara AI patut berkelakuan atau bertanya sama ada AI mungkin sedar tidak semestinya bermaksud meminta orang menganggapnya sebagai autoriti rohani. Laporan yang ada menyebut Anthropic meneliti persoalan tersebut, manakala pengasas bersamanya, Christopher Olah, berkata beliau benar-benar tidak pasti sama ada model AI mempunyai kesedaran. 1

Apakah yang dibimbangi Altman?

Hantaran Altman menggabungkan dua kebimbangan: menganggap model AI mempunyai kuasa seperti autoriti agama dan menyerahkan pertimbangan manusia kepadanya. Beliau menyifatkan gabungan itu sebagai isu keselamatan. Oleh sebab hantaran tersebut tidak menamakan mana-mana syarikat atau projek, kaitannya dengan Anthropic ialah tafsiran berdasarkan laporan yang muncul ketika itu—bukan tuduhan yang dinyatakan secara langsung. 7

Kebimbangan ini juga melangkaui soal agama. Apabila jawapan model yang kedengaran yakin dan seakan-akan manusia dianggap sebagai sumber berautoriti, orang mungkin memberikan pengaruh yang lebih besar kepada model itu daripada yang wajar berdasarkan keupayaannya. Laporan yang dirujuk merekodkan amaran Altman, tetapi tidak menentukan sejauh mana perkara ini berlaku atau mengukur kesannya. 67

Mengapa pertemuan Anthropic menarik perhatian?

Anthropic dilaporkan mendapatkan pandangan sarjana agama tentang cara membentuk tingkah laku moral Claude serta kemungkinan model AI mempunyai kesedaran. Pertindihan topik inilah yang menyebabkan kenyataan Altman dibaca sebagai respons terhadap usaha syarikat itu. 17

Namun, perbezaan antara kedua-dua perkara itu penting. Olah berkata, “kita tidak tahu sama ada model AI sedar,” dan menambah bahawa beliau sendiri benar-benar tidak pasti. Membincangkan kemungkinan kesedaran bukan bukti bahawa model mempunyai pengalaman subjektif. Begitu juga, mendapatkan pandangan pemikir agama tentang tingkah laku moral tidak dengan sendirinya menjadikan model itu autoriti agama. 1

Kesedaran dan tingkah laku moral bukan persoalan yang sama

Model boleh dibentuk supaya mengikut panduan tentang cara menjawab tanpa membuktikan bahawa ia mempunyai kehidupan batin atau pengalaman dalaman. Laporan mengenai perbincangan Anthropic menyentuh kedua-dua tingkah laku Claude dan kemungkinan kesedarannya; kedua-dua persoalan itu tidak patut disatukan menjadi satu kesimpulan. 1

Laporan sama turut menyebut bantahan terhadap usaha melatih model seolah-olah ia sedar: seorang eksekutif AI Microsoft memberi amaran bahawa pendekatan itu boleh berbahaya. Itu ialah kebimbangan yang dilaporkan, bukannya jawapan muktamad tentang kesedaran mesin. Pendirian Olah yang dilaporkan pula ialah beliau masih tidak pasti. 91

Maruah manusia sebagai pertimbangan utama

Ensiklik Paus Leo XIV mengenai AI meletakkan maruah manusia sebagai perkara utama. Menurut laporan tentang dokumen itu, beliau menyeru pengawasan lebih kukuh terhadap syarikat AI, perlindungan bagi pekerja yang terjejas oleh perubahan ekonomi, serta langkah menangani maklumat palsu yang dijana AI. Kebimbangan ini mengingatkan bahawa kepentingan dan akauntabiliti manusia perlu kekal di tengah-tengah pembangunan serta penggunaan AI. 152

OpenAI turut berdepan penelitian

Perdebatan ini berlaku ketika OpenAI turut menjadi perhatian atas isu berasingan. Business Insider melaporkan bahawa pemimpin keselamatan David Robinson meninggalkan syarikat itu dan mengkritik rekod keselamatannya. BBC pula melaporkan OpenAI memecat tiga penyelidik berhubung dakwaan salah pengendalian maklumat. Laporan tersebut tidak menjawab sama ada model AI boleh sedar, tetapi menjadi konteks apabila tadbir urus dan dakwaan keselamatan kedua-dua syarikat diteliti. 1226

Kesimpulan paling jelas bukanlah keputusan muktamad tentang Anthropic atau OpenAI. Altman memberi amaran supaya orang tidak menganggap model sebagai autoriti agama atau menyerahkan pertimbangan manusia kepadanya. Perbincangan Anthropic yang dilaporkan menimbulkan persoalan berkaitan tingkah laku moral dan kemungkinan kesedaran Claude, tetapi maklumat yang ada tidak membuktikan bahawa perbincangan itu memberikan Claude kuasa agama—atau bahawa persoalan kesedaran AI sudah terjawab. 71