Ketua AI Microsoft Selar Spekulasi Kesedaran Claude Anthropic Sebagai 'Sangat Merbahaya'

Beliau melabelkan amalan ini "sangat, sangat merbahaya" dan memberi amaran bahawa "kita tidak mahu berdepan dengan kecerdasan super yang mempunyai idea tentang penderitaannya sendiri, atau idea tentang perasaannya sendiri" . Beliau menghuraikan kebimbangan ini di tempat lain, mengatakan adalah merbahaya "untuk memproyeksikan potensi hak ke atas makhluk, alat, dan ejen yang berpotensi menjadi jauh lebih mampu daripada kita" . Satu kebimbangan utama ialah menghiburkan idea kesedaran mesin dalam dokumentasi rasmi mengelirukan jutaan pengguna yang tidak bersedia untuk memahami realiti kejuruteraan di sebalik AI perbualan .

Pertembungan Falsafah dan Persaingan

Di sebalik kritikan itu terdapat lebih daripada sekadar perselisihan faham tentang reka bentuk teknikal. Pertikaian awam ini mendedahkan pertembungan falsafah korporat dan kedudukan persaingan .

Anthropic telah lama memasarkan dirinya sebagai alternatif yang mengutamakan keselamatan dalam perlumbaan AI. Diasaskan oleh bekas eksekutif OpenAI, syarikat itu menekankan "AI berperlembagaan" sebagai rangka kerja untuk membina model yang lebih telus dan terikat etika. Kritikan Suleyman adalah ampuh secara strategik kerana ia melemahkan identiti itu sepenuhnya. Beliau berhujah bahawa pendekatan keselamatan khusus Anthropic—menghiburkan kemungkinan kesejahteraan mesin di dalam sistem—adalah apa yang menjadikannya tidak bertanggungjawab .

Kedua-dua syarikat itu juga tertanam dalam pakatan industri yang bertentangan. Microsoft memegang kepentingan besar dalam OpenAI, pesaing utama Anthropic, dan telah menyematkan model GPT OpenAI di seluruh ekosistem produknya. Sementara itu, Anthropic telah mengumpul berbilion dolar daripada Amazon dan Google . Kritikan Suleyman membawa berat kedua-duanya: sebagai hujah etika dan tembakan persaingan dalam pasaran di mana persepsi awam tentang keselamatan semakin penting.

Terdapat juga sejarah falsafah yang didokumenkan di sebalik perselisihan ini. Suleyman sebelum ini telah menerbitkan dan bercakap tentang "AI Tampak Sedar" (Seemingly Conscious AI), dengan berhujah bahawa mesin dengan penampilan kesedaran yang meyakinkan menimbulkan risiko yang belum pernah terjadi sebelumnya—walaupun ia sebenarnya tidak hidup . Anthropic, sebaliknya, telah mengambil pendirian yang lebih telus dalam penyelidikan, menerbitkan penjelasan terperinci tentang reka bentuk perlembagaan Claude sambil mengakui ketidakpastian tentang sama ada model itu mungkin mempunyai bentuk pengalaman subjektif . Ini bukan sekadar slogan pemasaran; ia mewakili pertaruhan yang benar-benar berbeza tentang apa yang membentuk pendedahan yang bertanggungjawab apabila model menjadi lebih berkuasa.

Setakat penerbitan, Anthropic belum memberikan respons awam terhadap kenyataan Suleyman . Kesenyapan ini menyebabkan perdebatan tidak selesai, tetapi garis pemisah kini telah dilukis secara awam dengan cara yang mungkin akan membentuk perbincangan industri yang akan datang tentang piawaian keselamatan AI dan akauntabiliti korporat.