Bos AI Microsoft Sebut Spekulasi Kesadaran Claude oleh Anthropic 'Benar-Benar Berbahaya'

Ia menyebut praktik ini "benar-benar, benar-benar berbahaya" dan memperingatkan bahwa "kita tidak ingin harus berurusan dengan kecerdasan super yang memiliki gagasan tentang penderitaannya sendiri, atau gagasan tentang perasaannya sendiri" . Di tempat lain, ia memperluas kekhawatiran ini dengan mengatakan bahwa sangat berbahaya "untuk memproyeksikan hak-hak potensial kepada makhluk, alat, dan agen yang berpotensi menjadi jauh lebih mampu dari kita" . Kekhawatiran besar lainnya adalah bahwa menghibur gagasan tentang kesadaran mesin dalam dokumentasi resmi akan menyesatkan jutaan pengguna yang tidak dibekali pemahaman teknis tentang realitas di balik AI percakapan .

Benturan Filosofis dan Persaingan Bisnis

Di balik kritik tersebut, terdapat lebih dari sekadar ketidaksepakatan tentang desain teknis. Perseteruan publik ini mengungkap benturan filosofi perusahaan dan posisi kompetitif .

Anthropic telah lama memasarkan dirinya sebagai alternatif yang mengutamakan keamanan dalam perlombaan AI. Didirikan oleh mantan eksekutif OpenAI, perusahaan ini menekankan "AI konstitusional" sebagai kerangka kerja untuk membangun model yang lebih transparan dan terikat etika. Kritik Suleyman sangat kuat secara strategis karena meruntuhkan identitas itu sepenuhnya. Ia berpendapat bahwa pendekatan Anthropic terhadap keamanan—yang menghibur kemungkinan kesejahteraan mesin di dalam sistem—justru itulah yang membuatnya tidak bertanggung jawab .

Kedua perusahaan ini juga bernaung di bawah aliansi industri yang berlawanan. Microsoft memegang saham besar di OpenAI, pesaing utama Anthropic, dan telah merajut model GPT milik OpenAI ke seluruh ekosistem produknya. Sementara itu, Anthropic telah mengumpulkan miliaran dolar dari Amazon dan Google . Kritik Suleyman membawa bobot baik sebagai argumen etis maupun sebagai serangan kompetitif di pasar di mana persepsi publik tentang keamanan semakin penting.

Ada juga sejarah filosofis yang terdokumentasi di balik perselisihan ini. Suleyman sebelumnya telah menerbitkan tulisan dan berbicara tentang "AI yang Tampak Sadar" (Seemingly Conscious AI), dengan argumen bahwa mesin dengan penampilan kesadaran yang meyakinkan menimbulkan risiko yang belum pernah terjadi sebelumnya—bahkan ketika mereka tidak benar-benar hidup . Di sisi lain, Anthropic mengambil sikap yang lebih transparan dalam riset, menerbitkan penjelasan rinci tentang desain konstitusional Claude sambil mengakui adanya ketidakpastian apakah model tersebut mungkin memiliki bentuk pengalaman subjektif . Ini bukan sekadar slogan pemasaran; keduanya mewakili taruhan yang benar-benar berbeda tentang apa yang merupakan pengungkapan yang bertanggung jawab seiring model menjadi semakin kuat.

Hingga berita ini diturunkan, Anthropic belum menanggapi pernyataan Suleyman secara publik . Keheningan ini membiarkan perdebatan tidak terselesaikan, tetapi garis batasnya kini telah ditarik secara publik dengan cara yang kemungkinan akan membentuk diskusi industri mendatang tentang standar keamanan AI dan akuntabilitas perusahaan.