Anthropic mahu pelabur membiayai AI yang lebih berkuasa — sambil memberi amaran tentang bahayanya

Draf prospektus IPO Anthropic membawa dua mesej yang sukar dipisahkan: AI yang semakin canggih berpotensi menghasilkan kemajuan ekonomi dan saintifik yang besar, namun keupayaan sama boleh disalah guna atau terlepas daripada kawalan manusia. Syarikat itu meminta pelabur membiayai pembangunan AI pada skala lebih besar, sambil berhujah bahawa risiko teknologi tersebut mungkin menuntut lebih banyak langkah keselamatan — dan kadangkala, perkembangan yang lebih perlahan.

Perlu diingat, laporan media berasaskan draf pemfailan sulit. IPO itu belum selesai, dan cadangan dalam dokumen tersebut belum semestinya menjadi terma muktamad. 8

• Membangunkan AI untuk memahami risikonya — tetapi pembangunan juga menambah keupayaannya. Anthropic menyatakan bahawa membina model lebih maju membolehkannya mengkaji dan mengurangkan risiko. Pada masa sama, syarikat itu memberi amaran bahawa AI canggih boleh membawa “risiko bencana atau kewujudan kepada manusia”. Kajian keselamatan dan pembangunan produk berjalan seiring; yang satu tidak secara automatik menjamin yang lain dapat dikawal. 610

• Penilaian tinggi berdepan kerugian dan komitmen besar. Anthropic dikatakan menyasarkan penilaian melebihi AS$2 trilion. Hasilnya pada 2025 meningkat kira-kira 12 kali ganda kepada hampir AS$4.6 bilion, tetapi syarikat itu turut melaporkan kerugian bersih sekitar AS$42 bilion. Ia juga merancang untuk membelanjakan sekurang-kurangnya AS$518 bilion bagi infrastruktur AI dalam tempoh sedekad. Pelabur perlu menilai sama ada permintaan dan keuntungan pada masa hadapan akan mengimbangi kos yang sangat besar itu. 8911

• Melindungi misi keselamatan atau mengehadkan kuasa pemegang saham? Cadangan struktur korporat akan memberikan tujuh pengasas bersama 50.1% kuasa undi. Dari sudut syarikat, kawalan pengasas boleh membantu melindungi misi jangka panjang daripada tekanan pasaran jangka pendek. Namun, pemegang saham awam mungkin mempunyai pengaruh yang lebih kecil untuk meminta pihak pengurusan bertanggungjawab. 5

• Usaha berdikari, tetapi bergantung pada gergasi teknologi. Rakan kongsi awan membantu Anthropic mendapatkan kuasa pengkomputeran dan menjangkau pelanggan. Namun, menurut prospektus yang dilihat Reuters, 47% jualan kepada pelanggan pada tahun lalu disalurkan melalui pasaran awan Amazon dan Google. Kebergantungan pada sebilangan kecil syarikat yang boleh menjadi pembekal, pelabur, pelanggan atau pesaing menyukarkan dakwaan bahawa Anthropic dapat menentukan hala tuju AI secara bebas. 2

• Siapa yang menikmati hasil kemajuan AI? Prospektus membayangkan AI bakal mengubah ekonomi dunia dengan lebih mendalam daripada teknologi serba guna terdahulu. Namun, pembangunan model termaju memerlukan modal dan kapasiti pengkomputeran yang besar, sementara keputusan tentang penggunaannya tertumpu pada segelintir pihak. Persoalan tentang siapa yang meraih manfaatnya masih belum terjawab. 69

Seruan untuk memperlahankan pembangunan AI di seluruh industri tidak semestinya bermakna Anthropic akan menghentikan pelancaran modelnya sendiri. Reuters melaporkan syarikat itu sedang mempertimbangkan model baharu sebagai tindak balas terhadap tekanan persaingan, selepas ketua pegawai eksekutifnya menyeru agar industri memperlahankan pelepasan keupayaan baharu. Pelancaran itu belum disahkan. Namun, keadaan ini menunjukkan mengapa pelabur dan orang ramai mungkin memerlukan had keselamatan yang jelas dan boleh dinilai secara bebas — bukan sekadar janji untuk berhati-hati — khususnya apabila persaingan semakin sengit. 1