IPO Anthropic: Janji Besar AI, Risiko Besar bagi Manusia

Prospektus IPO Anthropic mengajukan dua sisi dari cerita yang sama: AI yang makin canggih dapat membawa keuntungan ekonomi dan ilmiah yang luar biasa, tetapi juga membuka peluang penyalahgunaan dan berisiko lepas dari kendali manusia. Ketegangannya jelas: Anthropic meminta investor membiayai pengembangan yang lebih cepat dan berskala besar, sementara perusahaan juga mengatakan kemajuan AI mungkin perlu diperlambat demi keselamatan. Informasi ini berasal dari draf rahasia yang dilaporkan media; IPO maupun ketentuannya belum menjadi keputusan final. 12

Peluang AI berhadapan dengan risiko keselamatan

Anthropic berpendapat bahwa mengembangkan model AI canggih memberinya kesempatan untuk mempelajari dan mengurangi risiko. Namun, perusahaan juga memperingatkan bahwa sistem yang makin otonom dapat menimbulkan bahaya, termasuk “risiko katastrofik atau eksistensial bagi umat manusia”. Riset keselamatan dan pengembangan produk berjalan beriringan—tetapi itu bukan bukti bahwa yang satu pasti mampu mengimbangi risiko yang lain. 12

Pertumbuhan tinggi, biaya yang luar biasa besar

Ambisi valuasi di atas US$2 triliun bertumpu pada pertumbuhan cepat: pendapatan pada 2025 dilaporkan meningkat sekitar dua belas kali lipat hingga hampir US$4,6 miliar. Namun, angka itu hadir bersama kerugian bersih sekitar US$42 miliar dan rencana belanja infrastruktur sedikitnya US$518 miliar selama satu dekade. Investor pada akhirnya perlu menilai apakah permintaan dan margin di masa depan bisa membenarkan biaya sebesar itu. 13

Kepentingan publik dan kendali pendiri

Rancangan struktur perusahaan yang diusulkan akan memberi tujuh pendiri bersama 50,1% hak suara. Anthropic dapat menilai struktur ini penting untuk melindungi misi keselamatan jangka panjang dari tekanan pasar jangka pendek. Bagi pemegang saham lain, pertanyaannya adalah apakah alasan tersebut sepadan dengan berkurangnya kemampuan mereka untuk mengawasi dan meminta pertanggungjawaban pimpinan. 4

Ketergantungan pada mitra teknologi besar

Mitra cloud dan distribusi membantu Anthropic memperoleh kapasitas komputasi dan menjangkau pelanggan. Namun, prospektus juga menyoroti ketergantungan perusahaan pada sekelompok kecil perusahaan teknologi besar yang dapat berperan sebagai pemasok, investor, pelanggan, atau pesaing. Ketergantungan ini membuat klaim bahwa Anthropic dapat mengarahkan perkembangan AI secara mandiri menjadi lebih rumit. 5

Siapa yang menikmati manfaat AI?

Prospektus membayangkan AI akan mengubah perekonomian dengan dampak yang melampaui teknologi serbaguna sebelumnya, sembari mengakui risikonya bagi umat manusia. Pertanyaan yang belum terjawab adalah siapa yang akan menikmati manfaatnya ketika pengembangan model terdepan membutuhkan modal dan daya komputasi dalam jumlah besar, serta keputusan penerapannya terkonsentrasi pada sedikit pihak. 12

Seruan agar seluruh industri memperlambat laju pengembangan tidak otomatis berarti Anthropic berjanji menghentikan peluncuran modelnya sendiri. Namun, perbedaan itu tetap menjadi ujian kredibilitas. Reuters melaporkan bahwa Anthropic mempertimbangkan model baru untuk merespons tekanan persaingan setelah CEO Dario Amodei menyerukan perlambatan. Peluncuran tersebut masih sebatas kemungkinan, bukan keputusan yang dipastikan. Situasi ini menunjukkan mengapa investor dan masyarakat memerlukan batasan yang konkret dan dapat dinilai secara independen—bukan hanya komitmen umum untuk berhati-hati—agar dapat melihat apakah keselamatan benar-benar diutamakan saat persaingan memanas. 6