Joe Lonsdale Kritik Peringatan Risiko AI yang Dinilai Bisa Membentuk Regulasi

Joe Lonsdale mengatakan keselamatan AI memang perlu diperhatikan. Namun, menurut investor Anthropic dan salah satu pendiri Palantir itu, peringatan tentang risiko eksistensial AI tidak seharusnya menjadi cara bagi segelintir perusahaan besar untuk ikut menentukan aturan industri.

Lonsdale menyampaikan pandangan tersebut dalam acara Reuters Momentum AI Austin pada 25 September. Ia juga memuji CEO Anthropic Dario Amodei dan menyebut Anthropic unggul dalam hal talenta. 2

Kekhawatiran soal pengaruh terhadap regulasi

Lonsdale menilai peringatan dari sejumlah perusahaan AI terkemuka tentang ancaman eksistensial dapat menjadi upaya berbahaya untuk memengaruhi kebijakan publik. Ia juga mengkritik apa yang ia gambarkan sebagai upaya orang-orang dekat Anthropic dan OpenAI mendanai kelompok luar yang mengadvokasi regulasi AI lebih ketat.

Menurut Lonsdale, pendekatan itu berisiko membuat sejumlah kecil pengembang besar memiliki pengaruh yang tidak semestinya dalam merancang aturan bagi industri. Ini merupakan penilaian Lonsdale mengenai tujuan dan dampak dari advokasi tersebut, bukan temuan independen yang dipastikan oleh laporan. 2

Ia tidak mengatakan keselamatan AI tak penting. Sebaliknya, Lonsdale menyebutnya sebagai kekhawatiran nyata, seraya memperingatkan agar regulasi tidak dibuat dengan landasan rasa takut. 2

Kritiknya tak menghalangi pujian untuk Anthropic

Ada kontras dalam pernyataan Lonsdale: ia adalah investor Anthropic, tetapi mengkritik advokasi berbasis risiko yang ia kaitkan dengan orang-orang dekat perusahaan itu dan OpenAI. Pada saat yang sama, ia memuji Amodei dan menilai Anthropic memiliki talenta yang lebih unggul dibanding para pesaingnya. 2

Pembedaan ini penting: kritik Lonsdale tertuju pada kemungkinan pengaruh kekhawatiran soal keselamatan terhadap kebijakan, bukan pada keberadaan risiko AI itu sendiri. Secara terpisah, Amodei pernah menyerukan agar perusahaan memperlambat pengembangan model AI dan mengusulkan langkah-langkah untuk memberi lebih banyak waktu dalam mengelola risikonya. 1

Prediksi tentang perusahaan pertahanan Ukraina

Lonsdale juga memperkirakan perusahaan-perusahaan yang ia dukung kemungkinan akan membeli perusahaan pertahanan Ukraina. Namun, laporan yang tersedia tidak menyebut perusahaan mana yang mungkin menjadi pembeli, calon target akuisisi, jadwalnya, maupun rincian kemitraan yang mungkin dijalin. 2

Hal yang belum dapat dipastikan

Materi sumber yang tersedia belum cukup untuk memastikan pandangan khusus Lonsdale tentang pertanggungjawaban atas senjata otonom atau apakah ia membahas kemungkinan mengisi jabatan senior di Pentagon. Karena itu, kedua hal tersebut tidak dapat disimpulkan dari pernyataannya tentang AI, regulasi, maupun investasi pertahanan.