Joe Lonsdale bimbang amaran risiko AI boleh mempengaruhi peraturan

Joe Lonsdale berkata keselamatan kecerdasan buatan (AI) memang wajar diberi perhatian. Namun, menurut pengasas bersama Palantir dan pelabur Anthropic itu, amaran tentang risiko AI terhadap kewujudan manusia tidak sepatutnya menjadi cara untuk segelintir syarikat besar mempengaruhi peraturan industri. Beliau menyampaikan pandangan itu di acara Reuters Momentum AI Austin pada 25 September, sambil memuji CEO Anthropic Dario Amodei dan menyifatkan Anthropic sebagai peneraju dari segi bakat. 2

Kebimbangan tentang peraturan AI

Lonsdale berkata usaha sesetengah syarikat AI terkemuka mengetengahkan risiko kewujudan boleh menjadi cubaan berbahaya untuk membentuk dasar awam. Beliau turut mengkritik apa yang disifatkannya sebagai usaha pihak yang rapat dengan Anthropic dan OpenAI untuk membiayai kumpulan luar yang menyokong peraturan AI lebih ketat. Pada pandangannya, langkah sedemikian boleh memberi segelintir pembangun besar pengaruh yang tidak seimbang terhadap peraturan industri. 2

Itu ialah tafsiran Lonsdale tentang niat dan kemungkinan kesan usaha advokasi tersebut, bukannya dapatan yang disahkan secara bebas. Beliau tidak menolak kepentingan keselamatan AI: sebaliknya, beliau berkata isu itu benar-benar wujud dan mengingatkan agar peraturan tidak didorong oleh ketakutan. 2

Mengkritik kempen, tetapi memuji Anthropic

Kenyataan Lonsdale menarik perhatian kerana beliau sendiri ialah pelabur Anthropic. Beliau memuji Amodei dan berkata Anthropic mendahului pesaing dari segi bakat, walaupun mengkritik kempen berkaitan risiko yang dikaitkannya dengan pihak rapat Anthropic dan OpenAI. 2

Perbezaan itu penting: kritikannya tertumpu pada cara kebimbangan tentang keselamatan boleh mempengaruhi dasar, bukan pada penafian bahawa risiko AI wujud. Dalam perkembangan berasingan, Amodei pernah menggesa syarikat AI memperlahankan pembangunan model dan mengemukakan langkah untuk memberi lebih banyak masa bagi menangani risikonya. 1

Ramalan tentang firma pertahanan Ukraine

Lonsdale turut meramalkan bahawa syarikat yang disokongnya berkemungkinan membeli firma pertahanan Ukraine. Namun, laporan yang tersedia tidak menamakan syarikat atau firma sasaran, tidak memberikan jangka masa, dan tidak memperincikan sebarang kerjasama atau perkongsian. 2

Perkara yang belum dapat dipastikan

Bahan sumber yang tersedia tidak memberikan maklumat mencukupi untuk menjelaskan pendirian khusus Lonsdale tentang akauntabiliti bagi senjata autonomi atau sama ada beliau membincangkan kemungkinan memegang jawatan kanan di Pentagon. Oleh itu, perkara tersebut tidak wajar disimpulkan daripada kenyataannya yang lebih umum tentang AI, peraturan atau pelaburan dalam sektor pertahanan.