Apa Maksud Sindiran Yakovenko tentang Keuntungan pada Modal Pasaran AS$1 Trilion dalam Debat AI?

Komen pendek Anatoly Yakovenko—“Profitability at $1 trillion mcap”—boleh difahami sebagai sindiran skeptikal terhadap insentif di sebalik seruan memperlahankan AI barisan hadapan. Pengasas bersama Solana itu seolah-olah membayangkan bahawa langkah keselamatan yang memperlahankan pembangunan juga mungkin selari dengan kepentingan komersial syarikat AI yang sangat bernilai, yang perlu menukar kos pembangunan model yang tinggi kepada keuntungan mampan.

Namun, itu ialah tafsiran terhadap sindirannya, bukan bukti bahawa Anthropic, OpenAI atau mana-mana syarikat bertindak atas motif tersebut. Yakovenko tidak menamakan mana-mana syarikat, tidak mengemukakan data kewangan, dan tidak mengaitkan Solana atau SOL dengan pertikaian ini. 3541

Apa yang dikritik oleh Yakovenko

Istilah “mcap” ialah singkatan bagi market capitalization, atau permodalan pasaran—nilai pasaran sesebuah syarikat berdasarkan harga sahamnya. Dalam konteks ini, komen Yakovenko membangkitkan kebimbangan biasa pengkritik: jika satu peraturan memperlahankan semua pemain, makmal AI besar yang sudah mempunyai modal, cip pengkomputeran dan pembiayaan kukuh mungkin lebih mudah menanggung kesannya berbanding pencabar yang lebih kecil.

Kritikannya juga menyindir kemungkinan sekumpulan kecil pemimpin AI menentukan kadar kemajuan seluruh industri. Di sebalik itu ada kebimbangan bahawa kerangka keselamatan boleh dilihat sebagai penyelarasan yang memihak kepada pemain sedia ada—atau regulatory capture—jika syarikat yang mendapat manfaat daripada had tersebut turut membantu menetapkan had itu.

Tetapi, rekod yang tersedia tidak membuktikan bahawa keuntungan, pengurusan penilaian syarikat, kos infrastruktur atau rancangan IPO mendorong seruan Anthropic supaya pembangunan diperlahankan. Ia hanya menyokong kesimpulan bahawa Yakovenko mempertikaikan motif di sebalik cadangan itu. 3543

Apa sebenarnya maksud “pace the frontier”

Dalam eseinya pada 12 September, We Must Pace the Frontier, Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menyeru supaya kadar peningkatan keupayaan AI diperlahankan agar kerja keselamatan, penjajaran (alignment) dan penilaian luar dapat mengejar kemajuan teknologi. Beliau menegaskan bahawa pendekatan itu bukan bermaksud menghentikan latihan model atau kemajuan teknikal. 7

Pelannya berkembang melalui tiga peringkat:

1. Penilai pihak ketiga tertanam. Makmal AI barisan hadapan memberi penilai bebas akses berterusan seperti pekerja dalaman untuk meneliti langkah perlindungan, menilai penjajaran ketika latihan, dan melaporkan insiden. Anthropic berkata ia akan melaksanakan langkah ini secara unilateral. 716
2. Penyelarasan dalam kalangan negara demokrasi. Makmal AI dan kerajaan di negara demokrasi akan berusaha membentuk piawaian keselamatan bersama serta had kadar pembangunan. 7
3. Perjanjian antarabangsa yang terhad. Kerajaan akan cuba mencapai pengaturan lebih sempit dengan negara lain, termasuk berpotensi China dan kerajaan autoritarian, apabila pengesahan serta kekangan bersama boleh dilaksanakan. 78

Bezanya penting: langkah pertama ialah komitmen khusus di peringkat syarikat. Dua langkah berikutnya memerlukan penyelarasan antara syarikat dan kerajaan, jadi ia masih merupakan cadangan dan bukannya dasar yang telah berkuat kuasa. 9

Mengapa timbul tuduhan seperti kartel

Kontroversinya bukan semata-mata tentang keperluan menguji model dengan lebih teliti. Persoalan utamanya ialah siapa yang menentukan kadar kemajuan, apakah ambang yang memerlukan penangguhan, dan sama ada piawaian yang diselaraskan akan mengehadkan pesaing.

David Sacks berhujah bahawa Anthropic dan OpenAI tidak memerlukan kebenaran untuk memperlahankan pembangunan sendiri jika mereka benar-benar percaya sistem mereka membawa risiko serius. Bantahannya tertumpu pada usaha menjadikan kebimbangan keselamatan sebagai asas kepada kerangka kawal selia atau antitrust yang lebih luas dan boleh mengikat pesaing. Sacks menyifatkan risikonya sebagai “duopoli” pemain sedia ada yang menggunakan peraturan untuk mempertahankan kedudukan mereka. 5052

Inilah versi paling kuat kebimbangan yang tersirat dalam komen Yakovenko: komitmen keselamatan secara sukarela ialah satu perkara, tetapi sekatan yang diselaraskan merentas industri boleh mengubah struktur persaingan, bukan sekadar amalan keselamatan.

Apa yang disokong Altman dan Musk

Sam Altman berkata OpenAI bersetuju bahawa AI barisan hadapan perlu diperlahankan pada kadar yang seimbang. Beliau menyifatkan penilai bebas dengan akses seperti pekerja sebagai “a great idea” dan berkata OpenAI akan melakukan perkara yang sama. Elon Musk pula memberi respons lebih ringkas: “Dario is right.” 1821

Kedua-dua respons itu tidak, dengan sendirinya, menjawab persoalan lebih sukar tentang penyelarasan antarabangsa, had kadar yang boleh dikuatkuasakan atau kerangka bersama seluruh industri. Sokongan awam mereka paling jelas merujuk kepada konsep penilai tertanam. 1820

Butiran pelaksanaan yang masih belum jelas

Pengawasan tertanam hanya bermakna jika peraturan operasinya jelas. Antara persoalan yang masih belum terjawab dalam bahan yang tersedia ialah:

• Kebebasan: Siapa memilih dan membiayai penilai, serta apa yang menjadikan mereka benar-benar bebas daripada makmal yang diperiksa?
• Akses: Sistem, proses latihan, laporan insiden, pemberat model, data dan alat dalaman manakah yang boleh diperiksa?
• Hak penerbitan: Bolehkah penilai mendedahkan dapatan buruk tanpa kelulusan syarikat?
• Ambang keputusan: Keputusan ujian atau tahap risiko apakah yang memerlukan latihan, pelancaran atau pelepasan model ditangguhkan?
• Penguatkuasaan: Siapa memastikan syarikat mematuhi dapatan penilai?
• Persaingan dan keselamatan: Bagaimana syarikat boleh menyelaras piawaian tanpa bertukar maklumat komersial sensitif atau menimbulkan masalah antitrust?
• Pengesahan antarabangsa: Apakah yang boleh menjadikan perjanjian dengan China atau kerajaan lain boleh dipercayai dan disahkan?

Kekosongan inilah yang menyebabkan pengkritik melihat risiko peraturan kabur yang dikawal pemain sedia ada, manakala penyokong melihatnya sebagai usaha penting untuk menjadikan tuntutan keselamatan tertakluk kepada semakan luar yang berterusan. 1053

Politik: memperlahankan kadar atau menghentikan terus?

Pertikaian awam ini turut memperlihatkan perbezaan pandangan tentang sejauh mana tindakan keselamatan perlu pergi. Senator Bernie Sanders menganggap keselarasan pandangan antara Amodei, Altman dan Musk sebagai alasan untuk campur tangan lebih tegas, termasuk jeda AI dan larangan terhadap kecerdasan super (superintelligence). 48

Cadangan Amodei lebih sempit daripada larangan menyeluruh: beliau mahu kadar pembangunan yang seimbang supaya ada masa untuk penjajaran dan pengesahan keselamatan. 7 Sacks pula berhujah bahawa syarikat yang bimbang tentang risiko sepatutnya memperlahankan diri sendiri, bukannya mencari kerangka terselaras yang turut terpakai kepada pihak lain. 52

Pertukaran dasarnya mudah disebut tetapi sukar diselesaikan: memperlahankan makmal AI terkemuka AS boleh mencetuskan kebimbangan tentang daya saing, khususnya berbanding China; sebaliknya, perlumbaan tanpa kawalan boleh menyebabkan penilaian keselamatan dan pengawasan ketinggalan daripada lonjakan keupayaan AI. Kerangka Amodei cuba menangani kedua-duanya melalui pengawasan berperingkat dan penyelarasan antarabangsa, tetapi bahagian paling pentingnya masih belum mempunyai mekanisme penguatkuasaan yang dipersetujui. 74

Kesimpulan

Frasa Yakovenko bukan penemuan kewangan; ia ialah provokasi tentang insentif. Ia membingkaikan usaha memperlahankan AI sebagai sesuatu yang mungkin serasi dengan kepentingan komersial makmal besar yang mahu mempertahankan penilaian tinggi dan akhirnya membuktikan keuntungan.

Rekod awam yang tersedia tidak menyokong tuduhan itu, dan tidak membuktikan bahawa hasrat IPO menjadi punca cadangan tersebut. Apa yang lebih konkrit ialah Anthropic berkomitmen untuk membuka akses kepada penilai pihak ketiga tertanam, OpenAI menyokong pendekatan itu secara terbuka, dan rancangan lebih luas untuk had keselamatan yang diselaraskan masih dipertikaikan. Persoalan terasnya bukan sama ada AI barisan hadapan patut dinilai dengan lebih ketat, tetapi sama ada syarikat yang paling hampir dengan barisan hadapan itu patut turut membantu menetapkan peraturan yang menentukan siapa boleh bersaing di sana. 71850