Model AI Sumber Tertutup: Ancaman Senyap kepada Data Perusahaan & Kedaulatan Digital

Kritikan Alex Karp (Yang Lebih Tajam & Berwarna-warni)

Ketua Pegawai Eksekutif Palantir, Alex Karp, telah memperkuatkan hujah yang sama dengan bahasa yang lebih lantang. Laporan mengenai kenyataan Karp mengatakan beliau menyifatkan model perniagaan AI 'frontier' sebagai “gila,” mengkritik kos token yang semakin meningkat dan nilai perusahaan yang terhad sambil memberi amaran tentang risiko data proprietari dan harta intelek . Elemen utama kritikan itu termasuk:

• Jangan serahkan data anda kepada syarikat LLM secara sambil lewa — kebimbangan adalah data proprietari dan harta intelek boleh terdedah apabila dihantar melalui sistem AI pihak ketiga .
• Harga berasaskan token boleh mewujudkan insentif yang tidak sejajar — kritikan Karp memberi tumpuan kepada perusahaan membayar kos token yang meningkat untuk nilai yang terhad .
• Kedaulatan AI — hujah yang lebih luas adalah bahawa perusahaan dan kerajaan mungkin lebih suka sistem yang boleh mereka kawal secara lebih langsung daripada bergantung sepenuhnya kepada makmal AI 'frontier' pihak ketiga .

Sumber yang disediakan tidak menyokong dakwaan khusus bahawa Karp memberi amaran bahawa kerajaan mungkin akan memiliknegarakan makmal AI 'frontier'.

Dimensi Pergantungan Eropah

Kedua-dua amaran Mensch dan Karp bertumpu pada tema pergantungan strategik. Laporan menggambarkan peningkatan minat Eropah terhadap penyelesaian AI yang dibangunkan dalam negara di tengah-tengah kebimbangan terhadap dominasi AI AS, dan mengatakan kebimbangan tersebut meningkatkan perniagaan untuk Mistral dari Perancis . The New York Times juga menggambarkan Mistral sebagai “juara” AI Eropah yang berusaha mencabar gergasi teknologi AS, sambil mencatatkan kebimbangan Eropah tentang daya saing jika rantau itu gagal mengikuti perkembangan . Sumber yang disediakan menyokong kebimbangan pergantungan umum, tetapi bukan dakwaan khusus bahawa Mensch memberi keterangan tentang kontrak awan jangka panjang dengan syarikat utiliti atau had masa dua tahun yang tetap.

Eksperimen Bridgewater / Thinking Machines Lab

Eksperimen baru-baru ini memberikan beberapa bukti yang menyokong kes model terbuka. Makmal AIA Bridgewater, bekerjasama dengan Thinking Machines Lab, dilaporkan berjaya menangani masalah mengajar LLM untuk mengetengahkan berita kewangan yang relevan, satu tugas yang mudah untuk profesional pelaburan yang berpengalaman tetapi sukar untuk model tujuan umum . Sumber yang ada mencirikan hasilnya sebagai Bridgewater mengatasi model 'frontier' sambil menjimatkan wang, tetapi ia tidak memberikan butiran yang mencukupi dalam bahan yang dibekalkan untuk mengesahkan angka ketepatan dan kos khusus jawapan asal .

Kesimpulan yang lebih berhati-hati adalah bahawa penalaan khusus tugas bagi model terbuka atau terkawal mungkin mengatasi API 'frontier' umum pada aliran kerja perusahaan yang khusus. Penyelidikan berasingan dalam kewangan juga melaporkan bahawa model terbuka yang dilatih dengan rangka kerja khusus boleh menunjukkan tingkah laku sedar risiko yang kompetitif dan menghampiri prestasi model 'frontier' pada skala yang lebih kecil . Satu lagi kertas model kewangan memperkenalkan FinTral, sebuah keluarga model analisis kewangan yang dibina di atas Mistral-7B dan disesuaikan untuk tugas kewangan multimodal .

Hujah Balas: Sokongan Mensch untuk Sumber Terbuka Selari dengan Kepentingan Komersial Mistral

Ini adalah kaveat yang paling penting. Mistral adalah sebuah syarikat komersial, dan laporan awam menggambarkannya sebagai pesaing utama Eropah menentang OpenAI dan Google . Apabila Mensch memberi amaran terhadap penyedia sumber tertutup, beliau pada masa yang sama membuat kes tentang risiko AI perusahaan dan berdaulat dan meletakkan Mistral dalam pasaran untuk sistem AI terbuka atau lebih terkawal .

Pemerhatian utama:

• Kedudukan awam Mistral berkait rapat dengan hujah sumber terbuka atau sistem terbuka, dan Bloomberg melaporkan Mensch berkata dominasi AI bergantung pada keterbukaan dan bukannya geografi .
• The Wall Street Journal melaporkan bahawa kebimbangan terhadap dominasi AI AS meningkatkan perniagaan untuk Mistral Perancis, bermakna kebimbangan geopolitik boleh memberi manfaat langsung kepada prospek komersial syarikat .
• Laporan menggambarkan Mistral sebagai “juara” AI Eropah dan pencabar kepada OpenAI dan Google, jadi hujah AI berdaulat secara semula jadi menyokong kedudukan strategik Mistral .
• Contoh Bridgewater, seperti yang diterangkan dalam sumber yang dibekalkan, melibatkan Makmal AIA Bridgewater dan Thinking Machines Lab dan bukannya dipersembahkan sebagai hasil khusus Mistral .

Walau bagaimanapun, bukti bahawa model bukan 'frontier' atau lebih khusus boleh melaksanakan dengan baik dalam tugas kewangan mengukuhkan tesis model terbuka umum walaupun ia tidak menyokong Mistral secara langsung. Hujah struktur — bahawa model tersuai mungkin mengatasi API 'frontier' umum pada tugas perusahaan tertentu — disokong dengan lebih berhati-hati oleh laporan Bridgewater dan penyelidikan model kewangan yang berkaitan, tetapi magnitud tepat kelebihan itu tidak disahkan oleh sumber yang dibekalkan .

Ringkasan Bukti

Kesimpulan

Hujah menentang AI sumber tertutup untuk perusahaan mempunyai beberapa sokongan dunia sebenar, terutamanya mengenai risiko data proprietari, kebimbangan kos token, dan daya tarikan model tersuai untuk aliran kerja kewangan khusus . Kebimbangan pergantungan Eropah juga berasaskan laporan tentang kebimbangan Eropah terhadap dominasi AI AS dan peranan Mistral sebagai pencabar serantau . Walau bagaimanapun, hujah balas bahawa Mensch dan Karp memajukan kedudukan yang selari dengan kepentingan syarikat mereka sendiri adalah disokong dengan baik dan harus ditimbang berdasarkan merit substantif amaran mereka . Kedua-dua kedudukan itu tidak saling eksklusif: amaran itu boleh menjadi mementingkan diri sendiri secara komersial dan betul dari segi arah.