Peringatan CEO Mistral dan Palantir: Bahaya Model AI Tertutup bagi Perusahaan dan Risiko Ketergantungan Teknologi

Kritik Alex Karp yang Lebih Keras

CEO Palantir, Alex Karp, telah memperkuat argumen terkait dengan bahasa yang jauh lebih blak-blakan. Laporan tentang pernyataan Karp menyebutnya menyebut model bisnis AI terdepan sebagai "effing insane," mengkritik biaya token yang terus meningkat dan nilai perusahaan yang terbatas sambil memperingatkan tentang risiko data kepemilikan dan kekayaan intelektual . Elemen kunci dari kritik ini meliputi:

• Jangan sembarangan menyerahkan data Anda ke perusahaan LLM — kekhawatirannya adalah data kepemilikan dan kekayaan intelektual dapat terekspos saat dirutekan melalui sistem AI pihak ketiga .
• Harga berbasis token dapat menciptakan insentif yang salah — kritik Karp berfokus pada perusahaan yang membayar biaya token yang terus meningkat untuk nilai yang terbatas .
• Kedaulatan AI — argumen yang lebih luas adalah bahwa perusahaan dan pemerintah mungkin lebih memilih sistem yang dapat mereka kendalikan secara lebih langsung daripada hanya mengandalkan laboratorium AI pihak ketiga .

Sumber yang disediakan tidak mendukung klaim spesifik bahwa Karp memperingatkan pemerintah mungkin menasionalisasi laboratorium AI terdepan.

Dimensi Ketergantungan Eropa

Peringatan Mensch dan Karp bertemu pada tema ketergantungan strategis. Pelaporan menggambarkan meningkatnya minat Eropa terhadap solusi AI yang dikembangkan di dalam negeri di tengah kekhawatiran atas dominasi AI AS, dan mengatakan bahwa kekhawatiran tersebut mendongkrak bisnis Mistral di Prancis . The New York Times juga menggambarkan Mistral sebagai "juara" AI Eropa yang berusaha menantang raksasa teknologi AS, sambil mencatat kekhawatiran Eropa tentang daya saing jika kawasan itu gagal mengimbangi . Sumber yang disediakan mendukung kekhawatiran ketergantungan secara umum, tetapi tidak untuk klaim yang lebih spesifik bahwa Mensch bersaksi tentang kontrak cloud jangka panjang dengan perusahaan utilitas atau ambang batas "dua tahun" yang tetap.

Eksperimen Bridgewater / Thinking Machines Lab

Sebuah eksperimen baru-baru ini memberikan beberapa bukti yang mendukung kasus model terbuka. AIA Labs milik Bridgewater, yang bekerja sama dengan Thinking Machines Lab, dilaporkan mengatasi masalah mengajar LLM untuk menemukan berita keuangan yang relevan, sebuah tugas yang mudah bagi profesional investasi berpengalaman tetapi sulit bagi model tujuan umum . Sumber yang tersedia menyebutkan hasilnya adalah Bridgewater mengungguli model-model terdepan sambil menghemat biaya, tetapi tidak memberikan detail yang cukup dalam materi yang disediakan untuk memverifikasi angka akurasi dan biaya spesifik dari jawaban asli .

Kesimpulan yang lebih hati-hati adalah bahwa penyesuaian tugas spesifik dari model terbuka atau yang dapat dikontrol dapat mengungguli API tujuan umum pada alur kerja perusahaan yang khusus. Penelitian terpisah di bidang keuangan juga melaporkan bahwa model terbuka yang dilatih dengan kerangka kerja khusus dapat menunjukkan perilaku kompetitif dan sadar risiko dan mendekati kinerja model terdepan pada skala yang lebih kecil . Makalah pemodelan keuangan lainnya memperkenalkan FinTral, sebuah keluarga model analisis keuangan yang dibangun di atas Mistral-7B dan disesuaikan untuk tugas keuangan multimodal .

Argumen Tandingan: Advokasi Open-Source Mensch Sejalan dengan Kepentingan Komersial Mistral

Ini adalah peringatan paling penting. Mistral adalah perusahaan komersial, dan pelaporan publik menggambarkannya sebagai penantang utama Eropa melawan OpenAI dan Google . Ketika Mensch memperingatkan tentang penyedia tertutup, ia secara bersamaan membuat argumen tentang risiko perusahaan dan AI berdaulat dan memposisikan Mistral di pasar untuk sistem AI yang terbuka atau lebih terkontrol .

Pengamatan kunci:

• Posisi publik Mistral terkait erat dengan argumen sumber terbuka atau sistem terbuka, dan Bloomberg melaporkan Mensch mengatakan dominasi AI bergantung pada keterbukaan bukan geografi .
• The Wall Street Journal melaporkan bahwa kekhawatiran atas dominasi AI AS meningkatkan bisnis Mistral di Prancis, yang berarti kekhawatiran geopolitik dapat secara langsung menguntungkan prospek komersial perusahaan .
• Pelaporan menggambarkan Mistral sebagai "juara" AI Eropa dan penantang OpenAI dan Google, sehingga argumen AI berdaulat secara alami mendukung posisi strategis Mistral .
• Contoh Bridgewater, seperti yang dijelaskan dalam sumber yang disediakan, melibatkan AIA Labs Bridgewater dan Thinking Machines Lab daripada disajikan sebagai hasil spesifik Mistral .

Namun, bukti bahwa model non-terdepan atau yang lebih khusus dapat bekerja dengan baik dalam tugas keuangan memperkuat tesis model terbuka secara umum meskipun tidak secara langsung mendukung Mistral. Argumen struktural — bahwa model khusus dapat mengungguli API tujuan umum pada tugas perusahaan tertentu — didukung dengan lebih hati-hati oleh pelaporan Bridgewater dan penelitian model keuangan terkait, tetapi besarnya keunggulan yang tepat tidak diverifikasi oleh sumber yang disediakan .

Ringkasan Bukti

Kesimpulan

Argumen menentang AI sumber tertutup untuk perusahaan memiliki beberapa dukungan di dunia nyata, terutama seputar risiko data kepemilikan, kekhawatiran biaya token, dan daya tarik model khusus untuk alur kerja keuangan khusus . Kekhawatiran ketergantungan Eropa juga didasarkan pada pelaporan tentang ketakutan Eropa akan dominasi AI AS dan peran Mistral sebagai penantang regional . Namun, argumen tandingan bahwa Mensch dan Karp memajukan posisi yang sejalan dengan kepentingan perusahaan mereka sendiri didukung dengan baik dan harus dipertimbangkan dengan manfaat substantif dari peringatan mereka . Kedua posisi itu tidak saling eksklusif: peringatan itu bisa bersifat komersial dan sekaligus benar secara arah.