Czy zamknięte systemy AI to śmiertelne zagrożenie dla przedsiębiorstw? Mówią szefowie Mistral i Palantir

Oto oparta na źródłach analiza argumentów, dowodów i kontrargumentów dotyczących ryzyka stosowania zamkniętych modeli AI w przedsiębiorstwach.

Główne ostrzeżenia Arthura Menscha dotyczące zamkniętych systemów

Arthur Mensch, dyrektor generalny Mistral AI, argumentuje, że prawdziwa walka w dziedzinie sztucznej inteligencji toczy się pomiędzy systemami otwartymi a zamkniętymi, a nie geografią . Doniesienia prasowe przedstawiają Mistral jako europejskiego rywala dla większych amerykańskich firm technologicznych, podczas gdy europejscy liderzy obawiają się, że opóźnienie w AI zaszkodzi wzrostowi i konkurencyjności regionu . Dostępne źródła potwierdzają ogólną tezę Mensch o otwartości i europejskiej pozycji strategicznej, ale nie zawierają bardziej szczegółowego twierdzenia o „mniej więcej dwuletnim” terminie, po którym uzależnienie od amerykańskich dostawców stanie się nieodwracalne.

Suwerenność danych i ryzyko wycieku danych firmowych

Głównym problemem jest to, że przedsiębiorstwa korzystające z zamkniętych API mogą wystawiać swoje zastrzeżone dane na działanie dostawcy modelu. Krytyka Karpa wprost ostrzega, że firmy mogą ryzykować utratę własnych danych i własności intelektualnej, jednocześnie płacąc rosnące koszty za tokeny w laboratoriach AI . Ta obawa wpisuje się w szerszą debatę o otwartości vs. zamknięciu, promowaną przez Mensch, choć dostarczone źródła nie potwierdzają jednoznacznie, że dane firm są przez dostawców zamkniętych modeli wykorzystywane jako materiał treningowy .

Równoległa (i bardziej dosadna) krytyka Alexa Karpa

Alex Karp, dyrektor generalny Palantira, przedstawia podobne argumenty, ale w znacznie ostrzejszym tonie. Doniesienia o jego wypowiedziach mówią, że nazwał biznesmodel czołowych laboratoriów AI „kompletnie pojebanym”, krytykując rosnące koszty tokenów i ograniczoną wartość dla przedsiębiorstw, przy jednoczesnym ostrzeganiu przed ryzykiem dla własności intelektualnej i danych . Kluczowe elementy jego krytyki to:

• Nie oddawaj swoich danych firmom LLM – chodzi o ryzyko ujawnienia poufnych danych i własności intelektualnej podczas korzystania z systemów AI stron trzecich .
• Ceny oparte na tokenach tworzą nieprawidłowe zachęty – Karp krytykuje to, że firmy płacą rosnące koszty za ograniczoną wartość .
• Suwerenność AI – ogólny argument, że przedsiębiorstwa i rządy powinny preferować systemy, nad którymi mają bezpośrednią kontrolę, zamiast polegać na zewnętrznych laboratoriach .

Dostarczone źródła nie potwierdzają konkretnego twierdzenia, że Karp ostrzegał przed nacjonalizacją czołowych laboratoriów AI przez rządy.

Wymiar europejskiego uzależnienia

Ostrzeżenia Mensch i Karpa zbiegają się w temacie strategicznego uzależnienia. Reportaże opisują rosnące zainteresowanie Europy krajowymi rozwiązaniami AI w obawie przed dominacją USA, co napędza biznes francuskiego Mistrala . „The New York Times” opisuje Mistral jako europejskiego „czempiona” AI, który rzuca wyzwanie amerykańskim gigantom, zauważając jednocześnie obawy Europy o konkurencyjność, jeśli region nie nadąży za tempem rozwoju . Dostarczone źródła potwierdzają ogólne obawy o uzależnienie, ale nie zawierają bardziej szczegółowych twierdzeń o tym, by Mensch zeznawał o długoterminowych kontraktach chmurowych z przedsiębiorstwami użyteczności publicznej czy o stałym, dwuletnim „progu krytycznym”.

Eksperyment Bridgewater / Thinking Machines Lab

Ostatni eksperyment dostarcza pewnych dowodów na poparcie tezy o modelach otwartych. Bridgewater AIA Labs, we współpracy z Thinking Machines Lab, rozwiązywało problem nauczenia LLM identyfikowania istotnych wiadomości finansowych – zadania prostego dla doświadczonych analityków, ale trudnego dla modeli ogólnego przeznaczenia . Źródło wskazuje, że Bridgewater osiągnął lepsze wyniki niż modele fronterowe, jednocześnie oszczędzając pieniądze, ale nie zawiera wystarczających szczegółów, by zweryfikować konkretne dane liczbowe z oryginalnej odpowiedzi .

Ostrożniejszy wniosek jest taki, że dostrajanie otwartych lub kontrolowanych modeli do konkretnych zadań może przynosić lepsze wyniki niż ogólne API na wyspecjalizowanych przepływach pracy w przedsiębiorstwach. Osobne badania w finansach pokazują również, że otwarte modele trenowane z wykorzystaniem specjalistycznych frameworków mogą wykazywać konkurencyjne, bezpieczne zachowanie i zbliżać się do wydajności modeli fronterowych przy mniejszej skali . Inna praca z dziedziny modelowania finansowego przedstawia FinTral, rodzinę modeli analizy finansowej zbudowanych na bazie Mistral-7B i dostosowanych do multimodalnych zadań finansowych .

Kontrargument: Adwokatura otwartego oprogramowania przez Mensch leży w interesie handlowym Mistral

To najważniejsze zastrzeżenie. Mistral jest firmą komercyjną, a doniesienia prasowe przedstawiają ją jako wiodącego europejskiego rywala OpenAI i Google . Kiedy Mensch ostrzega przed zamkniętymi dostawcami, jednocześnie przedstawia argumenty dotyczące ryzyka dla przedsiębiorstw i suwerenności AI oraz pozycjonuje Mistral na rynku otwartych i lepiej kontrolowanych systemów .

Kluczowe obserwacje:

• Publiczne stanowisko Mistral jest ściśle związane z argumentami za otwartym oprogramowaniem, a Bloomberg donosi, że Mensch twierdzi, iż dominacja w AI zależy od otwartości, a nie geografii .
• „The Wall Street Journal” podaje, że obawy przed dominacją USA w AI napędzają biznes francuskiego Mistrala, co oznacza, że geopolityczne obawy mogą bezpośrednio przynosić korzyści handlowe firmie .
• Reportaże opisują Mistral jako europejskiego „czempiona” AI i rywala OpenAI i Google, więc argumenty o suwerenności AI naturalnie wspierają strategiczną pozycję Mistral .
• Przykład Bridgewater, opisany w źródle, dotyczył Bridgewater AIA Labs i Thinking Machines Lab, a nie został przedstawiony jako wynik specyficzny dla Mistral .

Niemniej jednak dowody na to, że nie-czołowe lub bardziej wyspecjalizowane modele mogą dobrze radzić sobie w zadaniach finansowych, wzmacniają ogólną tezę o otwartych modelach, nawet jeśli nie popierają bezpośrednio Mistral. Argument strukturalny – że modele dostosowane do potrzeb mogą przewyższać ogólne API w konkretnych zadaniach biznesowych – jest ostrożniej poparty raportami Bridgewater i powiązanymi badaniami, ale dokładna skala przewagi nie jest zweryfikowana przez dostarczone źródła .

Podsumowanie dowodów

Argument	Wsparcie	Jakość źródła
Zamknięte AI stwarza ryzyko dla danych i IP firm	Krytyka Karpa wobec laboratoriów AI	Umiarkowane – udokumentowane oświadczenie CEO, ale niezweryfikowane niezależnie w dostarczonych źródłach
Uzależnienie Europy od amerykańskich dostawców AI jest realnym problemem	Reportaże o obawach Europy i pozycjonowaniu Mistral	Silne dla ogólnych obaw, słabsze dla konkretnych harmonogramów
Europa ma ~2 lata, by uniknąć trwałego uzależnienia	Brak potwierdzenia w dostarczonych źródłach	Słabe w tym zestawie źródeł
Modele fronterowe mogą być gorsze od wyspecjalizowanych w konkretnych zadaniach	Reportaż Bridgewater/Thinking Machines i badania modeli finansowych	Umiarkowane – poparte ogólnie, ale dokładne wskaźniki nie są tu zweryfikowane
Przewaga kosztowa wyspecjalizowanych/otwartych modeli	Reportaż Bridgewater mówi o oszczędnościach	Umiarkowane – kierunkowo poparte, ale dokładny stosunek kosztów nie jest tu zweryfikowany
Adwokatura Mensch leży w interesie handlowym Mistral	Reportaże o wzroście biznesu Mistral dzięki obawom przed dominacją USA i pozycjonowaniu jako europejskiego czempiona	Silne

Wniosek końcowy

Argumenty przeciwko zamkniętemu AI dla przedsiębiorstw mają pewne realne poparcie, szczególnie w kwestii ryzyka związanego z danymi własnymi, kosztami tokenów i atrakcyjnością dostosowanych modeli dla wyspecjalizowanych przepływów pracy w finansach . Obawy o uzależnienie Europy są również ugruntowane w doniesieniach o obawach przed dominacją USA w AI i roli Mistral jako regionalnego rywala . Jednak kontrargument, że Mensch i Karp przedstawiają stanowiska zgodne z interesami własnych firm, jest dobrze poparty i należy go rozważyć obok merytorycznej treści ich ostrzeżeń . Te dwa stanowiska nie wykluczają się wzajemnie: ostrzeżenia mogą być zarówno komercyjnie interesowne, jak i kierunkowo poprawne.