Закриті AI-моделі: чи дійсно вони загрожують бізнесу та чи не є застереження просто маркетингом?

Паралельна (і більш різка) критика від Алекса Карпа

CEO Palantir Алекс Карп посилює цю аргументацію, використовуючи набагато гострішу риторику. У звітах його висловлювання називають бізнес-модель провідних AI-компаній «effing insane» («абсолютно божевільною»). Він критикує зростаючі витрати на токени та обмежену цінність для підприємств, попереджаючи при цьому про ризики для власних даних та інтелектуальної власності . Ключові елементи його критики:

• Не передавайте свої дані компаніям, що розробляють LLM — занепокоєння полягає в тому, що власні дані та інтелектуальна власність можуть стати вразливими при передачі через сторонні AI-системи .
• Ціноутворення на основі токенів створює хибні стимули — Карп наголошує, що підприємства платять дедалі більше, отримуючи сумнівну цінність .
• AI-суверенітет — ширший аргумент про те, що підприємства та уряди можуть віддавати перевагу системам, які вони можуть безпосередньо контролювати .

Варто зазначити, що надані джерела не підтверджують конкретного твердження про те, що Карп попереджав про можливу націоналізацію провідних AI-лабораторій урядами.

Європейський вимір залежності

Застереження Менша та Карпа сходяться на темі стратегічної залежності. Згідно зі звітами, зростає зацікавленість Європи у внутрішніх AI-рішеннях через побоювання домінування США, і ці побоювання сприяють зростанню бізнесу французької Mistral . The New York Times також описує Mistral як європейського «чемпіона» в ШІ, який кидає виклик американським техногігантам, зазначаючи при цьому європейське занепокоєння щодо конкурентоспроможності . Надані джерела підтверджують загальне занепокоєння щодо залежності, але не конкретне твердження про те, що Менш свідчив про довгострокові контракти з комунальними підприємствами чи фіксований дворічний «критичний поріг».

Експеримент Bridgewater / Thinking Machines Lab

Нещодавній експеримент наводить певні докази на користь відкритих моделей. Bridgewater AIA Labs у співпраці з Thinking Machines Lab вирішували проблему навчання LLM визначати релевантні фінансові новини — завдання, легке для досвідченого інвестора, але складне для загальних моделей . Опис результату свідчить, що Bridgewater перевершила передові моделі, заощадивши кошти, але наданий матеріал не містить достатньо деталей для верифікації конкретних цифр точності та вартості з оригінальної відповіді .

Більш обережний висновок полягає в тому, що тонке налаштування спеціалізованих або контрольованих моделей для конкретних завдань може перевершити загальні API на спеціалізованих робочих процесах підприємств. Окремі дослідження у фінансах також показують, що відкриті моделі, навчені за спеціалізованими методиками, можуть демонструвати конкурентну, ризик-орієнтовану поведінку та наближатися до продуктивності передових моделей при менших масштабах . Інша фінансова модель, FinTral, побудована на базі Mistral-7B .

Контраргумент: адвокація відкритих систем збігається з комерційними інтересами

Це найважливіший нюанс. Mistral — це також комерційна компанія, яку публічно позиціонують як провідного європейського гравця проти OpenAI та Google . Коли Менш застерігає від закритих систем, він одночасно робить заяву про ризики для підприємств та позиціонує Mistral на ринку відкритих систем .

Ключові спостереження:

• Публічна позиція Mistral тісно пов'язана з аргументами на користь відкритості .
• The Wall Street Journal повідомляє, що побоювання щодо домінування США сприяють бізнесу Mistral, тобто геополітичні занепокоєння безпосередньо приносять компанії комерційну вигоду .
• Опис Mistral як європейського «чемпіона» означає, що аргументи на користь «суверенного ШІ» природним чином підтримують її стратегічне становище .
• Приклад Bridgewater, описаний у джерелах, стосувався AIA Labs та Thinking Machines Lab, а не був представлений як результат, специфічний для Mistral .

Тим не менш, докази того, що спеціалізовані моделі можуть добре працювати у фінансових завданнях, зміцнюють загальну тезу «відкритих моделей», навіть якщо вони прямо не підтримують Mistral. Структурний аргумент — що кастомізовані моделі можуть перевершувати загальні API в конкретних бізнес-завданнях — обережно підтверджується звітами Bridgewater та дослідженнями фінансових моделей, хоча точний масштаб переваги не верифікований наданими джерелами .

Підсумок

Аргументи проти закритих AI-моделей для підприємств мають реальне підґрунтя, особливо щодо ризику для власних даних, витрат на токени та привабливості кастомізованих моделей для спеціалізованих завдань . Занепокоєння щодо європейської залежності також підтверджується звітами про побоювання домінування США . Однак контраргумент про те, що Менш і Карп просувають позиції, які збігаються з інтересами їхніх компаній, є добре обґрунтованим, і його слід враховувати . Дві позиції не є взаємовиключними: застереження можуть бути одночасно комерційно вмотивованими та змістовно правильними.