Артур Менш ставить під сумнів заклики сповільнити ШІ. Чи означає це, що небезпеки перебільшені?

«ШІ — це програмне забезпечення. Його можна контролювати», — заявив керівник французької Mistral AI Артур Менш в інтерв’ю Le Monde від 24 вересня. Він вважає, що американські технологічні гіганти використовують страх перед штучним інтелектом у власних інтересах. Це важливе застереження щодо того, хто встановлюватиме правила для галузі, але не доказ того, що загрози ШІ вигадані.29

У чому аргумент Mistral

Якщо вимоги безпеки визначатимуть найбільші розробники, вони можуть запропонувати правила, виконати які їм простіше, ніж меншим конкурентам. Такі правила варто перевіряти не лише на ефективність, а й на вплив на конкуренцію. Водночас можливість використати застереження про ризики для зміцнення ринкових позицій не означає, що самих ризиків немає.29

Mistral теж не називає впровадження ШІ безпечним за будь-яких умов. Компанія попереджала, що моделі стають впливовішими, коли отримують свободу дій і доступ до інструментів, а їх безпечне застосування потребує обережності. Тому слова Менша про контроль слід розуміти як позицію щодо управління ризиками, а не як гарантію керованості кожної майбутньої системи.72

Чому попередження не варто відкидати

На початку вересня колишній дослідник Anthropic Джейкоб Коксон, який раніше працював в OpenAI, заявив, що ШІ «може вбити нас усіх до кінця десятиліття». Згодом керівник Anthropic Даріо Амодеї закликав добровільно сповільнити розробку найпотужніших моделей. За повідомленням Le Monde, його заклик від 12 вересня підтримали провідні американські конкуренти компанії.18

Це серйозні попередження, але не доведений прогноз із визначеним терміном. Так само підтримка сповільнення сама собою не показує, що воно зменшить ризик краще за цільові запобіжні заходи.18

Суперечка не зводиться й до протистояння Європи та США. Джеффрі Гінтон закликає швидше запроваджувати захисні механізми, тоді як Ендрю Нг ставить під сумнів доказовість апокаліптичних заяв і виступає проти загальних закликів поставити розвиток ШІ на паузу. Практичне запитання тут конкретніше: які ризики підтверджені та які саме заходи здатні їх зменшити?

Що означає позов проти розробників ШІ

Позивачі — користувачі платних ШІ-сервісів — стверджують у суді, що Anthropic, OpenAI, SpaceXAI і Google домовилися стримувати розвиток конкуруючих продуктів після заклику від 12 вересня. Це твердження сторони позову, а не встановлений факт незаконної угоди. Схожі публічні заяви керівників про безпеку самі собою не доводять змови.

Менш і позивачі порушують пов’язані, але різні питання. Перше — чи можуть аргументи про безпеку давати перевагу лідерам ринку. Друге — чи була між конкурентами домовленість обмежити розробку. Жодне з них не можна вирішити, оголосивши всі попередження маркетингом або кожен заклик до обережності доказом змови.

Найкращий критерій для будь-якої пропозиції — перевірювані дані про ризик і ефективність заходу, а також оцінка того, на кого ляжуть витрати його виконання. Такої самої перевірки потребують і заклики сповільнитися, і позиція Mistral на користь подальшого розвитку: комерційний інтерес компанії — привід уважніше розглянути її аргументи, а не автоматично їх відкинути.789