Безопасность ИИ или защита рынка: в чём суть спора Артюра Менша

В интервью Le Monde от 24 сентября глава французской Mistral AI Артюр Менш обвинил крупнейшие американские ИИ-компании в использовании страхов перед технологией. Его ответ на апокалиптические прогнозы звучит просто: «ИИ — это программное обеспечение. Его можно контролировать». Но здесь важно не подменить один безусловный вывод другим: предупреждение может касаться реальной опасности и одновременно быть выгодным компании, которая его высказывает.29

Кто определяет правила безопасности

Менш ставит вопрос не только о возможностях ИИ, но и о том, кто задаёт темп его развития. Если требования безопасности разрабатываются с оглядкой на ресурсы крупнейших компаний, небольшим конкурентам может оказаться сложнее им соответствовать. Это повод проверять влияние правил на рынок, а не доказательство того, что риски выдуманы.29

При этом сама Mistral не называет внедрение ИИ безобидным. Компания предупреждала, что модели становятся влиятельными участниками процессов, когда получают свободу действий и доступ к инструментам; их безопасное применение требует осторожности. Поэтому слова Менша о контроле над ИИ разумнее понимать как позицию о возможности управлять рисками, а не как гарантию безопасности любой будущей системы.72

Почему тревожные прогнозы тоже требуют проверки

В начале сентября бывший исследователь Anthropic Джейкоб Коксон, ранее работавший в OpenAI, предупредил, что ИИ «может убить нас всех к концу десятилетия». Затем глава Anthropic Дарио Амодеи призвал добровольно замедлить разработку наиболее передовых моделей. По сообщению Le Monde, его призыв от 12 сентября поддержали ведущие американские конкуренты.18

Это серьёзные заявления, но не установленные прогнозы. Слова Коксона описывают возможность, а не доказанный срок наступления катастрофы. Поддержка замедления сама по себе также не показывает, что оно снизит риск эффективнее конкретных мер защиты.18

Спор не сводится к противостоянию Европы и США. Джеффри Хинтон призывает быстрее вводить защитные меры, тогда как Эндрю Ын оспаривает доказательность наиболее мрачных прогнозов и выступает против всеобщей паузы. Практический вопрос в том, какие опасности подтверждены и какие меры способны на них ответить.

Что означает антимонопольный иск

Подписчики ИИ-сервисов подали иск, утверждая, что Anthropic, OpenAI, SpaceXAI и Google договорились сдерживать развитие конкурирующих продуктов после призыва от 12 сентября. Это обвинение истцов, а не установленный факт незаконного соглашения. Сходство публичных заявлений руководителей о безопасности само по себе ещё не доказывает сговор.

Критика Менша и иск касаются связанных, но разных вопросов. Первый — могут ли разговоры о безопасности давать преимущество лидерам рынка. Второй — была ли между конкурентами договорённость замедлить разработку. Ни один из них нельзя решить, объявив все предупреждения рекламным ходом или всякий призыв к осторожности доказательством сговора.

Разумный критерий для любой предложенной меры — проверяемые свидетельства о риске и оценка того, на кого лягут издержки. Этот критерий одинаково применим и к призывам крупных компаний замедлиться, и к аргументам Mistral в пользу продолжения разработки: коммерческий интерес требует тщательной проверки доводов, но не опровергает их автоматически.789