Лескюр: замедление ИИ закрепит лидерство американских компаний

Ролан Лескюр, министр финансов Франции, представил спор о темпах развития искусственного интеллекта не только как вопрос безопасности, но и как вопрос технологической силы. 16 сентября он заявил, что призывы притормозить развитие ИИ исходят от компаний, которые уже находятся «впереди класса»: если замедлить остальных, лидерам будет проще сохранить первое место. 2

Почему Европа, по мнению Лескюра, не должна отставать

Лескюр не отрицал риски ИИ. Его аргумент состоял в другом: Франции и Европе необходимо быстрее осваивать технологию и развивать собственные компетенции, чтобы стать игроками, которые способны этими рисками управлять. Зависимость от зарубежных поставщиков передовых моделей, в такой логике, означает меньше практического влияния на применение ИИ и правила его регулирования. 2

Эта позиция согласуется с его более ранним предупреждением: европейский технологический суверенитет в ИИ не должен опираться на одну компанию. Лескюр призывал строить широкую экосистему, а не связывать все европейские амбиции с единственным национальным чемпионом. 17

В чём расхождение с Дарио Амодеи

Генеральный директор Anthropic Дарио Амодеи предложил замедлить темпы наращивания возможностей передовых ИИ-моделей. Его цель — выиграть время для работы над безопасностью и государственным управлением по мере того, как модели становятся мощнее. В частности, он предлагал предоставить независимым оценщикам постоянный доступ к системам компаний для проверки соблюдения обязательств по безопасности и анализа инцидентов. 15

Reuters сообщал, что глава OpenAI Сэм Альтман был среди руководителей индустрии, добивавшихся скоординированного замедления. По текущему рецепту он, таким образом, ближе к позиции Амодеи, чем к подходу Лескюра, ориентированному на ускорение. 4

Спор, следовательно, не сводится к простой формуле «скорость против безопасности». Сторонники Амодеи считают, что рост возможностей моделей надо сдерживать, пока защитные механизмы не догнали технологию. Лескюр же утверждает, что Европе нужно быстро создавать и внедрять ИИ, иначе у неё не будет реальных возможностей влиять на последствия его использования. 12

Что подтверждают источники — и чего они не подтверждают

Предоставленные материалы подтверждают, что Амодеи предупреждал о риске потери контроля над продвинутыми ИИ-агентами. В частности, он описывал сценарий, при котором рой агентов в течение шести—двенадцати месяцев может получить возможность захватить значительную часть интернета. 39

При этом его предложение не означало полного прекращения работ в области ИИ: речь шла именно о замедлении развития передовых систем, чтобы исследования безопасности и независимый надзор могли успевать за прогрессом. 18

Вместе с тем источники не подтверждают ряд более конкретных утверждений, которые иногда приписывают участникам этой дискуссии. В них нет подтверждения, что исследователи Anthropic заявляли о неизбежном вымирании человечества из-за быстрого прогресса ИИ. Также не подтверждено, что Лескюр называл конкретные риски ИИ в кибербезопасности или образовании либо говорил, что однозначные прогнозы об экзистенциальной угрозе позволят обществу уклониться от коллективной ответственности.

Главная дилемма для Европы

Выступление Лескюра отражает дилемму, с которой сталкиваются страны вне ведущих ИИ-держав. Скоординированное замедление передовых разработок могло бы дать больше времени на создание механизмов безопасности. Но оно также способно закрепить преимущество компаний, у которых уже есть самые сильные модели, вычислительные мощности и широкие каналы внедрения. 12

Ответ Лескюра — развивать европейские возможности, не отказываясь от управления рисками. Источники ясно фиксируют это стратегическое расхождение, но не подтверждают дополнительные утверждения о кибербезопасности, образовании или вымирании человечества. 24