Фон дер Ляйен: наиболее мощный ИИ — развивать осторожнее, промышленный — внедрять быстрее

Главный посыл Урсулы фон дер Ляйен в ежегодном обращении о положении дел в Евросоюзе — не всеобщая пауза в развитии искусственного интеллекта, а разделение подходов. Наиболее мощные, так называемые передовые модели предлагается развивать с повышенной осторожностью, тогда как применение ИИ в стратегически важных отраслях — ускорять. Одновременно Еврокомиссия готовит новые меры защиты детей в цифровой среде. 1

«Сдерживать передний край» ИИ, а не вводить общий запрет

Председатель Еврокомиссии заявила, что пригласит руководителей ведущих лабораторий, создающих передовые ИИ-модели, на обсуждение того, как власти могут поддержать усилия отрасли по «сдерживанию переднего края» развития технологий. Речь идёт о консультациях и совместной работе по безопасности, а не о немедленном моратории ЕС или общем запрете на разработку ИИ. 16

Опасения фон дер Ляйен относятся прежде всего к системам, чьи возможности быстро растут, включая самосовершенствующиеся или саморекурсивные модели. По её словам, такие системы могут сделать возможными взломы в масштабах, которые прежде казались немыслимыми, и вскоре могут попасть в руки противников. 115

Инициатива появилась на фоне спора внутри индустрии о допустимых темпах развития передового ИИ. Как сообщал Reuters, глава Anthropic Дарио Амодеи призвал замедлиться; его позицию поддержали глава OpenAI Сэм Альтман и Илон Маск. В то же время предупреждения вызвали дискуссию: одни считают их обоснованной предосторожностью, другие — чрезмерным «думеризмом» вокруг ИИ. 17

Фон дер Ляйен также призвала углубить сотрудничество с Канадой, Великобританией и другими партнёрами со схожими взглядами по вопросам безопасности ИИ — в том числе по оценке передовых моделей и связанным с ней мерам защиты. 9

EU Kids Act: возрастные правила для соцсетей, игр и ИИ-чатботов

Предлагаемый EU Kids Act («Акт ЕС о защите детей») затронет не только обычные социальные сети. Он должен охватить соцсети и видеоплатформы, онлайн-игры и ИИ-чатботы, предусматривая разные уровни защиты для разных возрастов. Это пока предложение Еврокомиссии, а не уже действующие правила. 1

Описанная схема включает:

• запрет доступа к социальным сетям для детей младше 13 лет; 1
• ограниченные аккаунты для подростков от 13 до 14 лет, которые создают и контролируют родители; для них предусмотрены урезанные функции и лимиты времени; 1
• обязанность платформ обеспечивать безопасный по умолчанию дизайн для пользователей от 15 до 18 лет.

Принципиально важно, что ответственность не предполагается перекладывать только на детей и родителей. От сервисов хотят требовать встроенной безопасности; согласно сообщениям о проекте, компании должны будут подтверждать возраст пользователей и устранять вызывающие зависимость элементы дизайна, например бесконечную прокрутку. 7

ИИ для экономики и безопасности: пять приоритетных направлений

Наряду с контролем рисков передовых моделей фон дер Ляйен представила ИИ как базовую технологию для экономики и безопасности Европы. В числе примеров она назвала автономное вождение и оборону, подчеркнув, что Европе важно получать от этой технологии практическую отдачу. 1

Еврокомиссия определила пять направлений, где промышленный ИИ, по её оценке, обладает наибольшим потенциалом, а у Европы есть необходимые данные и компетенции:

1. здравоохранение;
2. транспорт;
3. агропродовольственный сектор;
4. передовое производство;
5. оборона и космос. 1

В ноябре Комиссия обещает представить «меняющие правила игры» инициативы для этих сфер. 1

Что означает этот курс

Стратегия ЕС строится на разделении задач. Для передовых моделей Брюссель предлагает более строгую оценку, международную координацию и осторожный темп наращивания возможностей там, где риски наиболее высоки. В более широкой экономике, напротив, он хочет быстрее внедрять ИИ в сферы, связанные с государственными услугами, промышленной конкурентоспособностью и безопасностью. 19

Иными словами, это не призыв замедлить каждый ИИ-продукт или каждое применение технологии. ЕС предлагает осторожнее относиться к гонке возможностей самых мощных моделей, одновременно ускоряя полезное внедрение ИИ в промышленности. 1