Волькер Тюрк: добровольных обещаний по безопасности ИИ «совершенно недостаточно»

Гонка за всё более мощными системами искусственного интеллекта не может регулироваться одними лишь обещаниями самих компаний. Об этом заявил Верховный комиссар ООН по правам человека Волькер Тюрк в открытом письме, призвав к срочным международным действиям на основе норм международного права прав человека. По его словам, добровольного саморегулирования разработчиков «совершенно недостаточно». 7

Чего Тюрк требует от государств и ИИ-компаний

Обращение адресовано и государствам, и компаниям, создающим передовой ИИ — то есть системы на самом переднем крае возможностей. Главная мысль Тюрка: решения о том, какими рисками должно платить общество за технологический прогресс, не могут оставаться в руках небольшого числа корпораций. Нужны согласованные и проверяемые гарантии. 7

Среди мер, на которых акцентировали внимание сообщения о письме, — следующие:

• Обязательное регулирование с опорой на права человека. Государствам следует усиливать регулирование, а не полагаться на добровольные корпоративные обязательства, и координировать подходы на международном уровне, чтобы не возникали пробелы между национальными режимами. 7
• Непрерывная проверка соблюдения прав человека. Разработчики должны выявлять и устранять уже возникшие и потенциальные последствия ИИ для прав человека на протяжении всего жизненного цикла системы, а не сводить такую оценку к разовой процедуре для отчётности. В руководстве ООН эта проверка описывается как постоянный процесс: выявление рисков, действия по их снижению, отслеживание результативности и информирование о принятых мерах.
• Независимая техническая оценка и верификация. Тюрк призвал к механизмам, которые можно проверить независимо, а не принимать заявления компаний о безопасности на веру. 7
• Срочные многосторонние действия. Управление рисками передового ИИ — международная задача: правила и гарантии безопасности должны вырабатываться совместно разными странами и институтами. 79

Почему предупреждение прозвучало именно сейчас

Письмо Тюрка появилось на фоне заметного конфликта внутри ИИ-индустрии о том, с какой скоростью ведущие лаборатории должны двигаться к более автономным и потенциально самоулучшающимся системам.

В сентябре 2026 года исследователь Джейкоб Коксон, работавший и в OpenAI, и в Anthropic, ушёл из Anthropic. Он заявил, что компании устремились к самоулучшающемуся сверхинтеллекту и при этом «играют нашими жизнями». 68 По словам Коксона, некоторые разработчики ИИ всерьёз считают, что технология может «убить нас всех» уже к концу десятилетия. Это предупреждение, переданное Коксоном и другими обеспокоенными разработчиками, а не установленный прогноз. 6

Одновременно инициатива сотрудников Pacing the Frontier («Сдерживать темп передового ИИ») попросила власти США поддержать международную работу над техническими и управленческими инструментами, которые позволят намеренно замедлять развитие передового ИИ, если оно начнёт опережать способность общества безопасно его контролировать. На сайте инициативы указано 1 386 подписавшихся сотрудников компаний, разрабатывающих передовой ИИ. 15

Эта поддержка идеи «сдерживания темпа» важна, но сама по себе не решает вопрос об ответственности. Позиция Тюрка состоит в том, что добровольные обязательства — даже если их поддерживают сотрудники и руководители отрасли — не заменяют обязательных публичных гарантий. 7

В одной системе должны учитываться и нынешний вред, и долгосрочные риски

Тюрк не свёл проблему к отдалённому сценарию исчезновения человечества. Он заявил, что добровольного саморегулирования недостаточно как для устранения уже существующего вреда, так и для предотвращения ситуаций, в которых продвинутые автономные модели смогут обходить меры человеческого контроля. 7

В доступных сообщениях нет исчерпывающего перечня конкретных нынешних видов вреда, упомянутых в письме. Поэтому было бы неверно приписывать Тюрку отдельные категории последствий сверх этого общего предупреждения. Ясно другое: права человека, по его мнению, должны оставаться центральным критерием при проектировании, внедрении, оценке и регулировании ИИ. 7

Какой пробел указал глава ООН по правам человека

Между частью ИИ-индустрии и предупреждением ООН есть заметное совпадение: обе стороны признают, что развитие возможностей систем может потребовать сознательного замедления и независимой оценки. 715

Но нерешённым остаётся политический вопрос. Отраслевые заявления могут стимулировать координацию, однако сами по себе они не устанавливают единых порогов риска, не обязывают раскрывать информацию, не требуют независимой проверки и не создают механизмов возмещения ущерба и ответственности при причинении вреда.

Именно этот разрыв Тюрк предлагает закрыть: срочным многосторонним регулированием, основанным на международном праве прав человека. 79

Практический вывод для регуляторов и организаций, закупающих ИИ-решения, прост: заявления о безопасности должны сопровождаться доказательствами постоянной оценки рисков для прав человека, внешней экспертизой и понятным распределением ответственности — а не только добровольными обещаниями компаний, которые создают эти системы.