Почему Сингапур сравнивает безопасность ИИ с безопасностью полётов

Пассажир доверяет рейсу не потому, что авиакомпания однажды объявила самолёт безопасным. За полётом стоит целая система: требования к производству и обслуживанию техники, управление воздушным движением и аэропортами, подготовка персонала и соблюдение правил на практике. Именно так министр цифрового развития и информации Сингапура Джозефин Тео объясняет, почему доверие к искусственному интеллекту нельзя построить на одном обещании разработчика. 79

В публикации в LinkedIn от 17 сентября Тео предположила, что со временем ИИ может понадобиться система безопасности, сопоставимая по своему принципу с системой гражданской авиации. Она не утверждала, что такая система уже существует, и не предлагала буквально перенести авиационные правила на ИИ. Её мысль: чем чаще люди полагаются на технологию, тем важнее проверяемые и постоянно действующие меры защиты. 23

Что это означает для ИИ

Авиационная аналогия ставит практические вопросы: как испытывать систему до применения, кто оценивает её после изменений и какие инструкции нужны тем, кто с ней работает? Тео называла авиационную защиту многоуровневой и отмечала, что готового руководства по безопасности ИИ пока нет — Сингапуру приходится быстро учиться по мере развития технологии. 5

Поэтому страна намерена создавать меры безопасности параллельно с внедрением ИИ, не дожидаясь окончательно сложившегося свода правил. Среди уже существующих инициатив — AI Verify, инструмент для ответственного тестирования и повышения прозрачности, и Сингапурский институт безопасности ИИ. Тео также рассказывала о программе аккредитации независимых специалистов по тестированию: она должна помочь организациям понять, кому можно доверить оценку их систем. Это шаги к более надёжной проверке, а не свидетельство того, что все риски устранены. 1222

Безопасность ИИ не ограничивается границами одной страны. Сингапур принимал Международный научный обмен по безопасности ИИ, участвовал в выработке Сингапурского консенсуса о глобальных приоритетах исследований в этой области и в совместных испытаниях. Речь идёт о сотрудничестве в исследованиях и оценке систем, а не о создании обязательного международного регулятора по образцу авиационного. 181

А как же призывы замедлить разработку?

Предложение Тео звучит на фоне предупреждений о рисках всё более мощного ИИ — от потери человеческого контроля до кибератак и применения технологий в биотерроризме. 12 сентября глава Anthropic Дарио Амодеи призвал сдерживать темп совершенствования наиболее передовых моделей, чтобы меры безопасности и независимая проверка успевали за ростом их возможностей. Его предупреждение о том, что будущие ИИ-агенты могут вызвать масштабные сбои в интернете, — прогноз, а не установленный факт. 131011

Акценты различаются: Тео говорит прежде всего о защите людей по мере распространения ИИ, Амодеи — ещё и о необходимости выиграть время, замедлив развитие самых мощных моделей. Общий вопрос остаётся открытым: смогут ли способы проверки и контроля успевать за технологиями, которым предлагают доверять всё больше задач? 1311