Зачем ИИ правила безопасности по образцу авиации: позиция Жозефины Тео

Пассажир садится в самолёт, полагаясь не на одно обещание производителя, а на целую систему правил, проверок и подготовки специалистов. Министр цифрового развития и информации Сингапура Жозефина Тео считает, что по мере распространения и усложнения искусственного интеллекта ему потребуется сопоставимый уровень общественного доверия. Её выступление 17 сентября 2026 года обозначило цель, а не сообщило о создании готового «авиационного» режима для ИИ. 31924

В чём смысл сравнения

В авиации безопасность зависит не только от изготовителя самолёта. Тео проводит аналогию между ним и разработчиком модели ИИ, но подчёркивает: защита должна состоять из нескольких уровней. Для ИИ это означает проверку систем, ответственное внедрение, подготовку людей и согласованные стандарты — одной полезности технологии недостаточно. 1924

Вопрос становится острее, когда ИИ влияет на важные для человека решения. Тео приводила пример выдачи кредитов с помощью ИИ: клиенту банка нужны основания верить, что система не действует против него предвзято. Среди других обсуждаемых рисков — ослабление контроля со стороны человека, утечки конфиденциальных данных, недостоверные или вредоносные ответы. В сообщениях о сентябрьских заявлениях министра также упоминались кибератаки и возможность злоупотребления ИИ в биологических целях. Это риски, требующие защиты, а не перечень подтверждённых происшествий, связанных с её предложением. 25262739

Тео отдельно говорила о вредоносных изображениях, созданных с помощью ИИ, и об обязанности сервисов удалять такой контент после уведомления. Однако представленные источники не показывают, что именно какой-либо недавний инцидент стал причиной её сравнения ИИ с авиацией. 13

Что Сингапур уже делает

Для проверки ИИ и повышения прозрачности в стране действует программа AI Verify — методика и набор инструментов для оценки систем. Тео также объявила о программе аккредитации независимых специалистов по тестированию ИИ: она должна помочь организациям выбирать тех, кому можно доверить оценку внедряемых систем. 827

Технические подходы продолжают развиваться. В рамках пилотного проекта Global AI Assurance Pilot изучались способы проверки надёжности приложений на основе генеративного ИИ; его результаты легли в основу подготовленного сингапурским ведомством IMDA стартового набора методов тестирования. Кроме того, страна выпустила рекомендации по управлению агентным ИИ — системами, способными действовать с большей самостоятельностью. В них сделан акцент на оценке рисков и сохранении контроля человека. 299

Почему этого пока недостаточно

Продукты на основе ИИ работают по всему миру, поэтому Сингапур выступает за проверенные на практике методы оценки, применимые при разных национальных правилах. По словам Тео, международно признанные стандарты важны, но на их выработку потребуется время. Сравнение с авиацией задаёт направление работы: совершенствовать защиту одновременно с внедрением ИИ, не выдавая нынешние инструменты и рекомендации за завершённую систему безопасности. 6730