Сингапур выпустил 116-страничное руководство по ИИ для советов директоров: 7 главных правил

Проверка на практике выглядит так: может ли совет понять, где и зачем организация использует ИИ, спросить, что может пойти не так, и оценить готовность руководства к такому сценарию.

2. Оценивать результат, а не активность вокруг ИИ

Инвестиции в ИИ следует измерять через реальные результаты, а не через показатели активности. Количество пилотов, купленных лицензий, обучающих сессий или экспериментов само по себе ещё не доказывает ценность технологии. Важнее смотреть на улучшение рабочих процессов, сэкономленное время, клиентский опыт и операционные показатели.

Совету директоров стоит задавать такие вопросы:

• Какую конкретную бизнес-проблему решает система?
• Какой показатель должен улучшиться и насколько?
• Как именно компания измерит этот эффект?
• Какие данные подтверждают переход от пилота к масштабному внедрению?
• Во сколько обойдутся контроль, безопасность, интеграция и возможный сбой?

Большое число экспериментов говорит об интересе к технологии, но не обязательно о возврате инвестиций.

3. Превратить инициативы сотрудников в управляемую практику

Сотрудники нередко находят полезные способы применения ИИ раньше, чем компания успевает запустить официальную программу. Руководство рекомендует использовать этот опыт, одновременно встраивая эксперименты в систему корпоративного контроля.

Для этого нужно документировать инструменты, созданные с помощью ИИ, определить, кто и в каких целях может ими пользоваться, а также проверять их на соответствие требованиям безопасности и управления. Цель — не запретить эксперименты, а не допустить, чтобы полезные прототипы превратились в невидимые и неподдерживаемые системы, которые работают с данными компании или влияют на клиентов и сотрудников без достаточных гарантий.

4. Считать риски ИИ частью общеорганизационных рисков

Управление ИИ не ограничивается проверкой точности модели. Директорам следует рассматривать этические, кибернетические, дата-, безопасностные, кадровые и приватные риски, а также влияние технологии на устойчивость бизнеса и долгосрочную стоимость.

Совет должен понимать:

• где именно в компании используется ИИ;
• какие данные и внешние поставщики задействованы;
• кто отвечает за каждую систему;
• как сообщается об инцидентах;
• в каких случаях внедрение нужно приостановить или пересмотреть.

Масштаб контроля должен соответствовать последствиям ошибки. Внутренний инструмент для повышения продуктивности и система, влияющая на трудоустройство, доступ клиента к услугам или безопасность, не могут регулироваться одинаково.

5. Установить правила человеческого контроля и «жёсткие красные линии»

Руководство призывает заранее определить границы принятия решений. Совет директоров должен установить, где обязательна проверка человеком, а где автоматизированные решения вообще недопустимы — особенно если они затрагивают клиентов, сотрудников, безопасность или конфиденциальность.

Человеческий контроль имеет смысл только в том случае, если проверяющий располагает достаточной информацией, временем и полномочиями, чтобы оспорить или отменить рекомендацию ИИ. Формальная кнопка «одобрить» не должна превращаться в бездумное утверждение автоматического результата.

6. Защитить сотрудников при использовании ИИ в кадровых решениях

ИИ в найме, продвижении или оценке эффективности может напрямую влиять на карьерные возможности и доходы людей. Для таких сценариев руководство рекомендует человеческую проверку, тестирование на предвзятость и контроль качества данных. Кроме того, у затронутых лиц должен быть понятный способ оспорить решение или добиться его пересмотра.

Так принцип справедливости превращается в конкретный вопрос для совета: какие данные показывают, что система работает как задумано, какие группы могут оказаться в невыгодном положении и может ли человек обжаловать результат.

7. Сохранить киберустойчивость и ответственность на уровне совета

Руководство рассматривает ИИ в контексте более широкой задачи — поддержания организационной и цифровой устойчивости. Его рекомендации отражают растущие ожидания, согласно которым советы директоров должны активно контролировать риски, связанные с ИИ и киберугрозами, а не полагаться исключительно на технические команды.

Директорам следует спрашивать руководство:

• как ИИ меняет поверхность атаки компании;
• каким образом защищаются чувствительные данные;
• как проверяются поставщики и подрядчики;
• что произойдёт, если система будет взломана или выдаст опасный результат.

Конкретные меры зависят от организации, но ответственность за постановку этих вопросов остаётся у совета директоров.

С чего начать совету директоров

Первичный аудит использования ИИ можно построить вокруг пяти вопросов:

1. Где ИИ уже применяется — включая инструменты, созданные самими сотрудниками?
2. Какие системы имеют стратегическое значение или могут оказать значительное влияние на людей?
3. Какие показатели эффективности и риска менеджмент представляет совету?
4. Где человеческая проверка обязательна и какие автоматизированные решения запрещены?
5. Могут ли затронутые лица оспорить решение и способна ли компания безопасно приостановить работу системы?

Главный урок документа заключается в том, что ответственное управление ИИ — не разовая публикация внутренней политики. Совету нужны достаточная грамотность, чтобы контролировать стратегию, убедительные данные для оценки пользы и полномочия, чтобы ограничить применение технологии, когда риски начинают перевешивать преимущества.