Светофор для ИИ: где компании провести границу

Суды Сингапура дают компаниям отправную точку для правил работы с ИИ: распределять задачи по тому, насколько много ответственности передаётся системе, а не ограничиваться общей формулировкой «ИИ разрешён» или «всё проверяет человек». Судебные рекомендации допускают использование генеративного ИИ при подготовке документов, но ответственность за точность и независимую проверку материалов остаётся на тех, кто их использует. Компания может взять этот принцип за основу, однако должна адаптировать правила под собственные задачи и риски — это не требования судов к бизнесу. 36

Устанавливайте границы по задачам, а не по инструментам

Один и тот же ИИ-инструмент может подойти для несложной черновой работы, но быть неуместным для решения, которое повлияет на человека. Суды Сингапура описывают подход «светофора»: зелёный — для задач вроде перевода и обобщения информации, которые помогают людям разобраться в материалах, но не решают дело; жёлтый — для ситуаций, где нужна особая осторожность; красный — для применений, которые суды не рассматривают. 638

Для компании цвета могут стать основой практической политики. Примеры ниже — лишь возможная отправная точка, а не универсальная классификация. Учитывайте конкретную задачу, используемые данные и последствия ошибки.

Зелёный: помогать с рутинной работой

Разрешите сотрудникам использовать одобренные ИИ-инструменты для задач с низким уровнем риска: форматирования, перевода, структурирования информации или подготовки черновика. Укажите, какие инструменты разрешены, какие сведения можно в них вводить и когда результат нужно проверить. Отдельно подчеркните: сгенерированный текст сам по себе не является утверждённой позицией или решением компании.

Жёлтый: готовить материалы, но не решать

В задачах с серьёзными последствиями ИИ может помогать собирать сведения, обобщать документы или составлять перечень вариантов. Но до того, как результат повлияет на человека, назначенный сотрудник должен проверить важные утверждения по исходным материалам, учесть контекст и утвердить итог.

Независимая проверка — это обращение к исходным данным или авторитетной записи, а не просьба к другой ИИ-системе подтвердить вывод первой. Руководство сингапурских судов возлагает на пользователей ответственность за то, чтобы передаваемые суду материалы были независимо проверены, точны, достоверны и уместны. 3

Красный: оставить решение человеку

Компания может отнести к зонам, где решение принимает только человек, вопросы занятости, безопасности или доступа к жизненно важным услугам. В таких случаях ИИ может помочь подготовить материалы, но не должен принимать окончательное решение или автоматически запускать его исполнение. Ответственный сотрудник должен рассмотреть ситуацию, иметь возможность не согласиться с рекомендацией системы и объяснить принятое решение.

Это предлагаемая мера предосторожности для бизнеса, а не утверждение, что суды Сингапура предписывают компаниям именно такое правило. Судья Айдан Сюй отмечал, что ИИ может помогать судьям читать и обобщать материалы, но в настоящее время суды не используют его для оценки доказательств, применения права к фактам или осуществления судебного усмотрения. 40

Публикуйте конкретные и понятные правила

Польза публичной политики не в общих обещаниях «ответственного ИИ», а в ясных границах для конкретных задач. Для каждого разрешённого сценария кратко укажите:

• Что именно ИИ может делать, а что запрещено?
• Какие данные сотрудник вправе передавать инструменту?
• Кто проверяет результат и с чем его нужно сверить?
• Кто принимает окончательное решение?
• Как сотрудник или затронутый человек может сообщить о проблеме или оспорить ошибку?

Внутри компании ведите соразмерный учёт: какой инструмент и для какой задачи применялся, какие источники проверили и кто утвердил результат. Дайте проверяющим достаточно времени и полномочий, чтобы не соглашаться с выводом системы. Иначе человеческая проверка рискует превратиться в формальную подпись.

Пересматривайте правила и сохраняйте профессиональные навыки

Отнесение задачи к тому или иному цвету — не вечная метка. Проверяйте конкретный инструмент в конкретном рабочем процессе, анализируйте ошибки и решайте, нужно ли изменить меры контроля или приостановить использование. Не считайте, что общие заявления о возможностях модели гарантируют её пригодность для любой задачи.

Важно также сохранять у сотрудников возможность самим осваивать работу, которую помогает выполнять ИИ. Главный судья Сингапура говорил о том, что ИИ может изменить привычные задачи юристов-новичков — именно они традиционно помогали им приобрести базовые профессиональные навыки. 2335 Для компаний вывод шире: сотрудникам нужны практический опыт и понимание работы, чтобы замечать ошибки и выносить самостоятельные суждения. Без этого содержательно проверять результаты ИИ будет трудно.

Простое правило для компании

Светофорная модель полезна, если каждому цвету соответствуют конкретные действия: что ИИ разрешено делать, что человек обязан проверить, кто отвечает за итог и как можно оспорить решение. Публикуйте границы для отдельных задач, пересматривайте их по мере изменения инструментов и процессов, а решения с серьёзными последствиями поручайте людям, обладающим необходимыми полномочиями и компетенциями.