Можно ли загружать документы в ИИ: памятка по персональным данным, коммерческой тайне и госфайлам

В этой статье под «публичным ИИ-сервисом» понимается облачный инструмент, который ещё не одобрен вашей организацией и по которому вы не проверили условия хранения, повторного использования, коммерческой обработки, отказа от такой обработки, прав доступа, мониторинга и реагирования на инциденты. Это не значит, что ИИ вообще нельзя применять к чувствительным данным. Это значит, что сначала нужны проверяемые ответы по управлению данными.

Короткий ответ: если не можете ответить за данные, не загружайте оригинал

Персональные данные, коммерческая тайна и непубличные документы госорганов не должны напрямую попадать в обычный публичный ИИ-сервис. Даже если задача кажется безобидной — сделать краткое резюме, перевести, переписать текст, найти ошибку в коде или улучшить формулировку договора. Если исходный материал раскрывает человека, клиента, внутреннее решение, доступ к системе или защищённую информацию, безопаснее сначала убрать лишнее, обезличить текст, заменить детали обобщением или использовать одобренную контролируемую среду.

Самый надёжный ориентир — не логотип сервиса, а четыре вопроса: чувствительны ли данные; как сервис их хранит и использует; разрешает ли это ваша организация; можно ли отследить и обработать инцидент. Если по этим пунктам нет ясности, оригинал загружать не стоит.

Как различать персональные данные, коммерческую тайну и документы госорганов

Пять вопросов перед загрузкой

Если хотя бы на один вопрос нет ответа, не отправляйте исходный документ в обычный публичный ИИ.

1. Есть ли внутри персональные или чувствительные данные? Если по тексту, таблице, метаданным или сочетанию деталей можно узнать человека, дело, клиента или сотрудника, оригинал лучше не загружать. Документ EDPB как раз посвящён рискам приватности в LLM-системах и их снижению.
2. Сохраняет ли сервис запросы и ответы, и на какой срок? NIST прямо относит хранение данных к вопросам управления рисками генеративного ИИ.
3. Могут ли данные использоваться повторно, в коммерческих целях или для улучшения сервиса? Есть ли отказ от такой обработки? NIST перечисляет коммерческое использование, защиту и хранение данных, а также opt-out-механизмы среди элементов управления.
4. Кто имеет право пользоваться инструментом и можно ли отследить действия? В подходе NIST упоминаются квалификация пользователей, отказ от анонимного использования и мониторинг; на практике это означает, что организация должна понимать, кто использует ИИ, зачем и с какими данными.
5. Есть ли оценка воздействия, реагирование на инциденты и риск-ориентированные меры контроля? Эти элементы также входят в перечень NIST для управления генеративным ИИ.

Фраза в запросе вроде «сохрани это в тайне» не является мерой безопасности. Важно не то, что вы попросили модель, а то, какие технические, договорные и организационные правила действуют вокруг данных: где они хранятся, кто имеет доступ, можно ли отказаться от повторного использования, кто отвечает за инцидент и разрешено ли это вашей организацией.

Светофор: что можно, что только после проверки, а что нельзя

Этот список переводит принципы защиты данных, хранения и риск-ориентированного контроля на бытовой язык. Он не заменяет юридическую консультацию и внутренние регламенты: для компании, ведомства, вуза или НКО решающими остаются их собственные правила информационной безопасности, работы с персональными данными и документооборота.

Зелёная зона: можно рассмотреть, но условия всё равно надо читать

• Уже опубликованные, низкочувствительные материалы, которыми вы вправе пользоваться.
• Текст, из которого удалены персональные и чувствительные поля, а оставшиеся сведения нельзя разумно связать с конкретным человеком, клиентом, делом или внутренним решением.
• Краткое описание задачи с минимально необходимым контекстом — вместо полной версии договора, служебной записки, клиентской таблицы или всего репозитория кода.

Важно: «данные уже в интернете» не означает «риска нет». Если открытый материал всё ещё содержит персональные или чувствительные сведения, к нему нужно применять правила приватности и защиты данных.

Жёлтая зона: сначала переписать, замаскировать или пройти согласование

• Материалы с данными клиентов, сотрудников, поставщиков, заявителей, участников дела или граждан.
• Черновики договоров, финансовые таблицы, внутренние презентации, протоколы совещаний, юридические позиции и проекты политик.
• Исходный код, техническая документация и схемы архитектуры, особенно если там могут быть ключи, токены, учётные данные или сведения об уязвимостях. NIST относит безопасную разработку ПО и риск-ориентированные меры к управлению генеративным ИИ.
• Внутренние документы госорганов, непубличная переписка, служебные записки, оценочные материалы, межведомственные документы и проекты решений. Для публичного сектора в источниках отдельно отмечается необходимость избегать персональной и чувствительной информации.

Такие данные не обязательно навсегда запрещены для ИИ. Но они не должны попадать в публичный сервис без утверждённого инструмента, правил хранения, контроля доступа, мониторинга и сценария реагирования на инциденты.

Красная зона: не загружать в обычный публичный ИИ

• Всё, что по закону, договору или внутренним правилам нельзя передавать наружу.
• Документы с грифом или иным режимом ограниченного доступа, а также материалы, связанные с национальной безопасностью, правоприменением, расследованиями, закупочными оценками и другими высокочувствительными процессами.
• Пароли, API-ключи, приватные ключи, сертификаты, токены доступа и любые сведения, с помощью которых можно войти в систему или повысить привилегии.
• Данные, по которым вы не можете подтвердить источник, права на использование, правила хранения, удаления и повторной обработки.

Обезличивание — это не просто удалить имя

Удалить фамилию из документа часто недостаточно. Номер дела, телефон, email, адрес, должность, редкая специализация, дата и место события, комбинация подразделения и проекта — всё это может снова вывести на конкретного человека, клиента или ситуацию. Именно поэтому документы о LLM-системах говорят не только о приватности в целом, но и о снижении рисков через продуманную обработку данных.

Более безопасный подход выглядит так: замените реальные имена и названия компаний условными обозначениями; оставьте только нужный фрагмент; перепишите исходный документ в абстрактный сценарий; агрегируйте таблицы и списки; удалите идентификаторы, служебные номера и метаданные; если без оригинала не обойтись, используйте только одобренный инструмент и утверждённый процесс.

Документы госорганов: открытые данные и внутренние материалы — не одно и то же

Применение генеративного ИИ в публичном секторе нельзя свести к формуле «всё запретить» или «всё разрешить». В отчёте JRC о генеративном ИИ применение таких систем в государственном секторе выделено как отдельная область рассмотрения; в приложении Европарламента пример с официальными данными Бундестага, то есть парламента Германии, описан как использование официальных данных с избеганием персональной или чувствительной информации.

На практике более безопасной категорией обычно будут уже опубликованные, низкочувствительные и законно используемые официальные материалы. Гораздо осторожнее нужно относиться к непубличным служебным документам, проектам решений, материалам проверок, расследований, правоприменения, закупочных процедур и любым файлам с персональными или чувствительными данными. Первую группу всё равно надо проверять по условиям использования; вторую не следует напрямую отправлять в обычный публичный ИИ.

Самое простое правило

Если утечка файла может навредить человеку, организации, общественным интересам или соблюдению правил, не загружайте оригинал в публичный ИИ-сервис. Сначала минимизируйте, замаскируйте и обобщите данные. Если задачу невозможно решить без исходного документа, используйте утверждённый контролируемый инструмент и проверьте защиту данных, хранение, права доступа, мониторинг, возможность отказа от повторного использования и порядок реагирования на инциденты.