Как «Центр безопасности» WorkBuddy 5.0 делает работу AI-агента безопаснее

«Центр безопасности» в WorkBuddy 5.0 переносит защиту туда, где AI-агент действительно действует: к операциям с файлами и операционной системой, а не только к анализу текста запроса. В версиях 5.0 и выше в одном разделе собраны песочница, защита от необратимого удаления и восстановление версий после правок; основные механизмы активированы по умолчанию. Откройте клиент WorkBuddy, нажмите на аватар в левом нижнем углу и перейдите в «Настройки → Центр безопасности». 612

Главное: ограничивать выполнение, а не искать «опасные слова»

В режиме «Разрешения по умолчанию» команды агента перед выполнением проходят через защитную песочницу. Обычные действия внутри рабочего пространства могут выполняться без лишних пауз, но форматирование диска, обращение к чувствительным системным каталогам или обход корневой директории системы могут быть перехвачены. 69

Это отличается от фильтрации только по тексту команды. Текстовый фильтр распознаёт известные слова и шаблоны, тогда как WorkBuddy заявляет о принятии решений на уровне API операционной системы — по тому, какую операцию агент пытается совершить. Иными словами, защита должна оставаться применимой, даже если рискованное действие сформулировано не так, как ранее известная опасная команда. 67

Песочница — дополнительный уровень, а не замена защите конечных устройств, классификации данных и независимым резервным копиям. В корпоративных рекомендациях Tencent советует сочетать отдельное рабочее пространство, разрешения по умолчанию, бэкапы важных файлов и проверку результатов человеком. 5

«Разрешения по умолчанию» и «Полный доступ»

Эти режимы предлагают разный баланс между самостоятельностью агента и контролем пользователя.

• «Разрешения по умолчанию» — рекомендуемый вариант для ежедневной работы. Агент выполняет обычные задачи, но может остановиться и запросить подтверждение при доступе к защищённым путям, важном или массовом удалении, запуске скриптов и команд, вызове внешних приложений либо действиях с сетевым риском. В окне подтверждения пользователь может оценить само действие, целевой путь и предполагаемый масштаб последствий. 25
• «Полный доступ» отключает пошаговые подтверждения для рискованных операций, включая запись и удаление файлов, запуск скриптов и вызов внешних программ. Такой режим разумно включать лишь на короткое время для доверенной, изолированной задачи, из которой можно восстановиться. Для рабочих систем, данных клиентов, финансовых документов и единственных копий важных файлов он не подходит. 28

Практичный сценарий: хранить оригиналы важных файлов вне рабочей папки задачи, передавать агенту только копии и после разовой задачи с повышенными правами сразу возвращаться к режиму разрешений по умолчанию. 18

Если агент удалил или испортил файл

«Центр безопасности» рассчитан на два частых риска при автономной работе с файлами.

Удаление файлов. Удаление, инициированное агентом, по умолчанию направляется в системную корзину, а не приводит к немедленному безвозвратному удалению. Поэтому файл можно попытаться восстановить обычными средствами операционной системы. 69

Правки существующих файлов. Перед изменением файла WorkBuddy может сохранить его исходную резервную копию. Это даёт возможность восстановить предыдущую версию презентации PowerPoint, документа Word, изображения или PDF — а не только извлечённый из них текст. Для новых файлов предредакционная копия не создаётся: предыдущей версии у них нет. 29

Стандартный лимит хранилища резервных версий составляет 1 ГБ. По мере заполнения старые версии автоматически удаляются, поэтому эту функцию не стоит воспринимать как долгосрочный архив или замену отдельному резервному копированию. 19

На момент анонса автоматическое резервное копирование и восстановление версий были полностью доступны в Windows. Аналогичная возможность для Mac была заявлена как готовящаяся к выпуску. 9

Шифрование передачи и контроль генерируемого контента

В документации WorkBuddy указано, что передача данных использует HTTPS с TLS 1.2 или TLS 1.3. Эта мера предназначена для защиты данных в пути от прослушивания, подмены и атак типа «человек посередине». 17

Для корпоративного применения Tencent также описывает движок безопасности AIGC-контента: он автоматически выявляет и фильтрует сгенерированные материалы, отмеченные как несоответствующие требованиям, вредоносные или небезопасные. Это отдельный слой контроля результата, не равный локальным ограничениям на действия агента на устройстве. 2128

Что это меняет на практике

Подход WorkBuddy объединяет три разных уровня защиты:

1. Границы выполнения ограничивают или прерывают рискованные операции с ОС и файлами.
2. Подтверждение пользователем оставляет человека в контуре принятия решений для чувствительных действий в режиме разрешений по умолчанию.
3. Средства восстановления делают ошибочное удаление и нежелательные правки менее окончательными.

Эти механизмы снижают риск, но не делают AI-агента безошибочным. Наиболее надёжная схема остаётся прежней: отдельное рабочее пространство, минимально необходимые права, проверка значимых действий человеком и независимые резервные копии всего, что нельзя потерять. 58