ОтветыОпубликовано20 источники
NetEase хочет контролировать не только ответы ИИ, но и действия агентов
3 ноября 2026 года NetEase представила в Учжэне трёхуровневую систему безопасности ИИ, которая должна контролировать не только ответы моделей, но и действия агентов. Архитектура сочетает применение ИИ для задач безопасности с ограничениями на ввод и вывод модели, доступ к данным, вызов инструментов и выполнение дейс...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- 3 ноября 2026 года NetEase представила в Учжэне трёхуровневую систему безопасности ИИ, которая должна контролировать не только ответы моделей, но и действия агентов.
- Архитектура сочетает применение ИИ для задач безопасности с ограничениями на ввод и вывод модели, доступ к данным, вызов инструментов и выполнение действий.
- По данным NetEase, в одном сценарии CMA сократил среднее время первичной проверки жалоб с 35,7 до 12,3 минуты; результаты включали проверку человеком и заявленную точность 99,2%.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did NetEase Yidun, NetEase’s enterprise-services content and risk-control security unit, unveil on November 3 at the 2026 World Interne. Article summary: NetEase’s enterprise-services business unveiled an AI-native security product system built on Yidun’s “bidirectional AI security architecture” on November 3, 2026, at the World Internet Conference’s Light of Internet Exp. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
NetEase представила систему безопасности на базе архитектуры Yidun на выставке «Свет интернета» в рамках Всемирной интернет-конференции в Учжэне 3 ноября 2026 года. Главный акцент — перейти от контроля того, что ИИ говорит, к контролю того, что он делает. Как сообщает IT Home, разработка получила сертификат «Первый представленный результат» выставки. 1
2
От фильтрации ответов — к контролю действий
Архитектуру описал Чжу Хаоци, заместитель генерального директора NetEase Zh iqi и руководитель направления Yidun. В её основе два направления: «ИИ для безопасности» и «безопасность для ИИ». В первом случае ИИ помогает решать задачи защиты; во втором защитные механизмы ограничивают работу самого ИИ заданными правилами. 3
6
Такой подход связан с тем, что модели и агенты всё чаще задействованы в маркетинге, клиентском обслуживании, разработке, проверке личности и операциях. Среди рисков, упомянутых при презентации, — контент, созданный ИИ, дипфейки, автоматизированное мошенничество, обход ограничений модели, утечки чувствительных данных и действия агента за пределами выданных ему полномочий. 5
По описанию Yidun, система охватывает ввод и вывод модели, взаимодействие с идентификаторами, доступ к данным, вызовы инструментов агентом и исполнение его действий. Для этого предусмотрены обнаружение контента, распознавание намерений, контроль разрешений, блокировка рисков и аудит. 2
3
Три уровня защиты и три представленные разработки
Система разделена на три направления: безопасность контента и данных ИИ, безопасность взаимодействия и идентификации, а также безопасность моделей и агентов. На презентации показали три разработки: агент модерации CMA, систему проверки подлинности лица DeepGuard и средства защиты ИИ-приложений и агентов. 1
6
8
Для контроля агентов NetEase описывает защитные барьеры на входе и выходе модели, а также Agent Guard — проверку соответствия намерений, разрешений и рискованных вызовов инструментов с возможностью блокировать действия. Платформа безопасности агентов, по данным компании, предназначена для обнаружения ИИ-активов, проверки цепочек поставок Skill и MCP и защиты от утечек чувствительных данных. 4 Отдельный материал также называет одной из задач управления так называемый теневой ИИ — инструменты, используемые без централизованного контроля.
12
CMA: первичная проверка с участием человека
CMA сочетает разработанную NetEase большую модель для модерации контента с несколькими специализированными моделями меньшего размера. Компания сообщает, что разные агенты могут работать с разными стандартами проверки, функционировать круглосуточно и масштабироваться. Описанный цикл включает оценку, распределение задач, обработку, обратную связь и оптимизацию. 7
9
В одном из сценариев клиента система обрабатывала более 2,5 млн жалоб в месяц. По данным NetEase, когда CMA проводил первичную проверку, а сотрудники перепроверяли результаты, среднее время проверки сократилось с 35,7 до 12,3 минуты, а заявленная точность составила 99,2%. Это данные компании по конкретному рабочему процессу, а не независимый отраслевой тест. 1
9
DeepGuard: проверка подлинности лица
NetEase описывает DeepGuard как систему, которая с помощью визуального анализа ищет несоответствия в содержимом, а не только известные признаки подделки. В заявленный набор методов входят обнаружение дипфейков, распознавание водяных знаков ИИ, пассивная проверка живого лица и выявление среды для внедрения поддельного сигнала. 2
3
По словам компании, система получила оценку «Отлично» в специализированной проверке возможностей распознавания подделок лица «Доверенный ИИ», которую проводит Китайская академия информационных и коммуникационных технологий. IT Home также сообщает о показателе полноты обнаружения 99% для атак с повторной съёмкой изображения с экрана и поднесением экрана вплотную — в рамках поэтапного тестирования. Доступные публикации не раскрывают достаточно деталей методики, чтобы считать эту цифру гарантией эффективности в любых реальных условиях. 1
2
Что известно о системе — и чего эти данные не доказывают
Анонс обозначает более широкую границу защиты: речь идёт не только о фильтрации сгенерированных ответов, но и о проверке доступа, полномочий и действий агентов при работе с инструментами и бизнес-системами. NetEase назвала три уровня системы и представила три разработки, а также привела собственные результаты для модерации контента и проверки подлинности лица. 2
3
6
Однако опубликованные данные не подтверждают независимую эффективность системы в разных условиях внедрения. Поэтому показатели CMA и DeepGuard корректнее рассматривать как результаты конкретного сценария или тестирования, а не как универсальные гарантии.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «NetEase хочет контролировать не только ответы ИИ, но и действия агентов»?
3 ноября 2026 года NetEase представила в Учжэне трёхуровневую систему безопасности ИИ, которая должна контролировать не только ответы моделей, но и действия агентов.
Какие ключевые моменты необходимо проверить в первую очередь?
3 ноября 2026 года NetEase представила в Учжэне трёхуровневую систему безопасности ИИ, которая должна контролировать не только ответы моделей, но и действия агентов. Архитектура сочетает применение ИИ для задач безопасности с ограничениями на ввод и вывод модели, доступ к данным, вызов инструментов и выполнение действий.
Что мне делать дальше на практике?
По данным NetEase, в одном сценарии CMA сократил среднее время первичной проверки жалоб с 35,7 до 12,3 минуты; результаты включали проверку человеком и заявленную точность 99,2%.