AnswersPublished20 sources
NetEase представила систему безпеки ШІ, що стежить за діями агентів
3 листопада 2026 року NetEase Zh iqi представила в Ужені трирівневу систему безпеки ШІ, покликану контролювати як відповіді моделей, так і дії агентів. Архітектура поєднує використання ШІ для посилення безпеки із захисними обмеженнями для моделей, доступу до даних і викликів інструментів.
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- 3 листопада 2026 року NetEase Zh iqi представила в Ужені трирівневу систему безпеки ШІ, покликану контролювати як відповіді моделей, так і дії агентів.
- Архітектура поєднує використання ШІ для посилення безпеки із захисними обмеженнями для моделей, доступу до даних і викликів інструментів.
- За даними компанії, у конкретному процесі перевірки скарг CMA скоротив середній час первинної перевірки з 35,7 до 12,3 хвилини; результати включали перевірку людиною та точність 99,2%.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did NetEase Yidun, NetEase’s enterprise-services content and risk-control security unit, unveil on November 3 at the 2026 World Interne. Article summary: NetEase’s enterprise-services business unveiled an AI-native security product system built on Yidun’s “bidirectional AI security architecture” on November 3, 2026, at the World Internet Conference’s Light of Internet Exp. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
NetEase Zh iqi представила систему безпеки ШІ на базі «двосторонньої архітектури безпеки ШІ» від Yidun під час виставки «Світло інтернету» Всесвітньої конференції з інтернету в Ужені 3 листопада 2026 року. Головна ідея — поширити захист із відповідей ШІ на те, що він робить. За повідомленням IT Home, запуск відзначили сертифікатом «Досягнення першого випуску» виставки. 1
2
Від перевірки відповідей — до контролю дій
Представлена заступником генерального директора NetEase Zh iqi та керівником напряму Yidun Чжу Хаоці архітектура має два складники: ШІ для безпеки та безпека для ШІ. Перший передбачає використання ШІ в роботі із захисту, другий — запровадження обмежень, щоб системи ШІ діяли в заданих межах. 3
6
Такий ширший підхід пов’язаний із новими ризиками, що виникають, коли ШІ застосовують у маркетингу, обслуговуванні клієнтів, розробці, перевірці особи й операціях. Серед них — згенерований контент, діпфейки, автоматизоване шахрайство, обходи захисту моделей, витоки чутливих даних і дії агентів за межами наданих повноважень. 5
За описом Yidun, захисні механізми охоплюють вхідні й вихідні дані моделей, взаємодію з ідентичностями, доступ до даних, виклики інструментів агентами та виконання ними дій. Серед заявлених функцій — виявлення контенту, розпізнавання намірів, контроль дозволів, блокування ризикованих операцій і аудит. 2
3
Три рівні захисту та три представлені рішення
Система складається з трьох напрямів: безпека контенту й даних ШІ, безпека взаємодії та ідентифікації, а також безпека моделей і агентів ШІ. Серед представлених рішень — CMA, агент для модерації контенту; DeepGuard, технологія виявлення підробок обличчя; та засоби безпеки для застосунків і агентів ШІ. 1
6
8
Для контролю агентів NetEase описує захисні бар’єри для входів і виходів моделі, а також перевірки Agent Guard: чи відповідає намір агента поставленому завданню, чи має він потрібні дозволи та чи не є виклик інструмента ризикованим. Система має блокувати небажані дії. Компанія також описує платформу для виявлення ШІ-активів, перевірки ланцюгів постачання Skill і MCP та запобігання витокам чутливих даних. 4 Окремий матеріал називає серед завдань платформи управління «тіньовим ШІ» — інструментами, які використовують без належного нагляду.
12
CMA: автоматизація першої перевірки з участю людей
CMA поєднує власну велику модель для безпеки контенту зі спеціалізованими меншими моделями. За словами NetEase, кілька агентів можуть працювати з різними стандартами перевірки, функціонувати цілодобово та масштабуватися. Компанія описує процес як цикл оцінювання, розподілу, опрацювання, зворотного зв’язку й удосконалення. 7
9
В одному з клієнтських сценаріїв — перевірці скарг, яких надходило понад 2,5 мільйона на місяць, — CMA проводив первинний відбір, а люди перевіряли результати. За даними NetEase, середній час первинної перевірки скоротився з 35,7 до 12,3 хвилини, а точність становила 99,2%. Це показники компанії для конкретного процесу, а не результати незалежного бенчмарку. 1
9
DeepGuard: виявлення підробок обличчя
NetEase описує DeepGuard як систему, що використовує візуальне розуміння, аби виявляти невідповідності в зображенні, а не лише шукати відомі ознаки підробки. Заявлений підхід поєднує виявлення діпфейків, розпізнавання водяних знаків ШІ, безшумну перевірку живої присутності та виявлення середовищ для атак із підміною сигналу. 2
3
За словами компанії, засіб виявлення підробок обличчя отримав оцінку «Відмінно» в межах спеціалізованого тестування «Довірений ШІ» Китайської академії інформаційно-комунікаційних технологій. IT Home також повідомило про повноту виявлення 99% під час проміжного тестування атак із повторним зніманням з екрана та наближенням до нього. Опублікованих подробиць недостатньо, щоб оцінити методику тесту або вважати цей показник гарантією результатів у реальних умовах. 1
2
Що підтверджує анонс — і чого він не доводить
Запуск окреслює ширші межі безпеки: йдеться не лише про фільтрацію згенерованого контенту, а й про контроль доступу, дозволів та дій агентів, які використовують інструменти й бізнес-системи. NetEase назвала три рівні системи та представлені рішення, а також навела власні результати для модерації контенту й виявлення підробок обличчя. 2
3
6
Водночас наявні матеріали не підтверджують незалежно ефективність системи в різних сценаріях використання. Тому наведені показники CMA та DeepGuard варто сприймати як результати компанії для окремих процесів або тестів, а не як універсальну гарантію.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "NetEase представила систему безпеки ШІ, що стежить за діями агентів"?
3 листопада 2026 року NetEase Zh iqi представила в Ужені трирівневу систему безпеки ШІ, покликану контролювати як відповіді моделей, так і дії агентів.
What are the key points to validate first?
3 листопада 2026 року NetEase Zh iqi представила в Ужені трирівневу систему безпеки ШІ, покликану контролювати як відповіді моделей, так і дії агентів. Архітектура поєднує використання ШІ для посилення безпеки із захисними обмеженнями для моделей, доступу до даних і викликів інструментів.
What should I do next in practice?
За даними компанії, у конкретному процесі перевірки скарг CMA скоротив середній час первинної перевірки з 35,7 до 12,3 хвилини; результати включали перевірку людиною та точність 99,2%.