AnswersPublished20 sources
NetEase představila zabezpečení AI agentů: kontrolovat má i to, co skutečně vykonají
NetEase Zhìqǐ představila 3. listopadu 2026 ve Wu čenu třívrstvý bezpečnostní systém pro AI, který má hlídat nejen odpovědi modelů, ale i kroky agentů.
PublikovalUpraveno pomocí GPT-6 LunaObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- NetEase Zhìqǐ představila 3. listopadu 2026 ve Wu čenu třívrstvý bezpečnostní systém pro AI, který má hlídat nejen odpovědi modelů, ale i kroky agentů.
- Architektura propojuje využití AI k posílení bezpečnosti s kontrolou vstupů a výstupů modelů, identity, přístupu k datům, volání nástrojů a vykonávaných akcí.
- Podle NetEase zkrátil CMA v jednom zákaznickém procesu průměrnou dobu prvního posouzení stížností z 35,7 na 12,3 minuty; výsledky zahrnovaly následnou lidskou kontrolu a vykázanou přesnost 99,2 %.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did NetEase Yidun, NetEase’s enterprise-services content and risk-control security unit, unveil on November 3 at the 2026 World Interne. Article summary: NetEase’s enterprise-services business unveiled an AI-native security product system built on Yidun’s “bidirectional AI security architecture” on November 3, 2026, at the World Internet Conference’s Light of Internet Exp. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
NetEase Zhìqǐ představila 3. listopadu 2026 na veletrhu Light of Internet Expo ve Wu-čenu bezpečnostní systém založený na „obousměrné architektuře AI bezpečnosti“ své značky Yidun. Hlavní myšlenka: nestačí kontrolovat, co umělá inteligence říká — je potřeba dohlížet také na to, co dělá. Podle IT Home získal systém na veletrhu certifikát „První zveřejněný výsledek“. 1
2
Od kontroly odpovědí ke kontrole činů
Rámec představil Zhu Chao-čchi, zástupce generálního ředitele NetEase Zhìqǐ a vedoucí divize Yidun. Má dva směry: AI pro bezpečnost a bezpečnost pro AI. V prvním případě umělá inteligence pomáhá s bezpečnostními úkoly; ve druhém bezpečnostní opatření nastavují hranice, v nichž může AI fungovat. 3
6
Podle představení systému se s rozšiřováním AI do marketingu, zákaznické podpory, vývoje, ověřování identity a transakcí mění i povaha rizik. Patří mezi ně obsah generovaný AI, deepfaky, automatizované podvody, obcházení ochranných mechanismů modelů, únik citlivých dat i situace, kdy agent jedná nad rámec svých oprávnění. 5
Yidun uvádí, že jeho kontroly pokrývají vstupy a výstupy modelů, ověřování identity, přístup k datům, volání nástrojů i samotné provádění úkolů. Mezi popsané prvky patří detekce obsahu, rozpoznávání záměru, řízení oprávnění, zachycení rizikových operací a auditní záznamy. 2
3
Tři vrstvy ochrany a tři představené novinky
Systém je rozdělen do tří oblastí: bezpečnost obsahu a dat, bezpečnost interakcí a identity a bezpečnost modelů a agentů. Při uvedení firma představila tři výsledky: CMA, agenta pro moderování obsahu; DeepGuard, nástroj na odhalování podvržených tváří; a zabezpečení aplikací a agentů s umělou inteligencí. 1
6
8
U agentů NetEase popisuje ochranné mechanismy pro vstupy a výstupy velkých jazykových modelů. Funkce Agent Guard má kontrolovat soulad záměru, oprávnění a riziková volání nástrojů a v případě potřeby blokovat nežádoucí chování. Bezpečnostní platforma pro agenty má také vyhledávat nasazené AI nástroje, kontrolovat dodavatelský řetězec Skill a MCP a předcházet únikům citlivých dat. 4 Jedna ze zpráv zmiňuje jako oblast, kterou chce platforma řešit, také takzvanou stínovou AI — nástroje používané bez přehledu či dohledu organizace.
12
CMA: automatizovaný první průchod s lidskou kontrolou
CMA kombinuje vlastní velký model pro zabezpečení obsahu s menšími specializovanými modely. Podle NetEase mohou různí agenti posuzovat různé typy obsahu, pracovat nepřetržitě a škálovat podle potřeby. Firma popisuje proces jako cyklus vyhodnocení, třídění, řešení, zpětné vazby a dalšího zlepšování. 7
9
V jednom zákaznickém procesu zpracování stížností šlo podle NetEase o více než 2,5 milionu případů měsíčně. Při kombinaci prvotního posouzení CMA a následné lidské kontroly se průměrná doba prvního posouzení snížila z 35,7 na 12,3 minuty a uváděná přesnost činila 99,2 %. Jde o výsledek oznámený firmou pro konkrétní proces, nikoli o nezávislé srovnávací testování. 1
9
DeepGuard: odhalování podvržených tváří
DeepGuard podle NetEase využívá vizuální porozumění k hledání nesrovnalostí v obrazu, namísto spoléhání pouze na známé znaky falšování. Popsaný přístup spojuje detekci deepfake videí, rozpoznávání vodoznaků AI, tiché ověření živosti a kontrolu prostředí, z něhož je obraz do systému předáván. 2
3
Firma uvádí, že schopnost odhalovat podvržené tváře získala hodnocení „Excellent“ ve specializovaném posouzení programu Trusted AI, který pořádá Čínská akademie informačních a komunikačních technologií. IT Home dále informoval o 99% míře zachycení útoků založených na opětovném snímání obrazovky a přiložení obličeje těsně k ní v dílčím testování. Dostupné zprávy neuvádějí dost podrobností o metodice, aby bylo možné výsledek považovat za záruku výkonu v běžném provozu. 1
2
Co oznámení dokládá — a co zatím ne
Představení systému ukazuje širší pojetí bezpečnosti AI: vedle filtrování generovaného obsahu chce kontrolovat také přístup k datům, oprávnění a kroky, které agent provádí při používání nástrojů a firemních systémů. NetEase popsala tři vrstvy ochrany a uvedla příklady výsledků CMA a DeepGuard. 2
3
6
Z dostupných zpráv ale nelze vyvodit, že by uváděné výsledky platily nezávisle a ve všech nasazeních. Čísla u CMA a DeepGuard je proto vhodné chápat jako výsledky oznámené firmou pro konkrétní případ nebo test, nikoli jako univerzální záruku.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "NetEase představila zabezpečení AI agentů: kontrolovat má i to, co skutečně vykonají"?
NetEase Zhìqǐ představila 3. listopadu 2026 ve Wu čenu třívrstvý bezpečnostní systém pro AI, který má hlídat nejen odpovědi modelů, ale i kroky agentů.
What are the key points to validate first?
NetEase Zhìqǐ představila 3. listopadu 2026 ve Wu čenu třívrstvý bezpečnostní systém pro AI, který má hlídat nejen odpovědi modelů, ale i kroky agentů. Architektura propojuje využití AI k posílení bezpečnosti s kontrolou vstupů a výstupů modelů, identity, přístupu k datům, volání nástrojů a vykonávaných akcí.
What should I do next in practice?
Podle NetEase zkrátil CMA v jednom zákaznickém procesu průměrnou dobu prvního posouzení stížností z 35,7 na 12,3 minuty; výsledky zahrnovaly následnou lidskou kontrolu a vykázanou přesnost 99,2 %.