AntwortenVeröffentlicht20 Quellen
Nicht nur Antworten prüfen: NetEase setzt bei KI-Sicherheit auf die Kontrolle von Agenten
NetEase Zh iqi präsentierte am 3. November 2026 in Wuzhen ein dreistufiges KI Sicherheitssystem, das neben Modellausgaben auch die Aktionen von KI Agenten absichern soll.
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- NetEase Zh iqi präsentierte am 3. November 2026 in Wuzhen ein dreistufiges KI Sicherheitssystem, das neben Modellausgaben auch die Aktionen von KI Agenten absichern soll.
- Der Ansatz verbindet KI für Sicherheitsaufgaben mit Kontrollen für Eingaben und Ausgaben, Identität, Datenzugriffe, Werkzeugaufrufe und die Ausführung von Aktionen.
- Bei einem Kunden soll der Prüfagent CMA die durchschnittliche Erstprüfung von Beschwerdetickets von 35,7 auf 12,3 Minuten verkürzt haben.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did NetEase Yidun, NetEase’s enterprise-services content and risk-control security unit, unveil on November 3 at the 2026 World Interne. Article summary: NetEase’s enterprise-services business unveiled an AI-native security product system built on Yidun’s “bidirectional AI security architecture” on November 3, 2026, at the World Internet Conference’s Light of Internet Exp. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
NetEase Zh iqi hat am 3. November 2026 auf der Messe „Light of Internet“ der Weltinternetkonferenz im chinesischen Wuzhen ein KI-Sicherheitssystem vorgestellt. Der zentrale Gedanke: Sicherheit soll nicht mehr nur kontrollieren, was eine KI ausgibt, sondern auch, was sie anschließend tut. Laut IT Home erhielt das System eine „First-release Achievement Certificate“ der Messe. 1
2
Vom Prüfen der Antworten zur Kontrolle von Aktionen
Die von Zhu Haoqi, stellvertretendem Geschäftsführer von NetEase Zh iqi und Leiter des Geschäftsbereichs Yidun, vorgestellte Architektur hat zwei Seiten: KI für Sicherheit und Sicherheit für KI. Einerseits soll KI Sicherheitsaufgaben unterstützen; andererseits sollen Schutzvorkehrungen die KI innerhalb festgelegter Grenzen halten. 3
6
Der Anlass für diesen erweiterten Blick: KI wird laut den Berichten in Bereichen wie Marketing, Kundenservice, Entwicklung, Identitätsprüfung und Transaktionen eingesetzt. Damit wachsen neben Risiken durch erzeugte Inhalte und Deepfakes auch die Gefahren automatisierten Betrugs, sogenannter Jailbreaks, offengelegter sensibler Daten und unbefugter Aktionen durch Agenten. 5
Yidun zufolge setzt das System an mehreren Stellen an: bei Ein- und Ausgaben von Modellen, Identitätsprüfungen, Datenzugriffen, Werkzeugaufrufen durch Agenten und der Ausführung ihrer Aktionen. Vorgesehen sind unter anderem Inhalts- und Absichtserkennung, Berechtigungsprüfungen, das Abfangen riskanter Vorgänge und eine nachvollziehbare Protokollierung. 2
3
Drei Sicherheitsebenen, drei vorgestellte Produkte
Das System gliedert sich in Sicherheit für KI-Inhalte und Daten, Sicherheit für KI-Interaktionen und Identitäten sowie Sicherheit für KI-Modelle und Agenten. Als drei Neuheiten nannte NetEase den Prüfagenten CMA, die Gesichtsfälschungserkennung DeepGuard und Sicherheitsfunktionen für KI-Anwendungen und Agenten. 1
6
8
Für Agenten beschreibt NetEase Schutzgeländer für Ein- und Ausgaben von großen Sprachmodellen. Agent Guard soll außerdem prüfen, ob Absicht und Auftrag zusammenpassen, Berechtigungen durchsetzen, riskante Werkzeugaufrufe erkennen und unerwünschtes Verhalten blockieren. Eine Sicherheitsplattform soll KI-Bestände auffinden, Skill- und MCP-Lieferketten prüfen und sensible Daten vor Abfluss schützen. Auch der Umgang mit nicht genehmigter, sogenannter Schatten-KI, wird als Thema genannt. 4
12
CMA: automatisierte Erstprüfung mit menschlicher Kontrolle
CMA kombiniert nach Unternehmensangaben ein eigenes großes Modell für Inhaltssicherheit mit spezialisierten kleineren Modellen. Verschiedene Agenten können demnach unterschiedliche Prüfstandards bearbeiten, rund um die Uhr laufen und bei Bedarf erweitert werden. Den Ablauf beschreibt NetEase als Kreislauf aus Bewertung, Weiterleitung, Bearbeitung, Rückmeldung und Optimierung. 7
9
Bei einem Kunden mit mehr als 2,5 Millionen Beschwerdetickets pro Monat soll die Kombination aus automatisierter Erstprüfung und anschließender menschlicher Kontrolle die durchschnittliche Prüfzeit von 35,7 auf 12,3 Minuten gesenkt haben. Die angegebene Genauigkeit lag bei 99,2 Prozent. Das sind vom Unternehmen berichtete Ergebnisse aus einem konkreten Anwendungsfall, keine unabhängigen Vergleichswerte. 1
9
DeepGuard: Erkennung von Gesichtsfälschungen
DeepGuard soll nach Darstellung von NetEase nicht allein nach bekannten Fälschungsmerkmalen suchen, sondern auch unplausible Inhalte erkennen. Der Ansatz kombiniert Deepfake-Erkennung, die Erkennung von KI-Wasserzeichen, stille Lebenderkennung und die Prüfung auf manipulierte Erfassungsumgebungen. 2
3
Laut den Berichten erhielt die Gesichtserkennung im Rahmen einer专项评测 des China Academy of Information and Communications Technology im Programm „Trusted AI“ die Bewertung „Excellent“. IT Home meldete außerdem in Zwischenprüfungen eine Erkennungsrate von 99 Prozent bei Angriffen durch abgefilmte Bildschirme und sehr nahe an die Kamera gehaltene Displays. Die verfügbaren Angaben reichen nicht aus, um das Testdesign zu beurteilen oder den Wert als allgemeine Leistungsgarantie zu verstehen. 1
2
Was die Ankündigung zeigt – und was offenbleibt
Die Vorstellung markiert eine breitere Sicherheitsgrenze: Nicht nur KI-Ausgaben sollen gefiltert werden. Auch Zugriffe, Berechtigungen und Aktionen sollen überwacht werden, wenn Agenten Werkzeuge und Geschäftssysteme nutzen. NetEase stellte dafür drei Sicherheitsebenen und drei Produktneuheiten vor und nannte Beispiele aus der Inhaltsprüfung und Gesichtserkennung. 2
3
6
Die veröffentlichten Berichte belegen jedoch keine unabhängig geprüfte Leistung über verschiedene Einsatzumgebungen hinweg. Die Zahlen zu CMA und DeepGuard sind deshalb als Unternehmensangaben zu konkreten Fällen oder Tests zu verstehen – nicht als allgemeine Garantie.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Nicht nur Antworten prüfen: NetEase setzt bei KI-Sicherheit auf die Kontrolle von Agenten“?
NetEase Zh iqi präsentierte am 3. November 2026 in Wuzhen ein dreistufiges KI Sicherheitssystem, das neben Modellausgaben auch die Aktionen von KI Agenten absichern soll.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
NetEase Zh iqi präsentierte am 3. November 2026 in Wuzhen ein dreistufiges KI Sicherheitssystem, das neben Modellausgaben auch die Aktionen von KI Agenten absichern soll. Der Ansatz verbindet KI für Sicherheitsaufgaben mit Kontrollen für Eingaben und Ausgaben, Identität, Datenzugriffe, Werkzeugaufrufe und die Ausführung von Aktionen.
Was soll ich als nächstes in der Praxis tun?
Bei einem Kunden soll der Prüfagent CMA die durchschnittliche Erstprüfung von Beschwerdetickets von 35,7 auf 12,3 Minuten verkürzt haben.