AnswersPublished20 sources
Tekoälyagentin toimintaa on valvottava siinä missä sen vastauksiakin
NetEase Zh iqi esitteli Wuzhenissa 3. marraskuuta 2026 kolmikerroksisen tekoälyn tietoturvajärjestelmän, joka pyrkii valvomaan myös tekoälyagenttien toimintaa.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- NetEase Zh iqi esitteli Wuzhenissa 3. marraskuuta 2026 kolmikerroksisen tekoälyn tietoturvajärjestelmän, joka pyrkii valvomaan myös tekoälyagenttien toimintaa.
- Yidunin kaksisuuntainen malli yhdistää tekoälyn käytön tietoturvassa suojauksiin, jotka rajaavat mallien syötteitä ja vastauksia, datan käyttöä sekä agenttien työkalukutsuja.
- Yhtiön mukaan CMA työkalu lyhensi yhden asiakasyrityksen reklamaatiotapausten ensitarkastuksen keskimääräistä kestoa 35,7 minuutista 12,3 minuuttiin.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did NetEase Yidun, NetEase’s enterprise-services content and risk-control security unit, unveil on November 3 at the 2026 World Interne. Article summary: NetEase’s enterprise-services business unveiled an AI-native security product system built on Yidun’s “bidirectional AI security architecture” on November 3, 2026, at the World Internet Conference’s Light of Internet Exp. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Tekoälyn tietoturvassa ei enää riitä, että tarkistetaan, mitä malli vastaa. NetEase Zh iqi esitteli 3. marraskuuta 2026 Kiinan Wuzhenissa järjestetyssä World Internet Conferencen Light of Internet Expo -tapahtumassa Yidunin kaksisuuntaiseen tietoturva-arkkitehtuuriin perustuvan järjestelmän, jonka tavoitteena on valvoa myös sitä, mitä tekoäly tekee. IT Homen mukaan julkaisu sai messujen ensijulkaisun saavutustodistuksen. 1
2
Vastauksista toiminnan rajoihin
Yidunin malli tiivistyy ajatukseen ”tekoälyä tietoturvan tueksi, tietoturvaa tekoälyn suojaksi”. Ensimmäisessä suunnassa tekoälyä hyödynnetään tietoturvatyössä; toisessa tekoälylle asetetaan suojauksia, joiden on tarkoitus pitää sen toiminta määritellyissä rajoissa. NetEase Zh iqin varatoimitusjohtaja ja Yidun-liiketoiminnan johtaja Zhu Haoqi esitteli tämän lähestymistavan. 3
6
Järjestelmän painopiste kertoo laajemmasta riskistä: kun tekoälyä käytetään esimerkiksi markkinoinnissa, asiakaspalvelussa, kehitystyössä, henkilöllisyyden varmentamisessa ja liiketoiminnan transaktioissa, uhkia voi syntyä vastausten lisäksi datan käytöstä ja automaattisista toimista. Yhtiö nostaa esiin muun muassa tekoälyn tuottaman sisällön, syväväärennökset, automatisoidun petostoiminnan, mallien suojauksien kiertämisen, arkaluonteisten tietojen vuotamisen sekä agenttien luvattomat toimet. 5
Yidunin mukaan suojaukset kattavat mallien syötteet ja vastaukset, tunnistautumiseen liittyvät vuorovaikutustilanteet, datan käytön, agenttien työkalukutsut ja tehtävien suorittamisen. Keinoihin kuuluvat sisällön tunnistaminen, aikomusten arviointi, käyttöoikeuksien hallinta, riskien torjunta ja tapahtumien jäljitettävä kirjaaminen. 2
3
Kolme suojaustasoa ja kolme julkistettua ratkaisua
Kokonaisuus jakautuu kolmeen alueeseen: tekoälysisältöjen ja datan tietoturvaan, vuorovaikutuksen ja henkilöllisyyden tietoturvaan sekä tekoälymallien ja agenttien tietoturvaan. Julkistettuihin ratkaisuihin kuuluivat sisältöjen tarkastamiseen tarkoitettu CMA, DeepGuard-kasvojenväärennösten tunnistus sekä tekoälysovellusten ja agenttien tietoturva. 1
6
8
Yhtiön mukaan suurten kielimallien suojaukset tarkistavat syötteitä ja vastauksia. Agent Guardin kuvataan arvioivan, vastaako agentin aikomus sille annettua tehtävää, onko sillä tarvittavat oikeudet ja liittyykö työkalun käyttöön riskejä. Järjestelmä voi myös pysäyttää riskialttiin toiminnan. Agenttien tietoturva-alustan kerrotaan auttavan tekoälyjärjestelmien kartoituksessa, Skill- ja MCP-toimitusketjujen tarkastamisessa sekä arkaluonteisten tietojen vuotojen ehkäisyssä. Yhdessä raportissa mainitaan myös varjoälyn hallinta. 4
12
CMA yhdistää automaattisen ensitarkastuksen ja ihmisen arvion
CMA yhdistää NetEasen oman sisällön turvallisuuteen kehitetyn suuren kielimallin erikoistuneisiin pienempiin malleihin. Yhtiön mukaan eri arviointistandardeja voidaan käsitellä eri agenteilla, järjestelmä voi toimia ympäri vuorokauden ja kapasiteettia voidaan kasvattaa tarpeen mukaan. Kuvattuun prosessiin kuuluvat arviointi, tapausten ohjaus, käsittely, palautteen kerääminen ja toiminnan parantaminen. 7
9
Yhdessä asiakasyrityksen reklamaatiotapausten käsittelyssä kuukausittainen määrä oli yhtiön mukaan yli 2,5 miljoonaa tapausta. Kun CMA teki ensitarkastuksen ja ihminen tarkisti tulokset, keskimääräinen tarkastusaika lyheni 35,7 minuutista 12,3 minuuttiin. Yhtiö ilmoitti tarkkuudeksi 99,2 prosenttia. Luvut koskevat yhtä kuvattua työnkulkua, eivätkä ole riippumattomasti vahvistettuja yleisiä suorituskykylukuja. 1
9
DeepGuard etsii kuvasta epäuskottavuuksia
NetEase kuvailee DeepGuardin perustuvan visuaaliseen ymmärtämiseen: se pyrkii tunnistamaan epäuskottavia piirteitä sen sijaan, että se etsisi vain ennalta tunnettuja väärennöksen merkkejä. Yhtiön mukaan menetelmä yhdistää syväväärennösten tunnistuksen, tekoälyn vesileimojen tunnistamisen, huomaamattomat elossaolotarkistukset ja hyökkäysympäristön havaitsemisen. 2
3
Yhtiö kertoo kasvojenväärennösten tunnistuskyvyn saaneen Kiinan tieto- ja viestintätekniikan akatemian Trusted AI -arvioinnissa arvosanan ”Excellent”. IT Homen mukaan vaiheittaisissa testeissä näytöltä uudelleen kuvaamiseen ja kameraa aivan näyttöä vasten käyttäviin hyökkäyksiin liittyvä tunnistusaste oli 99 prosenttia. Julkisissa tiedoissa ei kuitenkaan kuvata testiasetelmaa riittävästi, jotta tulosta voisi arvioida itsenäisesti tai pitää yleisenä lupauksena todellisesta suorituskyvystä. 1
2
Mitä julkistus kertoo – ja mitä ei
Julkistuksen keskeinen ajatus on laajentaa tietoturvan rajaa: tekoälyn tuottaman sisällön tarkastamisen rinnalla halutaan valvoa oikeuksia, datan käyttöä ja agenttien toimia niiden käyttäessä työkaluja ja yritysjärjestelmiä. Yhtiö esitteli järjestelmän kolme tasoa sekä kolme ratkaisua ja toi esiin omia tuloksiaan sisällöntarkastuksesta ja kasvojenväärennösten tunnistuksesta. 2
3
6
Saatavilla olevat tiedot eivät osoita, miten järjestelmä suoriutuu riippumattomasti eri käyttöönottoympäristöissä. CMA:n ja DeepGuardin tuloksia on siksi syytä pitää yhtiön raportoimina esimerkkeinä tietyistä tapauksista tai testeistä, ei yleispätevinä takeina.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tekoälyagentin toimintaa on valvottava siinä missä sen vastauksiakin"?
NetEase Zh iqi esitteli Wuzhenissa 3. marraskuuta 2026 kolmikerroksisen tekoälyn tietoturvajärjestelmän, joka pyrkii valvomaan myös tekoälyagenttien toimintaa.
What are the key points to validate first?
NetEase Zh iqi esitteli Wuzhenissa 3. marraskuuta 2026 kolmikerroksisen tekoälyn tietoturvajärjestelmän, joka pyrkii valvomaan myös tekoälyagenttien toimintaa. Yidunin kaksisuuntainen malli yhdistää tekoälyn käytön tietoturvassa suojauksiin, jotka rajaavat mallien syötteitä ja vastauksia, datan käyttöä sekä agenttien työkalukutsuja.
What should I do next in practice?
Yhtiön mukaan CMA työkalu lyhensi yhden asiakasyrityksen reklamaatiotapausten ensitarkastuksen keskimääräistä kestoa 35,7 minuutista 12,3 minuuttiin.