Näin WorkBuddy 5.0:n tietoturvakeskus tekee AI-agentin toiminnasta turvallisempaa

WorkBuddy 5.0:n tietoturvakeskus pyrkii tekemään työpöydällä toimivista AI-agenteista turvallisempia juuri siinä vaiheessa, kun ne käsittelevät tiedostoja tai yrittävät tehdä toimia käyttöjärjestelmässä. Kyse ei siis ole vain siitä, miten käyttäjän pyyntö tulkitaan. Versiossa 5.0 ja sitä uudemmissa hiekkalaatikko, poistettujen tiedostojen palautus ja muokkausten versioiden palautus on koottu samaan näkymään, ja keskeiset suojaukset ovat oletusarvoisesti käytössä. Polku löytyy sovelluksen vasemman alakulman profiilikuvasta: Asetukset → Tietoturvakeskus. 612

Ajatuksena on rajoittaa toteutusta, ei vain tunnistaa sanoja

Oletusoikeus-tilassa WorkBuddy ohjaa agentin komennot tietoturvahiekkalaatikon kautta ennen niiden suorittamista. Tavallinen työskentely työtilassa voi jatkua, mutta esimerkiksi levyn alustamiseen, arkaluonteisiin järjestelmäsijainteihin tai järjestelmän juurihakemistoon kohdistuvat toimet voidaan pysäyttää. 69

Tämä on merkityksellistä, koska pelkkään komentotekstiin perustuva suodatus tunnistaa lähinnä ennalta tunnettuja sanoja ja muotoiluja. WorkBuddyn kuvauksen mukaan päätöksiä tehdään käyttöjärjestelmän API-rajapinnan tasolla sen perusteella, mitä toimintoa agentti on yrittämässä. Tarkoitus on, että suojaus toimii myös silloin, kun sama riskialtis teko ilmaistaan eri tavalla kuin jokin aiemmin tunnettu komento. 67

Hiekkalaatikko on lisäsuoja, ei korvike päätelaitesuojaukselle, tiedon luokittelulle tai erilliselle varmuuskopioinnille. Tencentin yrityskäyttöä koskeva ohjeistus suosittelee yhdistämään erillisen työtilan, oletusoikeudet, tärkeiden tiedostojen varmuuskopiot ja ihmisen tekemän tarkistuksen. 5

Oletusoikeus vai täysi käyttöoikeus?

Tilat painottavat eri tavoin automaatiota ja käyttäjän valvontaa:

• Oletusoikeus on suositeltu tila tavalliseen käyttöön. Se sallii normaaleja työtehtäviä, mutta voi pyytää vahvistuksen, kun tehtävä koskee suojattuja polkuja, tärkeää tai laajamittaista poistoa, skriptejä, komentoja, ulkoisia sovelluksia tai verkkoon liittyviä riskejä. Vahvistusikkunan tarkoitus on antaa käyttäjälle mahdollisuus tarkistaa toiminto, kohde ja todennäköinen vaikutusalue ennen jatkamista. 25
• Täysi käyttöoikeus poistaa tällaiset vaiheittaiset vahvistukset riskialttiista toimista, kuten tiedostojen kirjoittamisesta ja poistamisesta, skriptien suorittamisesta ja ulkoisten ohjelmien kutsumisesta. Sitä kannattaa käyttää vain lyhytaikaisesti luotetussa, eristetyssä ympäristössä, jossa palautuminen on mahdollista – ei tuotanto-, asiakas-, talous- tai korvaamattomien tietojen käsittelyyn. 28

Turvallisempi käytäntö on säilyttää tärkeät alkuperäistiedostot työtilan ulkopuolella ja antaa agentille käsiteltäväksi niiden kopiot. Kun tilapäinen, korotettu käyttöoikeus ei enää ole tarpeen, kannattaa palata Oletusoikeus-tilaan. 18

Virheellisesti poistettujen tai muokattujen tiedostojen palautus

Tietoturvakeskus kohdistuu kahteen tavalliseen autonomisen tiedostotyön ongelmaan.

Poistetut tiedostot: Agentin tekemä poisto on määritetty käyttämään käyttöjärjestelmän roskakoria sen sijaan, että tiedosto hävitettäisiin heti pysyvästi. Tiedoston voi tällöin palauttaa käyttöjärjestelmän tavallisella roskakoritoiminnolla. 69

Muokatut tiedostot: Ennen kuin agentti muuttaa olemassa olevaa tiedostoa, WorkBuddy voi tallentaa alkuperäisestä varmuuskopion. Näin voidaan palauttaa aiempi versio esimerkiksi PowerPoint-, Word-, kuva- ja PDF-tiedostoista – eikä vain palauttaa niistä poimittua tekstiä. Uusista tiedostoista ei tehdä muokkausta edeltävää kopiota, koska aiempaa versiota ei ole. 29

Varmuuskopioille on oletuksena 1 Gt tilaa. Kun tila täyttyy, vanhempia varmuuskopioversioita poistetaan automaattisesti. Ominaisuus helpottaa virheistä palautumista, mutta sitä ei pidä pitää pitkäaikaisena arkistointiratkaisuna. 19

Ominaisuuksien julkistuksen aikaan automaattinen varmuuskopiointi ja versioiden palautus olivat täysin käytössä Windowsissa. Vastaavan Mac-tuen kerrottiin olevan tulossa myöhemmin. 9

Salaus ja tuotetun sisällön suojaus

WorkBuddyn dokumentaation mukaan tiedonsiirrossa käytetään HTTPS:ää sekä TLS 1.2- tai TLS 1.3 -protokollaa. Suojauksen tavoitteena on estää tiedonsiirron salakuuntelu, muuttaminen ja väliintulohyökkäykset. 17

Yrityskäytössä Tencent kuvaa lisäksi AIGC-sisällönturvamoottoria, joka tunnistaa ja suodattaa tuotettua sisältöä, jos se arvioidaan sääntöjenvastaiseksi, haitalliseksi tai muuten turvattomaksi. Tämä on tuotoksen hallintakerros, joka on erillinen laitteella tehtäviä toimia rajaavista paikallisista suojauksista. 2128

Mitä tämä merkitsee AI-agentin käytössä?

Tietoturvakeskus yhdistää kolme eri ongelmia ratkovaa suojakerrosta:

1. Suoritusrajoitukset rajaavat tai keskeyttävät riskialttiita käyttöjärjestelmä- ja tiedostotoimia.
2. Käyttäjän hyväksyntä pitää ihmisen mukana herkkien toimien päätöksenteossa Oletusoikeus-tilassa.
3. Palautuskeinot tekevät vahinkopoistoista ja ei-toivotuista muokkauksista vähemmän lopullisia.

Nämä keinot pienentävät riskiä, mutta eivät tee agentista erehtymätöntä. Kestävin käytäntö on yhä erillinen työtila, mahdollisimman vähäiset käyttöoikeudet, ihmisen tarkistus ennen merkittäviä toimia sekä itsenäiset varmuuskopiot kaikesta, mitä ei voi korvata. 58