Slik gjør WorkBuddy 5.0 AI-agentarbeid tryggere

WorkBuddy 5.0s Sikkerhetssenter er Tencents forsøk på å gjøre AI-agenter på skrivebordet tryggere der de faktisk handler: i filer og operativsystemet, ikke bare når de tolker en tekstinstruks. I versjon 5.0 og nyere samler senteret sandkasse, gjenoppretting etter sletting og tilbakeføring av filversjoner på ett sted. Kjernefunksjonene er aktivert som standard. Åpne klienten, velg avataren nederst til venstre og gå til Innstillinger → Sikkerhetssenter. 612

Hovedideen: Begrens handlingen, ikke bare instruksjonen

Med Standardtillatelse blir agentkommandoer sendt gjennom en sikkerhetssandkasse før de utføres. Vanlig arbeid i arbeidsområdet kan fortsette, mens handlinger som formatering av disk, tilgang til sensitive systemområder eller gjennomgang av systemroten kan stoppes. 69

Det er et viktig skille fra løsninger som bare ser etter risikable ord eller kjente mønstre i kommandoer. WorkBuddy oppgir at avgjørelsen tas på operativsystemets API-nivå, ut fra operasjonen agenten faktisk forsøker å utføre. Tanken er dermed at beskyttelsen også skal fungere dersom en risikabel handling formuleres på en ny måte. 67

Sandkassen er imidlertid et ekstra sikkerhetslag, ikke en erstatning for endepunktsikring, dataklassifisering eller en selvstendig sikkerhetskopi. Tencents veiledning for virksomheter anbefaler å kombinere et eget arbeidsområde, standardtillatelser, sikkerhetskopier av viktige filer og menneskelig kontroll. 5

Standardtillatelse eller Full tilgang?

De to modusene gir ulik balanse mellom autonomi og kontroll:

• Standardtillatelse er anbefalt til vanlig bruk. Agenten kan utføre ordinært arbeid, men kan be om bekreftelse dersom oppgaven gjelder beskyttede stier, viktige eller omfattende slettinger, skript, kommandoer, eksterne programmer eller nettverksrelatert risiko. Dialogen er ment å la brukeren kontrollere handlingen, målet og sannsynlig omfang før den fortsetter. 25
• Full tilgang slår av slike trinnvise bekreftelser for høyrisikohandlinger, blant annet filskriving og sletting, skript og kall til eksterne programmer. Modusen bør forbeholdes korte, betrodde oppgaver i et isolert miljø der gjenoppretting er mulig – ikke produksjonsdata, kundedata, økonomiske opplysninger eller uerstattelige filer. 28

En mer forsvarlig praksis er å beholde viktige originalfiler utenfor arbeidsområdet, la agenten arbeide med kopier og bytte tilbake til Standardtillatelse når en enkeltoppgave med utvidede rettigheter er ferdig. 18

Når agenten sletter eller endrer feil fil

Sikkerhetssenteret retter seg mot to vanlige feil ved selvstendig filarbeid.

Slettede filer: Slettinger utført av agenten er satt opp til å bruke operativsystemets papirkurv fremfor umiddelbar permanent sletting. Dermed kan filene normalt gjenopprettes gjennom den vanlige papirkurvfunksjonen i operativsystemet. 69

Redigerte filer: Før agenten endrer en eksisterende fil, kan WorkBuddy lagre en sikkerhetskopi av originalen. Det gjør det mulig å gå tilbake til en tidligere versjon av PowerPoint-, Word-, bilde- og PDF-filer – ikke bare hente ut tekstinnhold. Nye filer får ingen sikkerhetskopi før redigering, siden det ikke finnes en eldre versjon å bevare. 29

Lageret for sikkerhetskopier har en standardgrense på 1 GB. Når lagringsplassen fylles opp, fjernes eldre sikkerhetskopier automatisk. Funksjonen er derfor nyttig for rask feilretting, men bør ikke betraktes som langtidsarkiv. 19

Da funksjonene ble annonsert, var automatisk sikkerhetskopiering og versjonsgjenoppretting fullt tilgjengelig i Windows. Tilsvarende funksjon for Mac var varslet som kommende. 9

Kryptering og kontroll av generert innhold

Ifølge WorkBuddys dokumentasjon bruker dataoverføring HTTPS med TLS 1.2 eller TLS 1.3. Formålet er å beskytte data under overføring mot avlytting, manipulering og såkalte «man-in-the-middle»-angrep. 17

For virksomheter beskriver Tencent også en AIGC-motor for innholdssikkerhet som oppdager og filtrerer generert innhold den klassifiserer som ikke-kompatibelt, skadelig eller på annen måte utrygt. Dette er et kontrollag for resultatet agenten produserer, separat fra de lokale sikkerhetsgrensene for hva agenten kan gjøre på enheten. 2128

Hva dette betyr i praksis

Sikkerhetssenteret kombinerer tre lag som løser ulike problemer:

1. Grenser for utførelse begrenser eller avbryter risikable handlinger i operativsystemet og filsystemet.
2. Brukergodkjenning holder et menneske i kontrollsløyfen ved sensitive operasjoner under Standardtillatelse.
3. Gjenoppretting gjør feilaktig sletting og uønskede endringer mindre endelige.

Dette reduserer risikoen, men gjør ikke en AI-agent feilfri. Den mest robuste oppsettet er fortsatt et separat arbeidsområde, minst mulig tilgang, menneskelig gjennomgang før handlinger med store konsekvenser og uavhengige sikkerhetskopier av alt som ikke kan erstattes. 58