WorkBuddy 5.0 vil sætte sikkerhedsgrænser for AI-agenten, før den ændrer din computer

WorkBuddy 5.0’s Sikkerhedscenter er Tencents bud på at gøre AI-agenter på skrivebordet mindre risikable dér, hvor de faktisk arbejder med filer og operativsystemet – ikke kun når de fortolker en prompt. I version 5.0 og nyere samler centret sandkasse, gendannelse efter sletning og gendannelse af tidligere filversioner ét sted, og kernefunktionerne er aktiveret som standard. Åbn klienten, klik på avataren nederst til venstre, og vælg Indstillinger → Sikkerhedscenter. 612

Hovedideen: Begræns udførelsen, ikke bare formuleringen

I tilstanden Default Permission (standardtilladelse) sendes agentens kommandoer først gennem en sikkerhedssandkasse, før de bliver udført. Almindeligt arbejde i arbejdsområdet kan fortsætte, mens handlinger som formatering af en disk, adgang til følsomme systemplaceringer eller gennemgang af systemets rodmappe kan blive stoppet. 69

Det er en væsentlig forskel fra filtre, der kun leder efter kendte farlige ord eller mønstre i en kommando. WorkBuddy beskriver selv modellen som en vurdering på operativsystemets API-niveau ud fra den handling, agenten forsøger at udføre. Tanken er derfor, at værnet fortsat kan være relevant, selv hvis en risikabel handling formuleres på en ny måde. 67

Sandkassen er dog et ekstra sikkerhedslag – ikke en erstatning for endpoint-beskyttelse, dataklassificering eller en selvstændig backupstrategi. Tencents vejledning til virksomheder anbefaler at kombinere et særskilt arbejdsområde, standardtilladelser, backup af vigtige filer og menneskelig kontrol. 5

Default Permission eller Full Access?

De to tilstande balancerer automatisering og kontrol forskelligt:

• Default Permission er den anbefalede indstilling til hverdagsbrug. Agenten kan udføre almindelige opgaver, men kan bede om godkendelse, når en opgave omfatter beskyttede stier, vigtige eller mange sletninger, scripts, kommandoer, eksterne programmer eller netværksrelateret risiko. Dialogen skal give brugeren mulighed for at gennemgå handling, mål og forventet omfang, før arbejdet fortsætter. 25
• Full Access fjerner de løbende bekræftelser ved højrisikohandlinger, herunder skrivning og sletning af filer, scripts og kald til eksterne programmer. Tilstanden bør kun bruges kortvarigt til en betroet opgave i et isoleret miljø, hvor gendannelse er mulig – ikke på produktionsdata, kundedata, finansielle oplysninger eller uerstattelige filer. 28

En forsigtig arbejdsgang er at beholde de originale, vigtige filer uden for arbejdsområdet, lade agenten behandle kopier og skifte tilbage til Default Permission, så snart en enkelt opgave med udvidede rettigheder er afsluttet. 18

Hvis agenten sletter eller ændrer noget forkert

Sikkerhedscentret retter sig mod to velkendte fejlscenarier ved selvstændigt filarbejde.

Slettede filer: Sletninger, som agenten udfører, er sat op til at bruge systemets papirkurv frem for straks at fjerne filen permanent. Dermed kan filen gendannes via operativsystemets normale funktion til papirkurven. 69

Redigerede filer: Inden agenten ændrer en eksisterende fil, kan WorkBuddy gemme en sikkerhedskopi af originalen. Det gør det muligt at vende tilbage til en tidligere version af PowerPoint-, Word-, billed- og PDF-filer – ikke blot at gendanne udtrukket tekst. Nye filer får ikke en backup før redigering, fordi der ikke findes en tidligere version at bevare. 29

Backupområdet har som standard en kapacitet på 1 GB. Når lageret fyldes, ryddes ældre backupversioner automatisk, så funktionen bør ikke betragtes som langtidsarkivering. 19

Da funktionerne blev annonceret, var automatisk backup og versionsgendannelse fuldt tilgængelige på Windows. Den tilsvarende funktion til Mac var beskrevet som kommende. 9

Kryptering og kontrol af genereret indhold

WorkBuddys dokumentation oplyser, at datatransmission bruger HTTPS med TLS 1.2 eller TLS 1.3. Det skal beskytte data under overførsel mod aflytning, manipulation og man-in-the-middle-angreb. 17

Til virksomhedsbrug beskriver Tencent desuden en AIGC-motor til indholdssikkerhed, som registrerer og filtrerer genereret indhold, der vurderes at være regelstridigt, skadeligt eller på anden måde usikkert. Det er et lag til kontrol af output og er adskilt fra de lokale værn, der bestemmer, hvad en agent kan gøre på enheden. 2128

Hvad ændrer det i praksis?

Sikkerhedscentret samler tre typer værn, der løser forskellige problemer:

1. Grænser for udførelse begrænser eller afbryder risikable handlinger i operativsystemet og filsystemet.
2. Brugergodkendelse holder et menneske med i beslutningen ved følsomme operationer under Default Permission.
3. Gendannelsesfunktioner gør fejl som utilsigtet sletning og uønskede ændringer mindre endelige.

Det reducerer risikoen, men gør ikke en AI-agent ufejlbarlig. Den mest forsvarlige opsætning er fortsat et separat arbejdsområde, mindst mulige rettigheder, menneskelig gennemgang før konsekvensfulde handlinger og uafhængig backup af alt, der ikke kan erstattes. 58