Så gör WorkBuddy 5.0 AI-arbete på datorn säkrare

WorkBuddy 5.0:s Säkerhetscenter är Tencents försök att göra AI-agenter säkrare där de faktiskt kan agera: i filer och i operativsystemet, inte bara när de tolkar en uppmaning. I version 5.0 och senare samlas sandboxning, återställning av raderade filer och återställning av tidigare filversioner på ett ställe. De centrala skydden är påslagna som standard. Öppna klienten och gå via avataren nere till vänster till Inställningar → Säkerhetscenter. 612

Grundidén: begränsa utförandet, inte bara instruktionen

Med standardbehörighet passerar agentens kommandon först en säkerhetssandbox innan de utförs. Normalt arbete i arbetsytan kan fortsätta, medan exempelvis diskformatering, åtkomst till känsliga systemplatser eller genomgång av systemets rotkatalog kan stoppas. 69

Det är en viktig skillnad mot skydd som enbart letar efter kända farliga ord eller mönster i ett kommando. WorkBuddy uppger att systemet fattar beslut på operativsystemets API-nivå utifrån den åtgärd agenten försöker utföra. Tanken är alltså att skyddet ska vara relevant även om samma risk uttrycks med en annan kommandoformulering. 67

Sandboxen är dock ett extra skydd, inte en ersättning för enhetsskydd, dataklassning eller oberoende säkerhetskopior. Tencents företagsriktlinjer rekommenderar en separat arbetsyta, standardbehörighet, säkerhetskopiering av viktiga filer och mänsklig kontroll. 5

Standardbehörighet eller full åtkomst?

De två lägena innebär olika avvägningar mellan automatisering och kontroll:

• Standardbehörighet är det rekommenderade läget för vardagsarbete. Vanliga uppgifter kan utföras, men WorkBuddy kan be om godkännande när en uppgift rör skyddade sökvägar, viktiga eller omfattande raderingar, skript, kommandon, externa program eller nätverksrelaterad risk. Dialogrutan är tänkt att ge användaren möjlighet att kontrollera åtgärden, målet och den sannolika omfattningen innan arbetet fortsätter. 25
• Full åtkomst stänger av dessa stegvisa bekräftelser för högriskåtgärder, bland annat filskrivning och radering, skript och anrop till externa program. Läget bör reserveras för korta, betrodda uppgifter i en isolerad miljö där återställning är möjlig – inte för produktionsdata, kunduppgifter, ekonomiskt material eller oersättliga filer. 28

Ett försiktigare arbetssätt är att låta original av viktiga filer ligga utanför arbetsytan, ge agenten kopior att bearbeta och sedan återgå till standardbehörighet när den tillfälliga uppgiften är klar. 18

Om agenten raderar eller ändrar fel fil

Säkerhetscentret hanterar två vanliga risker med autonom filhantering.

Raderade filer: Radering som utförs av agenten är inställd på att använda operativsystemets papperskorg i stället för att omedelbart radera filen permanent. Därmed kan filen återställas via operativsystemets vanliga funktion för papperskorgen. 69

Ändrade filer: Innan agenten ändrar en befintlig fil kan WorkBuddy spara en säkerhetskopia av originalet. Det gör att tidigare versioner av PowerPoint-, Word-, bild- och PDF-filer kan återställas – inte bara text som har extraherats ur dokumentet. Nya filer får ingen förhandskopia, eftersom det inte finns någon tidigare version att bevara. 29

Backup-lagret har en standardgräns på 1 GB. När utrymmet fylls rensas äldre säkerhetskopior automatiskt, vilket innebär att funktionen inte bör betraktas som långsiktig arkivering. 19

När funktionerna presenterades fanns automatisk säkerhetskopiering och versionsåterställning fullt ut för Windows. Motsvarande funktion för Mac beskrevs som kommande. 9

Kryptering och skydd av genererat innehåll

Enligt WorkBuddys dokumentation krypteras dataöverföring med HTTPS och TLS 1.2 eller TLS 1.3. Det är avsett att skydda data under överföring mot avlyssning, manipulation och man-in-the-middle-attacker. 17

För företagsanvändning beskriver Tencent även en säkerhetsmotor för AIGC-innehåll, alltså AI-genererat innehåll. Den ska upptäcka och filtrera genererat material som identifieras som otillåtet, skadligt eller på annat sätt osäkert. Detta är ett skydd av resultatet, skilt från de lokala spärrarna som styr vad agenten får göra på en dator. 2128

Tre skyddslager – men ingen garanti

Säkerhetscentret kombinerar tre lager som löser olika problem:

1. Gränser för utförande begränsar eller avbryter riskabla operativsystems- och filåtgärder.
2. Användarens godkännande håller människan involverad vid känsliga åtgärder i läget standardbehörighet.
3. Återställningsfunktioner gör felaktiga raderingar och oönskade ändringar mindre definitiva.

Skydden minskar risken, men gör inte en AI-agent felfri. Den mest hållbara uppsättningen är fortfarande en separat arbetsyta, minsta möjliga behörighet, mänsklig granskning före betydelsefulla åtgärder och fristående säkerhetskopior av allt som inte går att ersätta. 58