WorkBuddy 5.0, cosa fa il Centro sicurezza per rendere più sicuro il lavoro con l’AI

Il Centro sicurezza di WorkBuddy 5.0 è il tentativo di Tencent di rendere più sicuri gli agenti AI desktop nel momento in cui agiscono davvero su file e sistema operativo, non soltanto quando interpretano una richiesta. Nelle versioni 5.0 e successive riunisce sandbox, recupero delle eliminazioni e ripristino delle versioni dei file; i controlli principali sono attivi per impostazione predefinita. Per accedervi, nel client si apre l’avatar in basso a sinistra e si segue il percorso Impostazioni → Centro sicurezza. 612

Il principio: controllare l’esecuzione, non solo le parole del comando

Con Autorizzazione predefinita, i comandi dell’agente passano attraverso una sandbox di sicurezza prima dell’esecuzione. Le normali attività all’interno dell’area di lavoro possono proseguire, mentre azioni come la formattazione di un disco, l’accesso a posizioni di sistema sensibili o l’esplorazione della radice del sistema possono essere intercettate. 69

La differenza è rilevante perché un filtro basato solo sul testo del comando può riconoscere stringhe o schemi già noti. WorkBuddy descrive invece un meccanismo decisionale al livello delle API del sistema operativo, basato sull’operazione che l’agente sta tentando di compiere. In pratica, la protezione mira a restare efficace anche se un’azione rischiosa viene formulata in modo diverso rispetto a un comando già conosciuto. 67

La sandbox è un controllo aggiuntivo: non sostituisce la protezione degli endpoint, la classificazione dei dati o un piano di backup indipendente. Le indicazioni di Tencent per le imprese consigliano di combinarla con un’area di lavoro dedicata, i permessi predefiniti, copie di sicurezza dei file importanti e revisione umana. 5

Autorizzazione predefinita e Accesso completo: cosa cambia

Le due modalità riflettono un compromesso diverso tra autonomia dell’agente e supervisione dell’utente.

• Autorizzazione predefinita è la modalità raccomandata per l’uso quotidiano. Consente il lavoro ordinario, ma può chiedere conferma quando l’attività riguarda percorsi protetti, eliminazioni importanti o massive, script, comandi, applicazioni esterne o rischi di rete. La richiesta di approvazione serve a verificare azione, destinazione e possibile estensione dell’intervento prima di procedere. 25
• Accesso completo disattiva le conferme passo per passo per le azioni ad alto rischio, comprese scrittura ed eliminazione di file, script e chiamate a programmi esterni. È una modalità da riservare a un’attività breve e fidata, in un ambiente isolato dal quale sia possibile recuperare i dati; non è indicata per dati di produzione, clienti, finanza o file insostituibili. 28

Un flusso più prudente consiste nel tenere gli originali importanti fuori dall’area di lavoro dell’attività, fornire all’agente copie da elaborare e tornare all’Autorizzazione predefinita non appena termina un compito che richiedeva privilegi elevati. 18

Se l’agente cancella o modifica il file sbagliato

Il Centro sicurezza interviene su due problemi frequenti nelle attività autonome sui file.

File eliminati. Le eliminazioni avviate dall’agente sono configurate per passare dal cestino del sistema, anziché rimuovere subito il file in modo permanente. Il recupero può quindi avvenire con la normale procedura del sistema operativo. 69

File modificati. Prima che l’agente alteri un file esistente, WorkBuddy può salvare una copia dell’originale. Questo consente di ripristinare una versione precedente di file PowerPoint, Word, immagini e PDF, non solo il testo estratto dal documento. I nuovi file non ricevono una copia pre-modifica, perché non esiste una versione precedente da conservare. 29

Lo spazio destinato ai backup ha una capacità predefinita di 1 GB. Man mano che si riempie, le versioni più vecchie vengono eliminate automaticamente: è una funzione comoda per il recupero operativo, non un archivio di lungo periodo. 19

Al momento dell’annuncio, il backup automatico e il ripristino delle versioni erano pienamente disponibili su Windows; la funzione equivalente per Mac era indicata come in arrivo. 9

Crittografia e sicurezza dei contenuti generati

La documentazione di WorkBuddy afferma che la trasmissione dei dati usa HTTPS con TLS 1.2 o TLS 1.3, con l’obiettivo di proteggere i dati in transito da intercettazione, manomissione e attacchi man-in-the-middle. 17

Per l’uso aziendale, Tencent descrive inoltre un motore di sicurezza dei contenuti AIGC, cioè dei contenuti generati dall’intelligenza artificiale, che rileva e filtra output identificati come non conformi, dannosi o altrimenti non sicuri. È un livello di controllo sull’output, distinto dalle protezioni locali che regolano le azioni dell’agente sul dispositivo. 2128

Cosa cambia davvero per il lavoro con agenti AI

Il Centro sicurezza combina tre livelli che affrontano problemi differenti:

1. Confini di esecuzione, per limitare o interrompere azioni rischiose sul sistema operativo e sui file.
2. Approvazione dell’utente, per mantenere una persona nel processo decisionale durante le operazioni sensibili in modalità Autorizzazione predefinita.
3. Strumenti di recupero, per rendere meno definitive cancellazioni accidentali e modifiche indesiderate.

Questi controlli riducono il rischio, ma non rendono l’agente infallibile. La configurazione più difendibile resta quella con un’area di lavoro separata, privilegi minimi, revisione umana prima delle azioni che hanno conseguenze rilevanti e backup indipendenti per tutto ciò che non può essere sostituito. 58