Jak Bezpečnostní centrum WorkBuddy 5.0 chrání práci AI agenta

Bezpečnostní centrum WorkBuddy 5.0 má řešit rizika v okamžiku, kdy AI agent skutečně sahá na soubory nebo operační systém — nejen ve chvíli, kdy vyhodnocuje textový pokyn. Ve verzi 5.0 a novějších jsou klíčové ochrany zapnuté standardně: sandbox, možnost obnovit smazané soubory a návrat k předchozí verzi upraveného souboru. V klientovi je najdete po kliknutí na avatar vlevo dole v nabídce Nastavení → Bezpečnostní centrum. 612

Důležitý rozdíl: hlídat prováděnou akci, ne jen text příkazu

V režimu Výchozí oprávnění (Default Permission) procházejí příkazy agenta před spuštěním bezpečnostním sandboxem. Běžná práce v pracovním prostoru může pokračovat, zatímco například formátování disku, přístup k citlivým systémovým umístěním nebo procházení kořenového adresáře systému může být zachyceno. 69

To je podstatné hlavně proto, že filtrování založené výhradně na znění příkazu umí rozpoznat jen známé řetězce a vzory. WorkBuddy uvádí, že rozhoduje na úrovni API operačního systému podle operace, kterou se agent pokouší provést. Ochrana tak nemá záviset jen na tom, zda je rizikový záměr formulován stejnými slovy jako dříve známý příkaz. 67

Sandbox ale není náhradou za zabezpečení koncových zařízení, klasifikaci dat ani samostatné zálohování. Doporučení Tencentu pro firemní nasazení kombinuje oddělený pracovní prostor, výchozí oprávnění, zálohy důležitých souborů a lidskou kontrolu. 5

Výchozí oprávnění vs. plný přístup

Oba režimy znamenají jinou míru autonomie agenta i kontroly uživatele:

• Výchozí oprávnění jsou doporučená volba pro každodenní práci. Agent může dělat rutinní úkoly, ale při přístupu k chráněným cestám, důležitém či hromadném mazání, spouštění skriptů a příkazů, volání externích aplikací nebo u síťových rizik může vyžádat potvrzení. Uživatel si tak může předem zkontrolovat akci, cíl i předpokládaný rozsah dopadu. 25
• Plný přístup (Full Access) vypíná průběžná potvrzení pro vysoce rizikové kroky, včetně zápisu a mazání souborů, skriptů a volání externích programů. Hodí se jen pro krátký, důvěryhodný úkol v izolovaném prostředí, kde je možné stav obnovit — nikoli pro produkční, zákaznická, finanční nebo nenahraditelná data. 28

Rozumný postup je ponechat originály důležitých souborů mimo pracovní prostor úlohy, agentovi předat jen kopie a po jednorázovém použití vyšších oprávnění se vrátit k režimu Výchozí oprávnění. 18

Když agent smaže nebo nechtěně upraví soubor

Bezpečnostní centrum míří na dva časté problémy autonomní práce se soubory.

Smazané soubory: Mazání provedené agentem má vést do systémového koše, místo aby soubor ihned zmizel natrvalo. Obnovu pak lze provést standardním postupem daného operačního systému. 69

Upravené soubory: Před úpravou existujícího souboru může WorkBuddy uložit zálohu jeho původní verze. Lze se tak vrátit k předchozí verzi prezentace PowerPoint, dokumentu Word, obrázku nebo PDF — nejde jen o obnovu vytaženého textu. U nově vytvořených souborů se předúpravová záloha nevytváří, protože žádná dřívější verze neexistuje. 29

Úložiště záloh má výchozí kapacitu 1 GB. Jak se zaplní, starší verze se automaticky odstraňují. Jde tedy o praktickou pojistku proti chybám, ne o dlouhodobý archiv nebo náhradu vlastního zálohování. 19

Při oznámení těchto funkcí bylo automatické zálohování a obnovení verzí plně dostupné ve Windows; odpovídající funkce pro Mac byla uvedena jako připravovaná. 9

Šifrování přenosu a kontrola generovaného obsahu

Dokumentace WorkBuddy uvádí, že přenos dat používá HTTPS s TLS 1.2 nebo TLS 1.3. Cílem je chránit data při přenosu před odposlechem, manipulací a útokem typu man-in-the-middle. 17

Pro podnikové použití Tencent popisuje také bezpečnostní modul pro obsah generovaný AI (AIGC), který automaticky rozpoznává a filtruje výstupy vyhodnocené jako nevyhovující, škodlivé nebo jinak nebezpečné. Jde o samostatnou vrstvu kontroly výstupů; lokální sandbox naopak řeší, co agent smí vykonat na zařízení. 2128

Co to v praxi přináší

Bezpečnostní centrum spojuje tři navzájem odlišné pojistky:

1. Hranice provádění omezují nebo přerušují rizikové operace v systému a nad soubory.
2. Schválení uživatelem udržuje člověka v rozhodovacím procesu při citlivých akcích v režimu Výchozí oprávnění.
3. Mechanismy obnovy zmírňují následky omylem smazaných souborů a nechtěných úprav.

Tyto vrstvy riziko snižují, ale nedělají z agenta neomylný nástroj. Nejobhajitelnější nastavení stále znamená oddělený pracovní prostor, co nejmenší nutná oprávnění, lidskou kontrolu před důslednými kroky a nezávislé zálohy všeho, co nelze snadno nahradit. 58