איך מרכז האבטחה של WorkBuddy 5.0 הופך עבודה עם סוכני AI לבטוחה יותר

מרכז האבטחה של WorkBuddy 5.0 נועד להתמודד עם נקודת הסיכון המרכזית של סוכני AI למחשב שולחני: הרגע שבו הסוכן לא רק מציע טקסט, אלא משנה קבצים ומבצע פעולות במערכת ההפעלה. בגרסה 5.0 ומעלה, ארגז החול, אפשרויות השחזור והגיבוי של עריכות מרוכזים במקום אחד ומופעלים כברירת מחדל. כדי להגיע אליו פותחים את הלקוח, לוחצים על סמל המשתמש בפינה השמאלית התחתונה ובוחרים הגדרות ← מרכז האבטחה. 612

העיקרון: להגביל את הביצוע, לא רק את ניסוח ההוראה

במצב הרשאת ברירת מחדל (Default Permission), פעולות שהסוכן מבקש לבצע עוברות תחילה דרך ארגז חול אבטחתי. פעולות שגרתיות בתוך סביבת העבודה יכולות להימשך, אבל פעולות חריגות — כגון אתחול דיסק, גישה למיקומי מערכת רגישים או סריקה של שורש מערכת הקבצים — עשויות להיחסם. 69

ההבדל חשוב: סינון שמסתמך רק על טקסט של פקודה יודע בעיקר לזהות מחרוזות או תבניות מוכרות. לפי תיאור WorkBuddy, ההחלטה מתקבלת בשכבת ממשק ה-API של מערכת ההפעלה, על בסיס הפעולה שהסוכן מנסה לבצע. לכן המנגנון אמור להישאר רלוונטי גם אם אותה פעולה מסוכנת מנוסחת בדרך אחרת. 67

עם זאת, ארגז החול הוא שכבת הגנה נוספת — לא תחליף לאבטחת תחנות קצה, לסיווג מידע או לגיבוי עצמאי. בהנחיות הארגוניות של Tencent מומלץ לשלב סביבת עבודה ייעודית, הרשאות ברירת מחדל, גיבוי לקבצים חשובים ובדיקה אנושית. 5

הרשאת ברירת מחדל מול גישה מלאה

שני המצבים מבטאים איזון שונה בין אוטומציה לפיקוח:

• הרשאת ברירת מחדל היא המצב המומלץ לעבודה יומיומית. היא מאפשרת עבודה רגילה, אך יכולה לבקש אישור כשמשימה כוללת נתיבים מוגנים, מחיקה חשובה או רחבת היקף, סקריפטים, פקודות, יישומים חיצוניים או סיכון הקשור לרשת. חלון האישור נועד לאפשר למשתמש לבחון את הפעולה, את היעד ואת היקפה המשוער לפני שממשיכים. 25
• גישה מלאה (Full Access) מבטלת את האישורים שלב אחר שלב לפעולות בסיכון גבוה, ובהן כתיבה ומחיקת קבצים, הרצת סקריפטים והפעלת תוכנות חיצוניות. רצוי לשמור אותה למשימה קצרה, מוכרת ומבודדת, בסביבה שניתן להתאושש ממנה — ולא לנתוני ייצור, נתוני לקוחות, מסמכים פיננסיים או קבצים שאין להם תחליף. 28

נוהל זהיר הוא להשאיר את המקור של קבצים חשובים מחוץ לסביבת העבודה של המשימה, לתת לסוכן לעבוד על עותקים, ולחזור להרשאת ברירת מחדל מיד לאחר משימה חד-פעמית שדרשה הרשאות מורחבות. 18

מה קורה כשנמחק קובץ או כשעריכה משתבשת?

מרכז האבטחה מטפל בשני כשלים נפוצים בעבודה אוטונומית עם קבצים.

קבצים שנמחקו: מחיקה שביצע הסוכן מוגדרת כך שהקובץ יועבר לסל המיחזור של מערכת ההפעלה, במקום להימחק לצמיתות מיד. כך אפשר לשחזר אותו במסלול הרגיל של סל המיחזור. 69

קבצים שנערכו: לפני שהסוכן משנה קובץ קיים, WorkBuddy יכולה לשמור גיבוי של המקור. הדבר מאפשר לשחזר גרסה קודמת של PowerPoint, ‏Word, תמונות וקובצי PDF — ולא רק לשחזר טקסט שחולץ מהקובץ. קבצים חדשים אינם מקבלים גיבוי ״לפני עריכה״, משום שאין להם גרסה קודמת לשימור. 29

נפח אחסון הגיבויים המוגדר כברירת מחדל הוא 1GB. כשהמאגר מתמלא, גרסאות גיבוי ישנות נמחקות אוטומטית; לכן מדובר ברשת ביטחון שימושית, לא בארכיון לטווח ארוך או בתחליף לגיבוי עצמאי. 19

בעת ההכרזה על היכולות, הגיבוי האוטומטי ושחזור הגרסאות היו זמינים במלואם ב-Windows; היכולת המקבילה עבור Mac הוגדרה ככזו שעדיין נמצאת בדרך. 9

הצפנה וסינון תוכן שנוצר ב-AI

לפי תיעוד WorkBuddy, העברת הנתונים משתמשת ב-HTTPS עם TLS 1.2 או TLS 1.3. מטרת ההצפנה היא להגן על נתונים בתעבורה מפני האזנה, שינוי או מתקפות אדם-באמצע. 17

לשימוש ארגוני, Tencent מתארת גם מנוע בטיחות תוכן ל-AIGC — תוכן שנוצר באמצעות בינה מלאכותית — שמזהה ומסנן תוכן שנחשב לא תואם לכללים, מזיק או בלתי בטוח. זו שכבת בקרה על הפלט, נפרדת מההגנות המקומיות שמגבילות את מה שהסוכן יכול לבצע במכשיר. 2128

מה המשמעות בפועל למי שעובד עם סוכני AI?

מרכז האבטחה משלב שלוש שכבות, שכל אחת מטפלת בסוג סיכון שונה:

1. גבולות ביצוע שמגבילים או עוצרים פעולות מסוכנות במערכת ההפעלה ובקבצים.
2. אישור משתמש שמשאיר אדם בתמונה בפעולות רגישות במצב הרשאת ברירת מחדל.
3. מנגנוני התאוששות שהופכים מחיקה בטעות או עריכה לא רצויה לפחות סופיות.

הכלים האלה מפחיתים סיכון, אך אינם הופכים סוכן AI לחסין מטעויות. ההגדרה האחראית ביותר עדיין כוללת סביבת עבודה נפרדת, הרשאות מינימליות, בדיקה אנושית לפני פעולות בעלות השלכות וגיבוי עצמאי לכל מידע שאי אפשר להחליף. 58