ליקויי האבטחה ב-Muse: מה ידוע על הסיכון בענן ועל הבאג למק

דיווח על חולשת אבטחה בסוכן הבינה המלאכותית Muse של מטא העלה אפשרות שתוקף יוכל להגיע לסביבת הענן האישית של משתמש — סביבה שעשויה להכיל מיילים וקבצים. מטא מוסיפה אזהרת בטיחות ברורה יותר בתוך האפליקציה, אבל הדיווח הפומבי אינו מפרט כיצד ניתן היה לנצל את החולשה או איזו פעולה, אם בכלל, נדרשה מהמשתמש. 118

הדיווח הזה אינו קשור ישירות לליקוי שפורסם קודם באפליקציית Muse למק. החוקר פטריק וורדל הדגים כיצד תהליך שכבר רץ על מחשב מק יכול להפנות את תעבורת ההכתבה של האפליקציה, ובכך אולי לחשוף פרטי אימות. מדובר בשני ליקויים שונים, ואין להתייחס אליהם כאל אותה מתקפה. 71013

מה עלול היה להיחשף בסביבת הענן

לפי דיווח רויטרס על כתבה של The Information, החולשה דווחה למטא בידי חוקר חיצוני במסגרת תוכנית תגמולי הבאגים של החברה. היא הייתה עלולה לאפשר גישה למכונה וירטואלית ייעודית של משתמש — סביבת מחשוב אישית בענן, שעשויה להכיל מידע כמו מיילים וקבצים. 118

הדיווחים הזמינים אינם מסבירים מה הייתה דרך הניצול. בפרט, הם אינם קובעים שהמתקפה התבססה על קישור זדוני, שהמשתמש היה צריך ללחוץ על משהו או לאשר פעולה, או שתקשורת או הפעלות פעילות נחשפו. אין להסיק את הפרטים האלה מהממצא הנפרד באפליקציית המק.

רויטרס דיווחה שמטא מוסיפה אזהרת בטיחות ברורה יותר בתוך Muse. עם זאת, לא צוין אם האזהרה היא השינוי היחיד, אם החולשה עצמה תוקנה, או כמה משתמשים היו עלולים להיות מושפעים. 1

הבאג הנפרד באפליקציית המק

הממצא של וורדל נגע לאפליקציית Muse ל-macOS, והצריך שתהליך כלשהו כבר ירוץ מקומית על המחשב. לפי הדיווחים, אפליקציה מקומית או פקודה בטרמינל — ללא הרשאות מיוחדות — יכלו לשנות הגדרה לא מתועדת שקובעת לאן נשלחת תעבורת ההכתבה. כך היה אפשר להפנות את הפרומפטים המוכתבים משרתי מטא, ולחשוף אולי פרטי אימות. 1013

המתקפה לא תוארה ככזו שמתחילה רק משליחת קישור לקורבן: היה צורך שתהליך מקומי יפעל במק. דרך התקיפה המתוארת כללה גם שימוש בתכונת ההכתבה של Muse. לפי הדיווחים, מטא תיקנה את הליקוי הזה באפליקציית המק באמצעות הסרת ההגדרה מגרסאות הייצור. 710

למה הרשאות רחבות של סוכן AI חשובות

Muse יכולה להתחבר לשירותים כמו דוא״ל ואפליקציות מסרים, ואפליקציית המק עשויה לקבל גישה למשאבים כגון קבצים, מיקרופון, מצלמה, מיקום ולוח שנה. 911 היקף גישה כזה עלול להגדיל את הנזק במקרה של פגיעה בסוכן: אם תוקף משתלט על הסוכן או על פרטי האימות שלו, הוא עשוי לנצל הרשאות שהמשתמש כבר העניק. ההדגמה של וורדל ממחישה את הסיכון הזה, אך אינה מוכיחה מה הייתה ההשפעה או דרך הניצול של חולשת הענן שדווחה בנפרד. 710

השורה התחתונה היא להבחין בין מה שהודגם לבין מה שעדיין לא נחשף. לליקוי המקומי במק תואר מנגנון, ולפי הדיווחים הוא תוקן. הדיווח החדש על גישה אפשרית לסביבת הענן מתאר את הסיכון ואת שינוי האזהרה של מטא, אך משאיר לא ברורים את דרך הניצול, את מידת המעורבות הנדרשת מהמשתמש ואת מצב התיקון של החולשה עצמה. 1718