סינגפור מתכוננת למתקפות סייבר של בינה מלאכותית מתקדמת על תשתיות קריטיות

מה ידוע על Claude Mythos Preview

Anthropic תיארה את Claude Mythos Preview כמודל בעל יכולות גבוהות במיוחד במשימות אבטחת מחשבים, והשיקה את Project Glasswing כדי להשתמש בו בעבודת הגנה על תוכנות קריטיות. עם זאת, יש להתייחס בזהירות לטענות הציבוריות החזקות ביותר על המודל: האימות העצמאי עדיין מוגבל, ו-Anthropic שומרת את המודל בגישה מבוקרת במקום להפיץ אותו באופן רחב.

ממשלת סינגפור מסרה כי אין לה גישה ל-Mythos, וכי היא אינה מניחה שתקבל גישה מוקדמת לכל מודל מתקדם עתידי. במקום זאת, היא עובדת עם מעבדות AI, חברות סייבר ושותפים שיכולים לעקוב אחר התפתחות היכולות ולהעריך את השלכותיהן על הבטיחות והאבטחה.

להבחנה הזו יש משמעות מעשית. ארגונים אינם יכולים לבסס את תוכנית האבטחה שלהם על בדיקת מודל מסוים בשם מסוים. הם זקוקים לבקרות שיישארו יעילות גם כאשר מודלים, כלים ותהליכי תקיפה שונים יהיו זמינים.

סדרי העדיפויות המיידיים של סינגפור

CSA ו-GovTech התריעו בפני בעלי תשתיות מידע קריטיות וסוכנויות ממשלתיות על הסיכון שמציבה בינה מלאכותית מתקדמת. הצעדים המיידיים פשוטים ומעשיים:

• לתקן קודם מערכות חשופות. יש לטפל בכל החולשות הקריטיות והחמורות במערכות החשופות לאינטרנט, תוך מתן קדימות לנכסים שעלולים לאפשר חדירה רחבה.
• להגן על גישה מנהלית. יש להפעיל אימות רב־שלבי בממשקי ניהול, בשערי גישה ובקונסולות לניהול ענן. במערכות שאינן תומכות באימות כזה, יש להגביל את הגישה באמצעות בקרות כמו רשימת כתובות IP מורשות.
• לבחון הרשאות. יש לבדוק חשבונות בעלי הרשאות גבוהות, חשבונות לא פעילים והרשאות מיותרות. עקרון ההרשאה המינימלית והפרדת רשתות יכולים לצמצם את היקף הגישה של תוקף לאחר החדירה הראשונית.
• לשפר את הנראות. יש לשמור על מיפוי מדויק ועדכני של מערכות קריטיות, נכסים החשופים לאינטרנט, שירותי ענן ותלויות בספקי צד שלישי — ולנטר אותם באופן רציף.
• להיערך לתגובה. תוכניות התגובה לאירועים צריכות לכלול מסלולי הסלמה ברורים, גיבויים שנבדקו ותרגילים המדמים מתקפות מהירות ואוטומטיות יותר.

צעדים אלה אינם חדשים, אך בעידן של AI מתקדמת כל עיכוב עלול להיות מסוכן יותר. המטרה היא לצמצם את מספר החולשות הזמינות לתוקפים ולקצר את הזמן שבין גילוי הבעיה לתיקונה.

להשתמש ב-AI להגנה — אבל לאבטח גם את ה-AI

יכולות סייבר המבוססות על AI יכולות לסייע לצוותים לזהות איומים, למיין התראות, לחקור אירועים ולאתר או לתקן חולשות במהירות רבה יותר. CSIT, גוף ממשלתי בסינגפור העוסק במחקר וביכולות טכנולוגיות, מתארת תהליכי עבודה ומערכות fuzzing — בדיקות אוטומטיות שמזרימות קלטים חריגים לתוכנה — שנועדו לאתר חולשות מסוג zero-day בתוכנות קריטיות, לצד הדמיות תקיפה שנועדו לחשוף חולשות ארכיטקטוניות לפני שהתוקפים ימצאו אותן.

גם הגנת סייבר באמצעות AI יוצרת אחריות אבטחתית משלה. CSA מדגישה שהקשחת המודל לבדה אינה מספיקה. על בעלי המערכות להעריך סיכונים לאורך כל מחזור החיים של מערכת ה-AI: תכנון ועיצוב, פיתוח, פריסה, תפעול ותחזוקה, ולבסוף סיום חייה. המשמעות היא הגנה לא רק על התנהגות המודל, אלא גם על נתוני האימון וההפעלה, הממשקים, התלויות, שרשרת האספקה, בקרות הגישה והניטור.

אימות אנושי נותר חיוני, במיוחד כאשר מערכת AI ממליצה על תיקון, מסווגת אירוע או מציעה תגובה שעלולה להשפיע על טכנולוגיה תפעולית או על שירותים ציבוריים.

תגובה משותפת לבעלי תשתיות ולעסקים

הכיוון המדיני של סינגפור משלב אבטחת בסיס עם בדיקות מתמשכות. בעלי תשתיות מידע קריטיות נעזרים כבר כיום בביקורות של צד שלישי ובבדיקות חדירה תקופתיות, ומגישים את הדוחות ל-CSA. הממשלה הדגישה עם זאת כי יש לחזק את הבקרות באופן רציף, ולא להסתמך רק על בדיקה תקופתית.

עקרון הפעולה של סינגפור מסוכם במשפט קצר: לנעול, לאתר ראשונים, לתקן במהירות. בפועל, מדובר במיפוי נכסים, סריקה רציפה, תיקון מהיר, הפרדת רשתות והרשאות, בדיקת תוכנות ותלויות, ותרגול התאוששות. גם עסקים שאינם מוגדרים כבעלי CII צריכים להחיל את אותן עדיפויות על שירותים החשופים לאינטרנט, מערכות זהות, קונסולות ענן וחיבורים רגישים לספקי צד שלישי.

שיתוף פעולה ומודיעין איומים

אין ארגון יחיד שיכול לעקוב אחר כל היכולות של AI מתקדמת או אחר כל נתיבי התקיפה האפשריים. גופי ממשלה, מפעילי תשתיות קריטיות, ספקי ענן וטכנולוגיה, חוקרי אבטחה והאקדמיה צריכים לשתף במהירות אינדיקטורים שימושיים, מידע על חולשות ולקחים מתרגילים.

חלק מהמודיעין יישאר בהכרח מסווג. סינגפור מסרה כי תשתף באופן סלקטיבי מודיעין איומים מסווג עם בעלי התשתיות הקריטיות, ובמקביל תספק להם כלים להגנה. על הארגונים לפעול בהתאם להתרעות CSA ולהיעזר במידע שעבר השחרה או סניטציה וניתן להפצה כאשר אי אפשר לשתף את המקורות המלאים.

תרגילים לאומיים הם חלק מהמודל הזה. תרגיל ההגנה על תשתיות קריטיות (CIDeX) כלל הדמיות של מתקפות סייבר מבוססות AI ב-11 מגזרים קריטיים, בשיתוף שותפים מהתעשייה, כדי לחזק את החוסן הלאומי ולשפר את התיאום.

השורה התחתונה

בינה מלאכותית מתקדמת אינה מחליפה את יסודות אבטחת הסייבר — היא מייקרת את מחיר ההזנחה שלהם. ההגנה המיידית החזקה ביותר של סינגפור משלבת תיקון מהיר, אימות רב־שלבי, הרשאות מינימליות, ניטור רציף, בדיקות תקיפה, הטמעה מאובטחת של AI ושיתוף מידע מהיר. לארגונים שיאתרו את החולשות שלהם לפני שתוקף אוטומטי יעשה זאת יהיה יתרון משמעותי ככל שיכולות המודלים המתקדמים ימשיכו להתפתח.