המודל מותאם במיוחד לחשיבה על קוד, זיהוי חולשות, ובמקרים מסוימים יצירת exploits (ניצולים) הממחישים את ההשפעה של אותן פרצות.

מכיוון שיכולות כאלה עלולות גם לסייע לתוקפים, Anthropic בחרה בפריסה מבוקרת דרך ארגונים שותפים במקום שחרור ציבורי.

החודש הראשון: יותר מ-10,000 פרצות

העדכון הראשון של Anthropic על התוכנית דיווח על תוצאות חריגות בהיקפן:

• יותר מ-10,000 פרצות ברמת חומרה גבוהה או קריטית שנמצאו באופן משותף על ידי Anthropic וכ-50 ארגונים שותפים.
• מאות פרצות חמורות לשותף במהלך כחודש השימוש הראשון.
• מספר ארגונים דיווחו שקצב איתור הבאגים שלהם גדל ביותר מפי 10 לאחר השימוש במערכת.

דוגמה אחת שצוטטה על ידי Anthropic היא Cloudflare, שדיווחה על איתור כ-2,000 באגים - בהם 400 ברמת חומרה גבוהה או קריטית - ברחבי שירותי הליבה שלה באמצעות המודל.

הנתונים האלה מצביעים על כך שהמערכת עשויה לאפשר לצוותי אבטחה לנתח מאגרי קוד גדולים הרבה יותר מהר מאשר ביקורת ידנית מסורתית.

ביצועי אמת מידה ויכולות טכניות

גם סימנים חיצוניים מצביעים על ביצועי אבטחת סייבר חזקים.

מכון אבטחת הבינה המלאכותית הבריטי (UK AI Security Institute) אישר לכאורה כי Claude Mythos Preview פתר 73% מאתגרי אבטחת סייבר ברמת מומחה במבחן capture-the-flag, מדד מקובל לבחינת יכולות איתור פרצות בעולם האמיתי.

Anthropic ומקורות נוספים מתארים גם מספר יכולות נוספות:

• גילוי פרצות zero-day שלא היו ידועות קודם לכן במערכות הפעלה ובדפדפנים.
• שרשור של מספר פרצות יחד כדי להשיג הרחבת הרשאות או השתלטות מלאה על מערכת.
• יצירה אוטומטית של קוד exploit (ניצול) עובד כדי להדגים כיצד ניתן לנצל פרצות.

יכולות אלה חורגות מעבר לניתוח סטטי פשוט ונכנסות לתחומים שנעשו באופן מסורתי על ידי חוקרי אבטחה מובילים.

דוגמאות לפרצות שנמצאו

בעוד שרוב הממצאים נשארים חסויים במהלך תיאום התיקונים, דווחו מספר דוגמאות.

על פי דיווחים המסכמים את טענות Anthropic, המודל זיהה:

• פרצה בת 27 שנה בליבת OpenBSD הקשורה לאפשרויות TCP SACK.
• באג בן 16 ב-FFmpeg ששרד מיליוני בדיקות אוטומטיות מבלי להתגלות.
• שרשראות של פרצות בליבת לינוקס שאפשרו הרחבת הרשאות ממשתמש רגיל לשליטה מלאה במערכת.

Anthropic מסרה כי אינה יכולה לחשוף פרטים על הרוב המכריע של התגליות עדיין מכיוון שמעל 99% מהפגיעויות שהיא מצאה טרם תוקנו בפומבי.

מי המעורב בפרויקט

פרויקט Glasswing פועל כקואליציה של חברות טכנולוגיה, ספקי תשתיות וארגוני אבטחה.

משתתפי ההשקה המדווחים כוללים:

• Amazon Web Services (AWS)
• Apple
• Google
• Microsoft
• NVIDIA
• Cisco
• Broadcom
• CrowdStrike
• Palo Alto Networks
• JPMorgan Chase
• קרן לינוקס (The Linux Foundation)

יחד עם Anthropic עצמה ועשרות ארגונים נוספים, התוכנית כוללת כ-50 שותפים בסך הכל.

שותפים אלה מריצים את המודל כנגד התוכנות שלהם ותשתיות קוד פתוח קריטיות כדי לזהות פרצות שניתן לתקן.

מדוע המודל לא שוחרר לציבור

Anthropic הדגישה כי Mythos מוגבל בכוונה, משום שאותן יכולות שימושיות להגנה עלולות גם לאפשר מתקפות סייבר בהיקף נרחב.

אם מערכת המסוגלת לגלות ולנצל פרצות zero-day באופן אוטומטי תהיה זמינה באופן נרחב, היא עלולה להוריד דרמטית את הרף לביצוע פעולות התקפיות ברשת.

מודל השותפות המבוקר נועד לתקן כמה שיותר פרצות לפני שיכולות דומות יהפכו לזמינות באופן נרחב.

ביקורת וספקנות מצד מומחי אבטחה

למרות נתוני הכותרת המרשימים, נותרות מספר נקודות ספקנות בקרב קהילת אבטחת הסייבר.

1. אימות בלתי תלוי מוגבל
רוב התוצאות בהיקף גדול - כמו 10,000 הפגיעויות שהתגלו - מגיעות מדיווח עצמי של Anthropic או מסיכומים החוזרים על טענות אלו. מכיוון שהפגיעויות לרוב אינן מפורסמות, חוקרים חיצוניים עדיין לא יכולים להעריך אותן ישירות.

2. חפיפה אפשרית עם כלים קיימים
כמה חוקרים טוענים שיכולות דומות לאיתור פגיעויות עשויות להיות מושגות כבר היום באמצעות שילובים של מודלים ציבוריים קיימים וכלים, מה שמרמז ש-Mythos עשוי להיות האצה ולא יכולת חדשה מהיסוד.

3. קושי במדידת שיעורי אימות בעולם האמיתי
למרות שקיימות תוצאות אמת מידה כמו 73% ההצלחה במבחן ה-capture-the-flag, עדיין לא פורסמו בפומבי סטטיסטיקות ברורות על כמה באגים שזוהו על ידי ה-AI אושרו ותוקנו במערכות ייצור אמיתיות.

בשורה התחתונה

אם הנתונים המדווחים על ידי Anthropic יעמדו באימות רחב יותר, פרויקט Glasswing מייצג את אחד ממאמצי איתור הפגיעויות בסיוע בינה מלאכותית הגדולים ביותר שבוצעו אי פעם. בחודש הראשון בלבד, התוכנית דיווחה על גילוי של יותר מ-10,000 פרצות אבטחה חמורות ברחבי מערכות תוכנה קריטיות.

עם זאת, מכיוון שרוב הפגיעויות נותרות חסויות במהלך תיאום התיקונים, לקהילת האבטחה עדיין חסר אימות בלתי תלוי מקיף לתוצאות אלו.

מה שברור הוא שמערכות בינה מלאכותית הופכות לכלים עוצמתיים למחקר אבטחת תוכנה - המסוגלות לסרוק מאגרי קוד מורכבים, לזהות פגיעויות עדינות, ואפילו ליצור exploits (ניצולים) עובדים. האם Mythos מייצג פריצת דרך ייחודית או פשוט את החוד החנית של מגמה רחבה יותר של ניתוח אבטחה מונחה בינה מלאכותית - זו שאלה שהתעשייה תצטרך לענות עליה בשנים הקרובות.

המודל מותאם במיוחד לחשיבה על קוד, זיהוי חולשות, ובמקרים מסוימים יצירת exploits (ניצולים) הממחישים את ההשפעה של אותן פרצות.

מכיוון שיכולות כאלה עלולות גם לסייע לתוקפים, Anthropic בחרה בפריסה מבוקרת דרך ארגונים שותפים במקום שחרור ציבורי.

החודש הראשון: יותר מ-10,000 פרצות

העדכון הראשון של Anthropic על התוכנית דיווח על תוצאות חריגות בהיקפן:

• יותר מ-10,000 פרצות ברמת חומרה גבוהה או קריטית שנמצאו באופן משותף על ידי Anthropic וכ-50 ארגונים שותפים.
• מאות פרצות חמורות לשותף במהלך כחודש השימוש הראשון.
• מספר ארגונים דיווחו שקצב איתור הבאגים שלהם גדל ביותר מפי 10 לאחר השימוש במערכת.

דוגמה אחת שצוטטה על ידי Anthropic היא Cloudflare, שדיווחה על איתור כ-2,000 באגים - בהם 400 ברמת חומרה גבוהה או קריטית - ברחבי שירותי הליבה שלה באמצעות המודל.

הנתונים האלה מצביעים על כך שהמערכת עשויה לאפשר לצוותי אבטחה לנתח מאגרי קוד גדולים הרבה יותר מהר מאשר ביקורת ידנית מסורתית.

ביצועי אמת מידה ויכולות טכניות

גם סימנים חיצוניים מצביעים על ביצועי אבטחת סייבר חזקים.

מכון אבטחת הבינה המלאכותית הבריטי (UK AI Security Institute) אישר לכאורה כי Claude Mythos Preview פתר 73% מאתגרי אבטחת סייבר ברמת מומחה במבחן capture-the-flag, מדד מקובל לבחינת יכולות איתור פרצות בעולם האמיתי.

Anthropic ומקורות נוספים מתארים גם מספר יכולות נוספות:

• גילוי פרצות zero-day שלא היו ידועות קודם לכן במערכות הפעלה ובדפדפנים.
• שרשור של מספר פרצות יחד כדי להשיג הרחבת הרשאות או השתלטות מלאה על מערכת.
• יצירה אוטומטית של קוד exploit (ניצול) עובד כדי להדגים כיצד ניתן לנצל פרצות.

יכולות אלה חורגות מעבר לניתוח סטטי פשוט ונכנסות לתחומים שנעשו באופן מסורתי על ידי חוקרי אבטחה מובילים.

דוגמאות לפרצות שנמצאו

בעוד שרוב הממצאים נשארים חסויים במהלך תיאום התיקונים, דווחו מספר דוגמאות.

על פי דיווחים המסכמים את טענות Anthropic, המודל זיהה:

• פרצה בת 27 שנה בליבת OpenBSD הקשורה לאפשרויות TCP SACK.
• באג בן 16 ב-FFmpeg ששרד מיליוני בדיקות אוטומטיות מבלי להתגלות.
• שרשראות של פרצות בליבת לינוקס שאפשרו הרחבת הרשאות ממשתמש רגיל לשליטה מלאה במערכת.

Anthropic מסרה כי אינה יכולה לחשוף פרטים על הרוב המכריע של התגליות עדיין מכיוון שמעל 99% מהפגיעויות שהיא מצאה טרם תוקנו בפומבי.

מי המעורב בפרויקט

פרויקט Glasswing פועל כקואליציה של חברות טכנולוגיה, ספקי תשתיות וארגוני אבטחה.

משתתפי ההשקה המדווחים כוללים:

• Amazon Web Services (AWS)
• Apple
• Google
• Microsoft
• NVIDIA
• Cisco
• Broadcom
• CrowdStrike
• Palo Alto Networks
• JPMorgan Chase
• קרן לינוקס (The Linux Foundation)

יחד עם Anthropic עצמה ועשרות ארגונים נוספים, התוכנית כוללת כ-50 שותפים בסך הכל.

שותפים אלה מריצים את המודל כנגד התוכנות שלהם ותשתיות קוד פתוח קריטיות כדי לזהות פרצות שניתן לתקן.

מדוע המודל לא שוחרר לציבור

Anthropic הדגישה כי Mythos מוגבל בכוונה, משום שאותן יכולות שימושיות להגנה עלולות גם לאפשר מתקפות סייבר בהיקף נרחב.

אם מערכת המסוגלת לגלות ולנצל פרצות zero-day באופן אוטומטי תהיה זמינה באופן נרחב, היא עלולה להוריד דרמטית את הרף לביצוע פעולות התקפיות ברשת.

מודל השותפות המבוקר נועד לתקן כמה שיותר פרצות לפני שיכולות דומות יהפכו לזמינות באופן נרחב.

ביקורת וספקנות מצד מומחי אבטחה

למרות נתוני הכותרת המרשימים, נותרות מספר נקודות ספקנות בקרב קהילת אבטחת הסייבר.

1. אימות בלתי תלוי מוגבל
רוב התוצאות בהיקף גדול - כמו 10,000 הפגיעויות שהתגלו - מגיעות מדיווח עצמי של Anthropic או מסיכומים החוזרים על טענות אלו. מכיוון שהפגיעויות לרוב אינן מפורסמות, חוקרים חיצוניים עדיין לא יכולים להעריך אותן ישירות.

2. חפיפה אפשרית עם כלים קיימים
כמה חוקרים טוענים שיכולות דומות לאיתור פגיעויות עשויות להיות מושגות כבר היום באמצעות שילובים של מודלים ציבוריים קיימים וכלים, מה שמרמז ש-Mythos עשוי להיות האצה ולא יכולת חדשה מהיסוד.

3. קושי במדידת שיעורי אימות בעולם האמיתי
למרות שקיימות תוצאות אמת מידה כמו 73% ההצלחה במבחן ה-capture-the-flag, עדיין לא פורסמו בפומבי סטטיסטיקות ברורות על כמה באגים שזוהו על ידי ה-AI אושרו ותוקנו במערכות ייצור אמיתיות.

בשורה התחתונה

אם הנתונים המדווחים על ידי Anthropic יעמדו באימות רחב יותר, פרויקט Glasswing מייצג את אחד ממאמצי איתור הפגיעויות בסיוע בינה מלאכותית הגדולים ביותר שבוצעו אי פעם. בחודש הראשון בלבד, התוכנית דיווחה על גילוי של יותר מ-10,000 פרצות אבטחה חמורות ברחבי מערכות תוכנה קריטיות.

עם זאת, מכיוון שרוב הפגיעויות נותרות חסויות במהלך תיאום התיקונים, לקהילת האבטחה עדיין חסר אימות בלתי תלוי מקיף לתוצאות אלו.

מה שברור הוא שמערכות בינה מלאכותית הופכות לכלים עוצמתיים למחקר אבטחת תוכנה - המסוגלות לסרוק מאגרי קוד מורכבים, לזהות פגיעויות עדינות, ואפילו ליצור exploits (ניצולים) עובדים. האם Mythos מייצג פריצת דרך ייחודית או פשוט את החוד החנית של מגמה רחבה יותר של ניתוח אבטחה מונחה בינה מלאכותית - זו שאלה שהתעשייה תצטרך לענות עליה בשנים הקרובות.