ברית אבטחת ה-AI הפתוחה של Nvidia: תוך שבוע מהיווסדה, היא כבר מציעה פתרונות אבטחה ראשונים

הרעיון המרכזי של SAFE הוא מסגרת המאפשרת לארגונים לדווח ולנתח באופן חסוי אירועי אבטחת AI וכמעט-תקריות, ולאחר מכן לשתף אמצעי הגנה אנונימיים עם המערכת האקולוגית הרחבה . מאגר ה-RFC ממוקם בכתובת github.com/OpenSecureAIAlliance/RFCs .

הצעות בקוד פתוח שפורסמו להערה

טיוטת ההצעות הראשוניות של SAFE מכסות שלושה תחומים עיקריים:

• דיווח חסוי על אירועים – פורמט תקני לשיתוף מאובטח של פרטים על פריצות ופגיעויות של סוכני AI מבלי לחשוף מידע קנייני
• ניתוח איומים שיתופי – מנגנונים לאיגוד נתוני אירועים בין החברות ויצירת אותות הגנה משותפים
• קווים מנחים לאבטחת AI אוטונומי (Agentic AI) – כללים ספציפיים לסוכני AI אוטונומיים הפועלים ללא פיקוח אנושי ישיר, המהווים סיכונים חדשים

תרומות טכנולוגיות מחברות מפתח

מספר חברות שיחררו תרומות קוד פתוח קונקרטיות לצד ההכרזה על SAFE:

• Nvidia הייתה שותפה לכתיבת טיוטת SAFE ותרמה סורקי מודלים ומסגרות בידוד לסוכנים לזיהוי פגיעויות במודלים במשקל פתוח
• Red Hat פיתחה במשותף את RFC של SAFE וסיפקה כלי ניהול בקוד פתוח לסוכני AI לאכיפת מדיניות
• Amazon תרמה כלי אבטחה ייעודיים לענן לאבטחת פריסות סוכני AI בהיקף רחב
• Okta סיפקה מסגרות אבטחת זהות ובקרת גישה המותאמות לעומסי עבודה של סוכני AI
• Cisco ו-CrowdStrike היו שותפות לכתיבת טיוטת SAFE לצד Nvidia ו-Red Hat

קרן לינוקס מנהלת את היוזמה כולה ומארחת את תהליך ה-RFC .

היעדרויות בולטות: Anthropic, OpenAI וגוגל

למרות שכל שלוש החברות חתמו ב-2025 על מכתב פתוח לבית הלבן הקורא לפעולה בנושא אבטחת AI, אף אחת מהן לא הצטרפה ל-OSAA עם השקתה . כלי תקשורת רבים ציינו זאת כפער בוהק.

OpenAI ו-Anthropic צוינו במפורש כ"בולטות בהיעדרן" מרשימת החברות המייסדות . על פי דיווחים ברקע, היעדרותה של OpenAI משקפת מתיחות בין מחנה המודל הסגור לבין הקואליציה של Nvidia המוכוונת לקוד פתוח . גם גוגל נעדרה, למרות שענניות ענק אחרות כמו מיקרוסופט ואמזון הצטרפו .

דיווחים ציינו חיכוי מאירוע קודם שבו מודלי AI סגורים מחברות לא מזוהות חסמו את חקירת הפריצה של שרתיה של חברה מסוימת – מניע מרכזי לגישה הפתוחה של OSAA .

התמודדות עם איומי מודלים סיניים במשקל פתוח

ניתוחים רבים מקשרים את המהירות יוצאת הדופן של OSAA ישירות לתחרות גיאופוליטית. הברית הוקמה על רקע חששות גוברים מפני איומי AI, במיוחד ממעבדות סיניות . מעבדות AI סיניות שחררו מודלים רבי-עוצמה במשקל פתוח – כמו גרסאות DeepSeek – שגורמים רשמיים בארה"ב חוששים שיוכלו לשמש כנשק או שיחסרו להם אמצעי הגנה חזקים.

ההישג המהיר של הקבוצה – קבוצת עבודה ומסמך RFC תוך שבוע – ממוסגר במפורש כאות לכך שהתעשייה יכולה לנוע מהר יותר מנוף האיומים ולהתחרות במערכת האקולוגית של המודלים הפתוחים בגיבוי ממשלתי של סין . על ידי פתיחת כלי האבטחה שלה בקוד פתוח, OSAA שואפת לקבוע את הסטנדרט העולמי לבטיחות AI לפני שסטנדרטים מיושרים עם סין יתבססו, ולהעניק לארגונים המשתמשים במודלים במשקל פתוח שכבת אבטחה שמודלים סיניים אינם מספקים מטבעם .

ההשקה הואצה על ידי אירוע ספציפי שאירע ימים ספורים קודם לכן, שבו סוכן AI אוטונומי פרץ לשרתים של Hugging Face – הדגמה קונקרטית לסוג המתקפה שמודלים סיניים במשקל פתוח יכולים לאפשר בהיקף נרחב .