AnswersPublished16 sources
האיום הגדול ביותר על הסייבר? מודלי AI פתוחים וזולים, לא מערכות החזית
לדברי Rajavel, הסיכון המיידי אינו בהכרח מודל החזית הסגור והמתקדם ביותר, אלא מודל זול להורדה שמפגר אחריו בכמה חודשים בלבד. לאחר שמשקולות המודל זמינות לציבור, המפתחים והארגון מתקשים לנטר את השימוש בו, לעדכן אותו, להפעיל עליו מגבלות או לבטל את הפצתו.
פורסם על ידינערך באמצעות GPT-5.6 Lunaהתמונות נוצרו באמצעות GPT Image 1.5
Research answer
Key takeaways
- לדברי Rajavel, הסיכון המיידי אינו בהכרח מודל החזית הסגור והמתקדם ביותר, אלא מודל זול להורדה שמפגר אחריו בכמה חודשים בלבד.
- לאחר שמשקולות המודל זמינות לציבור, המפתחים והארגון מתקשים לנטר את השימוש בו, לעדכן אותו, להפעיל עליו מגבלות או לבטל את הפצתו.
- ירידת מחירי השכרת ה GPU והאפשרות להריץ מודלים מקומית מוזילות את השימוש לרעה לצורכי איסוף מודיעין, פיתוח נוזקות, פישינג ופיתוח ניצולים.
- מחקר של Cisco מצא כי מתקפות רב־שלביות הצליחו נגד מודלי open weight בשיעורים הגבוהים פי 2 עד פי 10 ממתקפות חד־שלביות.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Palo Alto Networks CIO Meerah Rajavel identify as the greatest cybersecurity threat facing organizations— inexpensive open source o. Article summary: Rajavel’s warning was that the more immediate organizational risk is not necessarily the tightly controlled frontier model, but a cheap, downloadable open weight model that is only a few months behind it in capability.. Topic tags: general web, ai safety, openai, llm, agents. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
האיום הוא דווקא המודל שנמצא כמעט בהישג יד
Meerah Rajavel, סמנכ״לית המידע של Palo Alto Networks, הצביעה על איום שאינו בהכרח המודל החזק והסגור ביותר של חברות כמו OpenAI או Anthropic. לדבריה, הסיכון המיידי יותר מגיע ממודלי AI זולים, ניתנים להורדה ובעלי משקולות פתוחות — מודלים שעשויים לשחזר בתוך כארבעה עד שישה חודשים יכולות של מערכות החזית. 6
11
ההבדל החשוב אינו רק ברמת היכולת, אלא גם במידת השליטה. כאשר ארגון משתמש במודל דרך API מנוהל, ספק השירות יכול לתעד פעילות, לזהות שימוש לרעה, להגביל קצב запросים, לאכוף מדיניות, לעדכן מנגנוני בטיחות ואף להשעות חשבון. מודל שהורד ומופעל מקומית נמצא מחוץ למישור הבקרה הזה: ניתן לשנות או להסיר את אמצעי ההגנה שלו, היוצר אינו יכול להבטיח שיותקן בו עדכון או לבטל אותו מרחוק, והשימוש בו עלול להישאר בלתי נראה לצוותי אבטחת המידע. 6
למה הפצה רחבה משנה את משוואת הסיכון
מתקפות זולות ומהירות יותר
ירידת מחירי השכרת מעבדי GPU והאפשרות להריץ מודלים על תשתית מקומית מורידות את החסמים הכספיים והתפעוליים. יכולות שבעבר דרשו גישה מוגבלת למודל מתקדם עשויות לשמש יותר גורמים לצורכי סריקת מטרות, פיתוח ניצולי חולשות, יצירת הודעות פישינג, התאמת נוזקות או אוטומציה של תקיפות.
החשש אינו שכל מי שמשתמש במודל פתוח הוא תוקף, אלא שהיכולת נעשית זמינה, ניתנת לשינוי וקלה יותר להרחבה. מחקרים על הסיכונים של מודלי LLM בעלי משקולות פתוחות מציינים כי זמינות ציבורית יכולה לאפשר ליותר גורמים להפוך פעילות זדונית לאוטומטית ולהגדיל את היקפה. 2
קל יותר לעקוף את מנגנוני הבטיחות
גם מודל שנראה עמיד בפני בקשה זדונית ראשונה עלול להיכשל כאשר התוקף מנהל איתו שיחה מתמשכת ומשנה בהדרגה את ניסוח הבקשות. בהערכה של Cisco, שכללה שמונה מודלי open-weight, שיעורי ההצלחה של מתקפות יריבות רב־שלביות היו גבוהים פי 2 עד פי 10 מקווי הבסיס של מתקפות חד־שלביות. שיעורי ההצלחה שנמדדו במתקפות רב־שלביות נעו בין 25.86% ל-92.78%. 3
במילים אחרות, סירוב ראשוני אינו בהכרח הגנה מספקת: סדרה של ניסוחים, עקיפות ולחץ שיחתי עלולה לגרום למודל לספק תשובה מזיקה או לחשוף מידע שלא היה אמור למסור.
סיכון נוסף: המודל עצמו עלול להפוך לחלק משרשרת התקיפה
ארגון שמוריד מודל ומארח אותו בעצמו אינו צריך לבחון רק את המודל. עליו לתת אמון גם בקובץ המודל, בפורמט ההמרה, בתבניות השיחה, בשרת ההרצה ובחבילות התוכנה הנלוות.
Cloud Security Alliance תיעדה איומים בסביבות שבהן לוגיקה הניתנת להרצה או תבניות זדוניות מופעלות כבר בזמן טעינת המודל. תרחישים כאלה עלולים לאפשר גניבת פרטי גישה או חילוץ מידע מהמערכת עוד לפני שהמשתמש שלח בקשה אחת. 12
עם זאת, אין במקורות הראשוניים שנבדקו אימות עצמאי לטענה המדויקת שלפיה ממצא יחיד של CSA ציין יחד את Llama של Meta, את Mistral ואת Qwen של Alibaba. לכן יש להתייחס לניסוח הזה כאל טענה שאינה מבוססת דיה, ולא כאל מסקנה מוכחת ממקור יחיד.
ומה לגבי נתוני המתקפות של Palo Alto Networks?
כאן נדרשת הבהרה חשובה. המסמך הראשוני הזמין של Palo Alto Networks מדווח כי החברה מזהה עד 8.9 מיליון מתקפות חדשות או כאלה שלא נראו קודם לכן ביום, וחוסמת עד 30.9 מיליארד מתקפות ביום. 1
הנתונים הללו אינם תומכים בניסוח שלפיו החברה עצרה כ-30 מיליארד מתקפות וזיהתה כ-250 מיליון וקטורי תקיפה חדשים במהלך שנה קלנדרית. הם כן ממחישים את הרקע לאזהרה של Rajavel: סביבת האיומים כבר מתאפיינת בכמות עצומה, במהירות ובשונות גבוהה. הפצה רחבה של יכולות AI שניתן לשנות ולהפעיל ללא פיקוח של הספק עלולה לקצר עוד יותר את מחזורי הניסוי וההתאמה של התוקפים.
השורה התחתונה לארגונים
הטענה של Rajavel אינה שמודלי החזית הסגורים בטוחים לחלוטין, אלא שהמודלים הפתוחים עלולים להפוך את היכולת המסוכנת לנגישה, ניתנת לשכפול וקשה יותר לשליטה. עבור ארגונים, המשמעות היא שלא מספיק לפקח על שירותי AI רשמיים: יש צורך לדעת אילו מודלים מורדים ומופעלים בתוך הארגון, לבדוק את שרשרת האספקה שלהם, להגן על שרתי ההרצה ולוודא שגם שימוש מקומי אינו נותר מחוץ לנראות האבטחתית.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "האיום הגדול ביותר על הסייבר? מודלי AI פתוחים וזולים, לא מערכות החזית"?
לדברי Rajavel, הסיכון המיידי אינו בהכרח מודל החזית הסגור והמתקדם ביותר, אלא מודל זול להורדה שמפגר אחריו בכמה חודשים בלבד.
What are the key points to validate first?
לדברי Rajavel, הסיכון המיידי אינו בהכרח מודל החזית הסגור והמתקדם ביותר, אלא מודל זול להורדה שמפגר אחריו בכמה חודשים בלבד. לאחר שמשקולות המודל זמינות לציבור, המפתחים והארגון מתקשים לנטר את השימוש בו, לעדכן אותו, להפעיל עליו מגבלות או לבטל את הפצתו.
What should I do next in practice?
ירידת מחירי השכרת ה GPU והאפשרות להריץ מודלים מקומית מוזילות את השימוש לרעה לצורכי איסוף מודיעין, פיתוח נוזקות, פישינג ופיתוח ניצולים.