הגישה של האיחוד האירופי לבדיקות AI חושפת את פער הבטיחות של בריטניה במודלי קצה

הדיווח שלפיו בריטניה לא קיבלה גישה לבדיקות טרום־השקה של Claude Mythos 5.1 אינו מעיד בהכרח על חולשה טכנית בריטית. הוא חושף בעיה של נגישות: גוף הערכה לאומי אינו יכול לבחון בזמן מודל קצה אם השתתפותו תלויה בסופו של דבר בהסכמת המפתחת.

הגישה שניתנה ל־ENISA, סוכנות אבטחת הסייבר של האיחוד האירופי, ל־Mythos 5 של Anthropic ול־GPT-6 Astra של OpenAI היא צעד משמעותי. אבל היא אינה אומרת שלאיחוד יש זכות קבע לבדוק כל מודל עתידי — ובוודאי לא שהיא כללה את Mythos 5.1. 920

ההבחנה החשובה: הגישה היא למודל מסוים

לפי דובר הנציבות האירופית, ENISA קיבלה גישה ל־Mythos 5 ול־GPT-6 Astra לצורך בדיקות. 9 בנפרד, דווח כי Anthropic לא העבירה למכון הבריטי לבטיחות AI את Mythos 5.1 לבדיקה לפני ההשקה — הפעם הראשונה שעליה דווח שבה מודל מרכזי של החברה לא נמסר לגוף הבריטי בתהליך טרום־ההשקה. 2023

אין לפשט את הנתונים הללו לכותרת של "ניצחון אירופי והפסד בריטי". הגישה של ENISA נוגעת לשני מודלים מוגדרים ובהסדרים מסוימים. Mythos 5.1 הוא גרסה אחרת, עם משטר גישה מצומצם יותר. בפועל, הערכת בטיחות נעשית מפוצלת יותר ויותר לפי גרסת המודל, היכולות שלו, השימוש המיועד, תחום השיפוט ותנאי השותפות שקובעת החברה המפתחת.

מדוע Mythos 5.1 הוא מקרה מורכב יותר לממשל ופיקוח

Anthropic מסרה כי Claude Fable 5.1 ו־Claude Mythos 5.1 מבוססים על אותו מודל, אך כוללים רמות שונות של אמצעי הגנה. Fable 5.1 זמין לציבור הרחב, ואילו Mythos 5.1 זמין רק בתוכניות גישה מהימנה, שנועדו לתמוך בעבודה בתחומי אבטחת הסייבר ומדעי החיים. 12

לכן אין מדובר רק בבדיקת מוצר שגרתית. מערכת שמיועדת לעבודה רגישה בסייבר או במדע מעלה שאלות של סביבות עבודה מבוקרות, ניטור שימוש לרעה, בדיקת משתמשים מורשים וטיפול במידע בעל השלכות ביטחוניות. לפי דיווחים, הגישה ל־Mythos 5.1 הוגבלה בתחילה לארגונים אמריקאיים שעברו סינון. 1824

המקורות הקיימים אינם מוכיחים ש־Anthropic הוציאה את בריטניה מהתהליך משום שלא בטחה במדינה או במכון שלה. עיצוב התוכנית המוגבלת, שיקולי אבטחה תפעולית ושליטה מסחרית בגישה הם הסברים אפשריים. אך התוצאה נותרת חשובה: שיתוף פעולה קודם ומוניטין מקצועי של גוף הערכה אינם מבטיחים גישה מהירה למודל בעל השלכות כבדות משקל.

מה הגישה של ENISA מלמדת על המנוף האירופי

לאיחוד האירופי יש בסיס משפטי חזק יותר מאשר למשטר המבוסס רק על התנדבות. סעיף 55 לחוק ה־AI האירופי מחייב ספקים של מודלי AI כלליים בעלי סיכון מערכתי לבצע הערכות מודל לפי פרוטוקולים וכלים תקניים, להעריך ולהפחית סיכונים מערכתיים, לעקוב אחר אירועים חמורים ולדווח עליהם, ולהבטיח רמת הגנת סייבר נאותה. 4337

החוק גם צופה הערכה לפני הוצאת מודל ראשונה לשוק, לרבות בדיקות אדוורסריות מתועדות — פנימיות או חיצוניות עצמאיות, לפי הצורך. 3534

עם זאת, חובות אלה המוטלות על הספק אינן שקולות לזכות גורפת של ENISA לקבל משקלי מודל, גישה בלתי מוגבלת למערכת או גישה מוקדמת לכל שחרור של מודל קצה. ההסדר עם ENISA משמעותי דווקא משום שנראה שהושג באמצעות הידברות עם החברות, לצד עמדת המיקוח הרגולטורית הרחבה יותר של האיחוד. 49

כלומר, רגולציה עשויה לחזק את יכולת האיחוד לדרוש ראיות, ניהול סיכונים ועמידה בכללים. היא אינה מבטלת את הצורך בשיתוף פעולה מאובטח בעת בדיקת מודלים עם יכולות רגישות בסייבר, בביולוגיה או בהפעלת סוכנים אוטונומיים.

מדוע בריטניה חשופה יותר

היעדר הגישה המדווח של בריטניה ל־Mythos 5.1 מבליט את מגבלותיו של מנגנון וולונטרי. בעקבות הפרשה נשמעו קריאות לתת למכון הבריטי לבטיחות AI עיגון בחוק וסמכויות חזקות יותר. 23

גישה התנדבותית יכולה לעבוד היטב כאשר המעבדות רואות ערך בשיתוף הפעולה. היא עשויה להיות מהירה וגמישה יותר מכללים נוקשים. החולשה שלה היא היעדר ודאות: מפתחת יכולה לצמצם גישה, לשנות את קבוצת השותפים הזכאים או להחליט שמודל מסוים שייך למסלול מצומצם יותר של ביטחון לאומי.

זה יוצר סיכון אסטרטגי לבריטניה. אם המעריכים שלה יקבלו מערכות מתקדמות רק אחרי ההשקה — או רק לאחר שממשלות ושותפים מאושרים אחרים כבר בדקו אותן — היא עלולה לעבור ממעמד של גורם המסייע לעצב את בסיס הראיות לבטיחות, למעמד של צרכנית ראיות שנוצרו במקומות אחרים.

מה יכול לכלול הסדר בריטי עמיד יותר

המטרה המיידית אינה חייבת להיות מסירה כפויה של משקלי מודל. במודלים בעלי יכולת גבוהה, צעד כזה עלול ליצור בעצמו סיכוני אבטחה וקניין רוחני. מסגרת חזקה יותר יכולה להתמקד בגישה מבוקרת, מתועדת וניתנת לביקורת.

צעדים אפשריים:

1. הודעה לפני פריסה של מודלי קצה מוגדרים. מפתחות יידרשו להודיע לרשות מוסמכת לפני פריסת מודלים שעומדים בספי יכולת או סיכון שנקבעו.
2. סמכות חוקית לבקש ראיות. למכון הבריטי לבטיחות AI תהיה סמכות ברורה לקבל תיקי בטיחות, תוצאות הערכה, מידע על אירועים ותיעוד טכני רלוונטי.
3. סביבות הערכה מאובטחות. הכללים יוכלו לדרוש גישה מוגבלת בזמן דרך ממשקי API מנוטרים, סביבות מבודדות או מנגנונים מבוקרים אחרים — במקום גישה למשקלי המודל.
4. מסלול בחינה לביטחון לאומי. מודלים עם השלכות מהותיות בסייבר, במדעי החיים או בסוכנים אוטונומיים יוכלו לעבור בחינה מתואמת של מומחי סייבר, ביואבטחה, מודיעין והערכת AI.
5. שיתוף פעולה מוסדי עם האיחוד האירופי. פרוטוקולי הערכה משותפים, ערוצי בדיקה מאובטחים והדדיים ותהליכים תואמים לדיווח על אירועים חמורים יצמצמו כפילויות ויסייעו למנוע את הדרתה של בריטניה מרשתות הבדיקה האירופיות.

הצעדים האלה מתמודדים עם החולשה המרכזית שהמקרה חשף: יש לעגן את הגישה במנגנון הממשל, ולא להותיר אותה תלויה לחלוטין ביחסים עם כל מעבדה בנפרד.

בדיקות של AI מתקדם צפויות להפוך למדורגות

הכיוון הסביר הוא מערכת הערכה רב־שכבתית. מודלים רחבי־הפצה ייבחנו באמצעות בדיקות של הספקים, תיעוד רגולטורי וחובות דיווח על אירועים. יכולות רגישות יותר — בסייבר, בביולוגיה ובסוכנים אוטונומיים — יוערכו יותר ויותר במסגרות מוגבלות. המערכות בעלות הסיכון הגבוה ביותר עשויות להיות זמינות רק לקבוצה קטנה של גופי ממשל, מעבדות ושותפים ביטחוניים שעברו סינון.

ההסדר עם ENISA והדרת בריטניה מ־Mythos 5.1 ממחישים מדוע ההבחנה הזו חשובה. התחרות אינה עוד רק על השאלה מי יבנה את המודל החזק ביותר, אלא גם מי יוכל לבחון, לבדוק ולמשול בגרסאות המשמעותיות ביותר לפני שהן מגיעות לפריסה רחבה. 91220

לבריטניה עדיין יש יכולת הערכה טכנית בעלת ערך, אך זו אינה מספיקה לבדה. כדי לשמור על השפעה, היא תידרש לסמכויות משפטיות אמינות בבית ולהסדרי גישה עמידים ומודעי־אבטחה עם שותפים בחו״ל.