OpenAI פותחת את מודלי החזית לבדיקות בטיחות מוקדמות יותר

OpenAI הודיעה כי תתמוך בהערכות בטיחות טכניות בידי גופים עצמאיים כבר בשלבים מוקדמים יותר של מחזור החיים של מודלי AI מתקדמים: במהלך האימון, ההערכה וההטמעה. לפי החברה, המטרה היא לאפשר לגורמים מבחוץ לבחון את הראיות שמאחורי טענות הבטיחות, לאתר נקודות עיוורון ולבדוק אם אמצעי ההפחתה אכן יעילים. 5

זהו שינוי משמעותי ביחס למודל המוכר של רד־טימינג — ניסיונות מכוונים לאתר כשלים — המתבצע בעיקר סמוך להשקה. עם זאת, ההצעה הפומבית היא מסגרת וולונטרית, לא משטר רישוי חיצוני ולא התחייבות מחייבת לעצור פריסה של מודל. לכן, ערכה המעשי יהיה תלוי בתנאי הגישה, במידת עצמאותם של הבודקים ובמה שיקרה כשיימצאו סיכונים חמורים.

מה אמורים הבודקים החיצוניים לבחון?

OpenAI מתארת הערכות צד שלישי ככלי לבחינה עצמאית של הראיות לטענות על יכולות, סיכונים ואמצעי הגנה במודלי חזית — כלומר, המודלים המתקדמים ביותר. החברה אומרת שההערכות אמורות לכלול גישה עמוקה לאורך שלבי האימון, ההערכה וההטמעה. 5

על פי הדיווחים על המסגרת, אחד היעדים המרכזיים הוא בדיקה עצמאית של תיק הבטיחות של המעבדה: הנימוקים והראיות שבאמצעותם היא טוענת שהמודל בטוח דיו. הבדיקה משתרעת על האימון, פריסה פנימית, והפצה או שימוש חיצוניים. המסגרת כוללת גם ארבעה תחומי הערכה ושבעה עקרונות הפעלה; למעבדות יינתן זמן לתקן ממצאים לפני פרסומם, והן יוכלו לבקש השחרות של פרטים רגישים. 2

לגישה מוקדמת יש משמעות: בדיקה שמתקיימת רק בסוף הפיתוח עלולה לחשוף בעיה לאחר שהחלטות טכנולוגיות ומסחריות מהותיות כבר קשות לשינוי. מן הצד השני, גישה בשלבים מוקדמים עשויה לחשוף משקלי מודל, יכולות או חומרי בדיקה רגישים — ולכן יוצרת גם מגבלת אבטחה אמיתית.

ארבעת התנאים ש-OpenAI מציבה לביקורת אמינה

OpenAI מונה ארבע דרישות בסיסיות להערכות אפקטיביות מצד שלישי: מנגנוני עצמאות חזקים, קפדנות מדעית, נוהלי אבטחה איתנים ואחריות מוגדרת בבירור. 5

עצמאות

הערכה אינה עצמאית באמת אם מפתח המודל יכול להכתיב את שיטת העבודה, לצמצם גישה לאחר תוצאה לא נוחה, או להפסיק מימון משום שאינו מרוצה מהמסקנות. עצמאות אינה רק השאלה אם הבודק מועסק מחוץ לחברה; היא נוגעת לממשל, מימון, היקף הבדיקה ויכולת התקשור.

קואליציה של מעריכי בטיחות קראה אף היא לעצמאות מהותית: הגנה מפני שליטה של החברות הנבדקות, וכן סמכות לפרסם את הממצאים העיקריים בכפוף להשחרות מצומצמות ומוגדרות היטב בלבד. 1734

קפדנות מדעית

בדיקות צריכות להתבסס על מעריכים מיומנים, מתודולוגיה תקפה וראיות שאפשר לבחון או לשחזר. מדד הבטיחות של Future of Life Institute טוען כי יש לחזק גם את המתודולוגיה וגם את העצמאות, במקום להסתפק בהערכות מפוצלות, ממוקדות־משימה ובעלות תוקף חלש. 812

אבטחה

עצם מתן הגישה המוקדמת לגורמים חיצוניים עלול ליצור סיכונים. OpenAI מדגישה שעל מפתחי המודלים לאפשר ביקורת משמעותית תוך הגנה על מידע רגיש. 5 בקרות אבטחה אמורות לצמצם חשיפה מיותרת — אך לא להפוך לנימוק גורף לחסימת בדיקה או להסתרת ממצאים מהותיים.

אחריותיות והגדרת תפקידים

תהליך אמין מחייב תשובות ברורות: מי מספק גישה, מי בוחר את המתודות, מי מקבל את הממצאים, מי קובע אם ההפחתות מספיקות, ומה קורה כשבעיה חמורה נותרת פתוחה. ללא מסלולי דיווח והסלמה מוגדרים, הערכה עלולה להישאר בגדר עצה שההנהלה יכולה להתעלם ממנה בשקט.

לא פתרון לבעיית היישור

הערכת צד שלישי היא מנגנון פיקוח, לא פתרון טכני לבעיית היישור (alignment) — השאלה כיצד להבטיח שמערכות AI מתקדמות יפעלו בהתאם למטרות ולכוונות אנושיות. היא נועדה לבחון אם טענות של חברה על סיכונים ואמצעי הגנה נתמכות בראיות.

בנפרד, מתווה המדיניות הפדרלי של OpenAI קורא למפתחי מודלי חזית להעריך ולהפחית סיכונים הקשורים ליכולות סייבר, לסיכוני CBRN — כימיים, ביולוגיים, רדיולוגיים וגרעיניים — לאובדן שליטה, לאי־יישור ולהתקדמות לעבר שיפור עצמי רקורסיבי (RSI). בנוסף, הוא קורא למסגרות בטיחות ודוחות שקיפות פומביים, עם השחרות מתאימות מטעמי אבטחה וסודיות מסחרית. 7

במובן הזה, בודקים חיצוניים יכולים לסייע באימות אמינותן של הערכות ואמצעי ההגנה של מפתח מודל. הם אינם יכולים, כשלעצמם, לפתור סיכוני אובדן שליטה, אי־יישור או שיפור עצמי רקורסיבי.

ההבדל מול מודל ה״מעריכים המוטמעים״ של Anthropic

דאריו אמודיי, מנכ״ל Anthropic, קידם מודל רציף יותר: מעריכי צד שלישי שיפעלו בתוך מעבדות AI מתקדמות עם גישה מתמשכת הדומה לזו של עובדים. לפי הגישה הזאת, הם יבחנו לא רק מודלים גמורים, אלא גם צינורות אימון, שיטות הטמעה, הגנות פנימיות ותקריות בטיחות משמעותיות. 1821

Anthropic הודיעה על הסדר שבו אנשי Accenture יוטמעו בחברה כדי לבחון את המודלים ואת שיטות העבודה שלה, ובמקביל היא דנה בפיילוטים עם ארגונים נוספים. החברה גם הכירה בכך שעדיין אין סטנדרטים מבוססים לגישת המעריכים או לאופן התקשורת שלהם. 1922

המסגרת שהציגה OpenAI חופפת למטרה של ביקורת מוקדמת ומעמיקה יותר. אולם, התיאור הפומבי שלה מתמקד בהערכות טכניות לאורך שלבי הפיתוח. לא ברור עדיין אם היא תספק את הגישה הרצופה והמתמשכת שמאפיינת פיקוח באמצעות מעריכים מוטמעים. 5

למה תקנים תעשייתיים נמצאים בלב הוויכוח

לפי דיווחים, Anthropic, OpenAI ו-Google DeepMind דנו בגוף וולונטרי משותף לקביעת תקני בטיחות AI. 20 תקנים משותפים עשויים להקל על השוואת שיטות הערכה, הגדרת ספי סיכון ויצירת ציפיות אחידות לדיווח על תקריות.

אבל גוף תקינה לבדו אינו פותר ניגודי עניינים ואינו יוצר אכיפה. תקן וולונטרי חזק יותר כאשר הוא מלווה במדידה שקופה, אימות בלתי תלוי והשלכות ממשיות להפרה.

למה המבקרים נשארים ספקנים

מבקרי המהלך אינם בהכרח מתנגדים לבדיקות חיצוניות; הספק שלהם נוגע לשאלה אם הסדר שנשלט בידי החברה הנבדקת יכול לספק פיקוח אמיתי. החשש הוא שהחברה עדיין תבחר את המעריכים, תקבע את היקף הגישה, תעכב את העבודה, תבקש השחרות או תתקדם לפריסה למרות ממצאים שליליים.

אלה נקודות המחלוקת המרכזיות:

• מימון ועצמאות מוסדית: מעריכים זקוקים להגנה מפני לחץ כלכלי או הפסקת התקשרות בעקבות מסקנות לא נוחות. 1734
• גישה מספקת ובזמן: הבדיקה חייבת להגיע למודלים, למערכות ולהחלטות פיתוח רלוונטיות מוקדם מספיק כדי להשפיע על התוצאה.
• חופש לפרסם ממצאים: השחרות אבטחתיות יכולות להיות מוצדקות, אך עליהן להיות צרות ולהתנהל לפי כללים שלא מאפשרים לחברה להסתיר את עיקרו של ממצא שלילי. 217
• הסלמה והשלכות: נדרש נתיב ברור למקבלי ההחלטות, לצד תגובה מוגדרת כאשר סיכון חוצה סף שנקבע מראש.

דניאל קוקוטאיילו, חוקר OpenAI לשעבר, מתח ביקורת על מעבדות מובילות שלדבריו נעות במהירות במרדף אחר נתח שוק — ביטוי לחשש הרחב יותר שלפיו תחרות ולחץ כלכלי מייקרים כל עיכוב וולונטרי. 3640 הבעיה, לפי הביקורת, מבנית: אם החברות שומרות בידיהן שליטה חד־צדדית על הגישה, הפרסום והחלטות ההטמעה, הערכת צד שלישי עשויה לשפר את בסיס הראיות — אך לא להפוך לפיקוח עצמאי.

השורה התחתונה

המהלך של OpenAI מקדים את שלב בדיקות הבטיחות לנקודה שבה ממצאים יכולים, עקרונית, לעצב החלטות על אימון והטמעה. ארבעת העקרונות שהחברה מציגה — עצמאות, קפדנות, אבטחה ואחריות ברורה — הם אמות מידה הגיוניות. 5

המבחן האמיתי יהיה בהפיכתם לתנאי עבודה מחייבים בפועל: גישה יציבה למעריכים, חופש מתודולוגי, הגנה על דיווחים, שקיפות בטיפול בהשחרות ותהליך אמין לפעולה בעקבות ממצאים חמורים. בלי ההגנות האלה, הערכות חיצוניות מוקדמות עשויות להיות רד־טימינג מועיל — אך לא הפיקוח הבלתי תלוי שהמבקרים דורשים.