תקלה ב-OpenAI נעלה חוקרי סייבר מאומתים מ-Daybreak Blue

התוכנית מיועדת לעבודה על מערכות, יישומים, חשבונות, רשתות או נתונים שהחוקר מחזיק בהם, מפעיל אותם או קיבל הרשאה מפורשת לבדוק ולנתח. ההגנות המותאמות אינן מבטלות את מדיניות OpenAI או את כל מנגנוני בקרת הגישה. האישור עדיין מוגבל לאדם או לשירות המורשים, לארגון או לסביבת העבודה, לפרויקט, למודל ולממשק המוצר הספציפיים.

במה Daybreak Red שונה?

Daybreak Red הוא הרובד הגבוה והמתמחה יותר. הוא מעניק גישה ל-GPT-5.6-Cyber באמצעות הכינוי gpt-daybreak-red, עבור תהליכי עבודה מורשים ומתקדמים כגון מחקר חולשות, אימות ניצול חולשות ובדיקות אבטחה. עבור Red נדרש אישור והקצאה נפרדים, ולכן אישור ל-Blue — ואפילו השלמת האימות — אינם מעניקים אוטומטית גישה למודל המומחה.

המבנה מזכיר את תוכנית Cyber Verification Program של Anthropic. לפי Anthropic, התוכנית מאפשרת לאנשי אבטחה העוסקים במשימות סייבר לגיטימיות, ובהן מחקר חולשות, בדיקות חדירה ותרגילי Red Team, להשתמש במודלים ללא חלק מאמצעי ההגנה שנועדו למנוע שימוש לרעה בסייבר. בשני המקרים מדובר בעיקרון דומה: בודקים תחילה את האנשים והארגונים, ולאחר מכן מתאימים את ההגבלות לעבודה הגנתית לגיטימית במקום לפתוח את היכולת לכל חשבון.

מה ראו החוקרים שנפגעו?

דיווחים של משתמשים שנפגעו תיארו כמה תרחישים:

• סטטוס TAC שאושר בעבר נעלם ללא אזהרה.
• עמוד Daybreak חזר להציג את האפשרות "Start verification", כאילו המשתמש מעולם לא עבר אישור.
• תהליך האימות לא התחיל, נתקע או הסתיים בהודעה שלפיה לא ניתן לאמת את הזהות או שהחשבון אינו זכאי.
• לפחות חוקר אחד דיווח כי עבר בהצלחה אימות זהות ואף קיבל הודעת אישור ל-Daybreak Blue, אך בעמוד TAC עדיין הופיעה הודעה שהחשבון אינו זכאי.

בהנחיות פתרון התקלות שלה, OpenAI ממליצה למשתמשים שתהליך האימות שלהם נכשל לפעול לפי ההוראות שבהודעה שקיבלו. עם זאת, החברה מציינת שתוצאות האימות אינן ניתנות לעקיפה ידנית, וכי נכון לעכשיו תהליך האימות של Daybreak אינו תומך בניסיונות חוזרים או בערעורים. כאשר התקלה עצמה עשויה להיות הסיבה שהפעילה את תהליך האימות מחדש, היעדר מסלול ערעור רגיל הופך את בעיית השחזור למשמעותית במיוחד.

תגובת OpenAI

OpenAI מסרה כי אובדן הגישה נגרם מתקלה טכנית שפגעה במספר מצומצם של משתמשים, ולא מהערכה מחודשת מכוונת של כל החוקרים שנפגעו. החברה אמרה שהחוויה שנוצרה אינה זו שהתכוונה לספק, שהיא פועלת כדי למנוע הישנות של המקרה, וששלחה למשתמשים הרלוונטיים הודעות דוא"ל עם מסלול לאימות מחדש של הגישה ל-Daybreak Blue.

ההנחיות הפומביות של החברה ממליצות בנפרד לנסות שוב תהליך אימות שאינו נטען, נתקע או מציג שגיאה טכנית; לוודא שהדפדפן והמכשיר מעודכנים; ולפנות לתמיכה עם צילום מסך אם הבעיה נמשכת. עם זאת, ההנחיות אינן מעניקות לתמיכה סמכות לעקוף החלטת זכאות שלילית.

מה ידוע על האזורים שבהם נמצאים המשתמשים?

בדיווחים הפומביים בלטו בעיקר מתלוננים מחוץ לארצות הברית ולאירופה, אך אין לראות בכך פילוח גיאוגרפי מאומת של כלל המשתמשים שנפגעו.

OpenAI אינה תומכת בגישה ל-ChatGPT ול-API בכל המדינות והטריטוריות, ולכן ייתכן שבמקרים מסוימים הייתה חפיפה בין זמינות אזורית לבין זכאות החשבון. עם זאת, הראיות הזמינות אינן מוכיחות שכללים אזוריים גרמו לתקרית. מדויק יותר להתייחס למיקום הגיאוגרפי כמשתנה שעדיין לא הובהר, ולא כהסבר המאומת לכשלים.

השאלות שנותרו פתוחות — והאירוניה האבטחתית

OpenAI לא הסבירה בפומבי מה היה הפגם שהפעיל את התקלה, כמה משתמשים נפגעו או מדוע האישורים הקודמים לא נשמרו בעת שחזור הגישה. גם לא ברור אם כשלים מסוימים נבעו מזכאות אזורית, ממצב החשבון, מספק אימות הזהות או מרכיב אחר במערכת בקרת הגישה.

התקרית חושפת מתח מובנה בגישה מבוקרת ל-AI. אמצעי ההגנה של Daybreak נועדו להפוך מודלים מתקדמים לסייבר לשימושיים יותר עבור מגינים שעברו בדיקה, תוך הרחקתם ממשתמשים בלתי מורשים. אבל ההגנה הזו תלויה במערכות אמינות של זיהוי, זכאות והקצאת הרשאות. אם המערכות הללו מבטלות בטעות גישה של משתמשים מהימנים — או אינן מסוגלות להבחין בין כשל טכני לבין אימות שנכשל — מנגנון האבטחה הופך למכשול תפעולי עבור האנשים שאותם נועד לסייע.

זו המסקנה המרכזית מהתקלה ב-Daybreak Blue: צמצום הסיכון לשימוש לרעה ב-AI בתחום הסייבר אינו רק בעיה של בטיחות מודלים. זו גם בעיה של ניהול גישה. מערכת גישה שאפשר לסמוך עליה צריכה לדעת לשמר אישורים, להתאושש מתקלות פלטפורמה ולבחון דחיות שגויות.