OpenAI מרחיבה את ניטור הבטיחות בלי לוותר על פרטיות הארגונים

OpenAI בוחנת דרך חדשה לנטר שימוש לרעה במודלים מתקדמים, בלי לוותר על התחייבות Zero Data Retention (ZDR) — מדיניות שלפיה נתוני לקוחות זכאים אינם נשמרים אצל ספק המודל. השירות, שנקרא Private Safety Processing, הוצג ב-19 באוגוסט 2026 ונמצא בשלב תצוגה מוקדמת אצל לקוחות נבחרים. הוא נועד לזהות דפוסי סיכון לאורך כמה אינטראקציות קשורות, ולא לבחון כל בקשה בנפרד, תוך שמירה על כך שעובדי OpenAI לא יקבלו גישה לתוכן הבסיסי של הלקוחות. 31

מאחורי המהלך עומדת דילמה מרכזית בשוק הארגוני: צוותי בטיחות זקוקים לתמונה רחבה כדי לזהות שימוש זדוני שמתפתח בהדרגה, אך חברות בתחומים רגישים — כמו פיננסים, בריאות, משפטים ואבטחת מידע — לא תמיד מוכנות שספק ה-AI ישמור את הפרומפטים והתשובות שלהן.

מה משתנה לעומת Zero Data Retention?

במערכות בטיחות התואמות ל-ZDR, כל אינטראקציה נבחנת בדרך כלל בפני עצמה. גישה כזו עלולה לפספס מתקפה מבוזרת: אף בקשה בודדת אינה בהכרח אסורה או חשודה, אך רצף של בקשות קשורות עשוי לתמוך בהדרגה במטרה מזיקה.

OpenAI אומרת ש-Private Safety Processing מרחיבה את אמצעי ההגנה האוטומטיים גם אל מעבר לאינטראקציה הבודדת. כך המערכת יכולה לחפש דפוסים רחבים יותר, כולל פעילות שעשויה להיות קשורה לניסיונות פריצה מצד בני אדם או סוכני AI שאינם פועלים בהתאם למטרות שהוגדרו להם. 31

במונחים מעשיים, כמה בקשות שנראות תמימות כשהן מנותקות זו מזו עשויות ליצור יחד דפוס סיכון — למשל תהליך עבודה שעלול להיות קשור לפיתוח נוזקה או לפעילות חדירה למערכות. עם זאת, המקורות מתארים יכולת לזיהוי דפוסים בין אינטראקציות, ולא הוכחה לכך שהמערכת מסוגלת לזהות באופן אמין כל קמפיין כזה.

מה OpenAI כן מקבלת?

גבול הפרטיות המרכזי הוא שהניתוח אמור להתבצע באופן אוטומטי, בלי לחשוף לעובדי OpenAI את הפרומפטים, התשובות או את השיחות שעליהן מבוסס הזיהוי. כאשר מתגלה בעיה אפשרית, החברה אומרת שהמערכת מעבירה אות בטיחות מוגדר ומצומצם — ולא את תוכן השיחה הגולמי. 310

לפי הדיווחים על השירות, נתוני הלקוח יכולים להישאר בתשתית שבשליטת הלקוח, או להיות מוגנים באמצעות מפתחות הצפנה המוחזקים בידי הלקוח. 157 המטרה היא לשמר את יתרונות הסודיות שארגונים מחפשים במסגרת ZDR, ובמקביל לאפשר ל-OpenAI לקבל מידע מוגבל מספיק כדי להגיב לאירוע בטיחות אפשרי.

אין פירוש הדבר שלהתראה לא יהיו השלכות תפעוליות. אות בטיחות עשוי להוביל לפעולה ברמת החשבון או לבקשה מהלקוח לבדוק את הפעילות. הלקוח יכול גם למסור מרצונו מידע רלוונטי אם הוא חולק על ההתראה או מבקש לסייע בחקירה; לפי תיאור השירות, הדבר אינו מעניק ל-OpenAI גישה אוטומטית לשיחות שנשמרו אצל הלקוח. 23

מה עדיין לא ידוע?

Private Safety Processing אינה מוצגת עדיין כשירות בשל וזמין לכלל הלקוחות. OpenAI בוחנת אותה עם לקוחות מוקדמים נבחרים. 35 לכן, מההכרזה לבדה אי אפשר לקבוע:

• עד כמה אותות הסיכון בין שיחות מדויקים;
• באיזו תדירות פעילות ארגונית לגיטימית תוביל להתראת שווא;
• אילו פעולות יינקטו עבור כל דרגת סיכון;
• כיצד לקוח יוכל לבקר או לערער על התראה אם OpenAI אינה יכולה לעיין בתוכן המקורי;
• איזה תיעוד טכני יקבלו הלקוחות לפני הרחבת השירות.

לכן ההבטחה של המערכת מצומצמת יותר מהטענה ש"בטיחות שומרת-פרטיות פתרה את בעיית השימוש לרעה". OpenAI בודקת אם אות מוגבל יכול לספק זיהוי שימושי של פעילות מסוכנת, בלי להסתמך על שמירת תעבורת הלקוחות ועל מודל רחב של בדיקה אנושית.

איך Anthropic עושה זאת אחרת?

Anthropic בחרה בגישה שמבוססת על שמירת נתונים עבור מודלים מסוימים. המדיניות שלה מחייבת לשמור במשך 30 יום את הפרומפטים שנשלחו למודלים המכוסים ואת התשובות שנוצרו בהם. הדבר חל על מודלים ממשפחת Mythos ועל מודלים עתידיים בעלי יכולות דומות.

Anthropic אומרת שהנתונים הנשמרים לא ישמשו לאימון מודלי Claude חדשים ולא למטרות שאינן קשורות לבטיחות. ההגנות שפרסמה כוללות הגבלת גישה, רישום של גישה אנושית ומחיקה לאחר 30 יום כמעט בכל המקרים.

היתרון של מודל השמירה הוא חלון זמן לחקירת מתקפות מורכבות, לבחינת אירועים בדיעבד ולהערכת התראות שגויות. מנגד, הוא יוצר עבור הלקוחות חובת שמירת נתונים ומעמסה נוספת של ממשל, אבטחה וציות.

דיווחים על שינוי מתוכנן במדיניות מציינים כי Anthropic צפויה להמשיך לדרוש שמירה של 30 יום, אך לאפשר ללקוחות ארגוניים לשמור את הנתונים בתשתית הענן שלהם. מהלך כזה עשוי לצמצם חלק מחששות השליטה והאחסון, אך אינו מבטל את עצם חובת השמירה.

שתי אסטרטגיות, אותה דילמה

• OpenAI: ניתוח אוטומטי של דפוסים בין אינטראקציות, והעברת אות בטיחות מצומצם בלבד — כדי לצמצם את גישת הספק לתוכן הלקוח.
• Anthropic: שמירת תעבורת המודלים המכוסים למשך 30 יום, תחת בקרות גישה, כדי לאפשר יותר מידע לחקירה ולבדיקה.

הגישה של OpenAI עשויה להתאים יותר ללקוחות שהנהלים הפנימיים שלהם מקשים על שמירת תוכן אצל ספק חיצוני. החיסרון האפשרי הוא שאות מצומצם מספק פחות ראיות כאשר מתרחש אירוע שנוי במחלוקת או קשה לפענוח.

הגישה של Anthropic עשויה להעניק לצוותי הבטיחות יכולת פורנזית רחבה יותר, אך היא מטילה חובת שמירה גם על לקוחות שהיו מעדיפים הסדר מחמיר של אי-שמירת נתונים.

אף אחת מהגישות אינה מעלימה את בעיית הבטיחות. שימוש לרעה בכמה שלבים עלול להיראות דומה למחקר לגיטימי, והגנות פרטיות עלולות לצמצם את כמות הראיות שעומדת לרשות חוקרים אנושיים. המבחן האמיתי של OpenAI יהיה השאלה אם האותות האוטומטיים שלה מדויקים מספיק כדי לתמוך באכיפה — בלי שהחברה תצטרך לגשת לתוכן שאותם אותות מסכמים.

הרקע התחרותי

ההבדל בין מדיניות הפרטיות של שתי החברות מתחדד בתקופה שבה OpenAI ו-Anthropic מתחרות ביתר שאת על לקוחות ארגוניים ועל משתמשים במודלים בעלי יכולות מתקדמות.

לפי דיווחים, קצב ההכנסות השנתי של Anthropic עבר בסוף יולי את רף 65 מיליארד הדולר. חשוב להדגיש שמדובר ב-קצב הכנסות שנתי משוער — השלכה של ביצועים עדכניים על פני שנה שלמה — ולא בהכנסות שנתיות שכבר נרשמו בפועל.

בנוסף, משקיעים ב-Anthropic דנו לפי דיווחים בשווי של 2 טריליון דולר או יותר בהנפקה אפשרית. מדובר בציפייה שדווחה על ידי מקורות חיצוניים, לא בשווי מובטח ולא בהנפקה שהושלמה.

הנתונים הפיננסיים מספקים הקשר, אך אינם מוכיחים ש-Private Safety Processing נוצרה אך ורק כתגובה תחרותית. המסקנה הזהירה יותר היא שההכרזה מטפלת בחשש רכש ממשי של ארגונים: כיצד להשתמש במודלים חזקים יותר, לקבל ניטור יעיל יותר של שימוש לרעה, ובכל זאת להגביל את גישת הספק למידע עסקי סודי.

המקורות הזמינים אינם מבססים לוח זמנים או תנאים סופיים להנפקה של OpenAI. לכן אין בסיס לקבוע שלחברה יש תוכנית מיידית או סופית לצאת להנפקה.

השורה התחתונה

Private Safety Processing היא הניסיון של OpenAI להרחיב את ZDR מ-סינון של אינטראקציה בודדת ל-ניטור בטיחות בין שיחות, בלי לשמור את הפרומפטים והתשובות כתוכן שעובדי החברה יכולים לגשת אליו. המערכת אמורה להחזיר אות בטיחות מוגדר ומוגבל, ושיתוף פעולה נוסף מצד הלקוח מתואר כאפשרות ולא כברירת מחדל.

זו עשויה להיות חלופה שמעדיפה פרטיות על פני מודל השמירה של Anthropic למשך 30 יום — אך בשלב זה מדובר רק בתצוגה מוקדמת. ארגונים צריכים להתייחס להצהרות OpenAI כהצעת תכנון שנמצאת בבדיקה, עד שיהיו ראיות עצמאיות לגבי דיוק הזיהוי, שיעור ההתראות השגויות, יכולת הביקורת ואופן האכיפה בעולם האמיתי.