Private Safety Processing: מערכת הבטיחות של OpenAI שמנטרת דפוסים בלי לקרוא את השיחות

OpenAI מציגה בתצוגה מוקדמת את Private Safety Processing — ארכיטקטורת בטיחות שנועדה ללקוחות API זכאים המשתמשים ב-Zero Data Retention (ZDR), כלומר מדיניות שלפיה פרומפטים ותשובות אינם נשמרים לאחר עיבוד הבקשה.

הרעיון המרכזי פשוט אך משמעותי: לזהות דפוסי שימוש לרעה שנראים רק כאשר בוחנים כמה אינטראקציות קשורות, בלי להעניק לאנשי OpenAI גישה ברירת־מחדל לתוכן הלקוחות.

למה צריך להסתכל על יותר משיחה אחת?

ככל שמודלי AI נעשים חזקים ואוטונומיים יותר, תהליך מזיק לא תמיד מופיע בבקשה יחידה. משתמש או סוכן אוטונומי עלול לפצל מטרה בעייתית בין חשבונות, סשנים או בקשות נפרדות, כך שכל אינטראקציה בפני עצמה תיראה תמימה יחסית.

מערכות ZDR הקיימות של OpenAI יודעות להעריך בקשות ותשובות באופן פרטני. Private Safety Processing נועדה להרחיב את הבדיקה גם אל הקשרים שבין אינטראקציות — למשל ניסיונות לעקוף אמצעי הגנה או לפצל משימות הקשורות לפיתוח נוזקות בין כמה בקשות.

איך המערכת פועלת?

ההבדל החשוב הוא בין ניתוח לבין שמירת תוכן. לפי התיאור של OpenAI, מערכות אוטומטיות יכולות לבחון את הקשרים בין אינטראקציות לצורכי בטיחות, אך התוכן עצמו אינו נחשף לאנשי החברה דרך המערכת.

OpenAI מתארת שתי אפשרויות לשליטה בנתונים בפריסות ZDR:

• תוכן הלקוח נשאר בתשתית הנמצאת בשליטת הלקוח.
• במקרה שבו התוכן מאוחסן בתשתית של OpenAI, הוא מוצפן באמצעות מפתחות הצפנה שבשליטת הלקוח — ולא באמצעות מפתחות הנמצאים בידי אנשי OpenAI.

בשני המקרים, מערכות אוטומטיות יכולות לזהות שימוש אפשרי לרעה ולהחזיר אות בטיחות מוגבל, בלי לחשוף את הפרומפטים או את תשובות המודל עצמם.

בפועל, התהליך אמור להיראות כך:

1. מערכות אוטומטיות בוחנות אינטראקציות קשורות ומחפשות דפוס שעלול להצביע על פעילות מזיקה.
2. אם הדפוס חוצה רף סיכון מסוים, נוצרת סיווג בטיחות מוגבל.
3. OpenAI מקבלת את הסיווג — ולא את הפרומפטים, הפלטים או תמלול השיחה.
4. הלקוח שומר את היכולת לבדוק את הפעילות הבסיסית בסביבה שלו.

מכיוון שמדובר עדיין בתצוגה מוקדמת, פרטים כמו ספי הזיהוי, שיעור השגיאות, אופן הטיפול בהתראות ותהליך הערעור יהיו חשובים במיוחד עבור לקוחות ארגוניים. OpenAI מסרה כי היא מתכננת להתחיל בהפצה רחבה יותר ולפרסם מסמך טכני בספטמבר 2026.

איזה מידע OpenAI מקבלת כשמזוהה איום?

לפי תיאור המערכת, OpenAI מקבלת התראה מצומצמת על סוג הפעילות שזוהה. תרשים המערכת של החברה מתאר את הפלט כקטגוריית התראה ורמת חומרה — ולא כשיחה עצמה.

אות כזה יכול לשמש לתמיכה בהחלטות בטיחות או אכיפה, אך הוא אינו שקול להעברת היסטוריית הסשן המלאה ל-OpenAI.

מדוע אנשי OpenAI אינם אמורים לראות את השיחה שסומנה?

סימון בטיחות אינו מעניק באופן אוטומטי לאנשי OpenAI גישה לשיחה. בהסדרי ה-ZDR המתוארים, החברה אומרת שאינה שומרת את תוכן הלקוח; ובתרחיש שבו התוכן מאוחסן אצלה, מפתחות הפענוח נמצאים בשליטת הלקוח ולא בידי אנשי OpenAI.

הלקוח יכול לבדוק בעצמו את החומר הרלוונטי, ובמקרה הצורך לבחור לשתף אותו מרצונו — למשל כדי לערער על החלטת אכיפה, להסביר שימוש לגיטימי או לסייע בחקירת שימוש לרעה שאושר. ללא שיתוף כזה, הסימון עצמו מוגבל למידע הבטיחותי שנוצר באופן אוטומטי ונשלח ל-OpenAI.

כך נוצרת הפרדה בין ראיות הנמצאות בשליטת הלקוח לבין אותות סיכון ברמת הספק. ההפרדה עשויה לצמצם את כמות המידע הרגיש שספק המודל צריך להחזיק, ובמקביל לאפשר לו לזהות דפוסים שמסנן הבוחן כל בקשה בנפרד עלול לפספס.

מי בוחן את התצוגה המוקדמת?

OpenAI ציינה את Glean, Databricks, Abridge ו-Microsoft בין הלקוחות המסייעים לעצב או לבחון את התצוגה המוקדמת. דיווחים נוספים זיהו את Microsoft ואת Databricks כלקוחות מוקדמים המעורבים בבדיקות.

המערכת אינה מוצגת כהגדרה כללית למשתמשי ChatGPT, אלא כיכולת המיועדת לפריסות API ארגוניות זכאיות — במיוחד עבור ארגונים שרוצים להשתמש במודלים מתקדמים תוך שמירה הדוקה על השליטה בפרומפטים ובתשובות.

OpenAI מול Anthropic: שתי פשרות שונות בתחום הבטיחות

הגישה של OpenAI מנסה לזהות שימוש לרעה תוך צמצום הגישה של הספק לתוכן הלקוח. אצל Anthropic, מדיניות המודלים המכוסים מייצרת פשרה אחרת: פרומפטים ותשובות של מודלים אלה נשמרים במשך 30 יום כדי לתמוך בעבודת בטיחות, לרבות בדיקה אנושית מבוקרת.

התיעוד של Anthropic קובע כי חובת השמירה חלה על מודלים מכוסים, ובהם מודלים ממשפחת Mythos, וכי מודלים אלה אינם זמינים תחת ZDR. החברה גם מציינת שהמידע הנשמר אינו משמש לאימון מודלים ללא אישור מפורש של הלקוח.

ההבדל התפעולי הוא אפוא משמעותי:

• Private Safety Processing של OpenAI: ניתוח אוטומטי של אינטראקציות קשורות, כאשר OpenAI מקבלת אות בטיחות מוגבל במקום את התוכן עצמו, לפי תיאור התצוגה המוקדמת.
• מדיניות המודלים המכוסים של Anthropic: שמירת פרומפטים ותשובות במשך 30 יום כדי לאפשר עבודת בטיחות ובדיקה מבוקרת.

אף אחת מהגישות אינה פוטרת את הלקוח מממשל נתונים. לפני שימוש בעומסי עבודה רגישים, ארגונים עדיין צריכים לבדוק את כללי הזכאות, ארכיטקטורת הפריסה, בקרות הגישה, תנאי השמירה, דרישות אזוריות, תהליך הערעור וההתחייבויות החוזיות.

מדוע זה חשוב לארגונים מפוקחים?

חברות בתחומי הפיננסים, הבריאות והמשפט מטפלות לעיתים במידע הכפוף לסודיות חוזית, להגנות פרטיות, לחיסיון מקצועי או לדרישות מגזריות. לכן, היכולת של ספק לשמור פרומפטים ולבחון אותם עשויה להשפיע על ניתוח צמצום המידע, אישורים פנימיים, תכנון ביקורות והערכת סיכוני ספקים.

מדיניות שמירת מידע של 30 יום אינה בהכרח אסורה, כשם ש-ZDR לבדו אינו הופך פריסה לתואמת רגולציה. המשמעות היא ששתי הארכיטקטורות מציבות שאלות שונות בפני צוותי האבטחה והמשפט. תנאי Anthropic מחייבים את הארגון להביא בחשבון שמירה ובדיקה אפשרית מצד הספק, בעוד OpenAI ממקמת את ZDR ואת Private Safety Processing סביב הגבלת הגישה של הספק לתוכן עצמו.

השאלות המעשיות עבור רוכשי פתרונות ארגוניים הן:

• האם המודל והפריסה זכאים ל-ZDR?
• היכן התוכן מעובד, ואם הוא נשמר — מי שולט במפתחות ההצפנה?
• אילו שדות בדיוק מופיעים בהתראת בטיחות?
• האם הלקוח יכול לבדוק או לערער על סימון בלי לחשוף את השיחה המלאה?
• מה קורה כאשר הספק חושד בשימוש לרעה חמור?
• האם תנאי השמירה והבדיקה של הספק תואמים את החובות החוזיות והרגולטוריות של הארגון?

גם עניין תחרותי — אבל לא כל טענה פיננסית מאומתת

המאבק סביב פרטיות הוא גם חלק מהתחרות על לקוחות ארגוניים. OpenAI מציגה את האפשרות של בטיחות ללא גישה של הספק לתוכן כדרך לאפשר שימוש במודלים מתקדמים בעומסי עבודה רגישים. Anthropic, לעומת זאת, נותנת עדיפות ליכולת חקירה ישירה יותר של שימוש לרעה במודלים המתקדמים ביותר שלה.

ההבדל הזה מקבל משקל נוסף בתקופה שבה שתי החברות מתחרות על צמיחה, השקעות ועניין בשוקי ההון. לפי דיווחים, Anthropic מסרה למשקיעים שקצב ההכנסות השנתי המנורמל שלה הגיע ל-65 מיליארד דולר בסוף יולי, לעומת כ-40 מיליארד דולר אצל OpenAI.

דיווחים נוספים, שהתבססו על נתונים ראשוניים, הציבו את הכנסות Anthropic ברבעון השני של 2026 מעל 11.5 מיליארד דולר — נתון שתואר כגבוה מהכנסות OpenAI ברבעון לראשונה. אלה נתונים של חברות פרטיות ולא תוצאות ציבוריות מבוקרות.

גם הערכת שווי אפשרית של 2 טריליון דולר לקראת הנפקה של Anthropic הוצגה בדיווחים כציפיית משקיעים, ולא כשווי שוק מבוסס או עובדה מוגמרת.

באשר לטענה ש-OpenAI הגישה טופס S-1 חסוי ביוני 2026, המקורות המרכזיים שסופקו כאן אינם מאמתים אותה. הדיווחים הזמינים מייחסים הגשה חסויה דווקא ל-Anthropic. לכן גם הטענה על "צמיחה איטית יותר של OpenAI ברבעון השני" צריכה להישאר בגדר השוואה מדווחת, עד שתיתמך בדיווח רשמי או בנתונים מאומתים.

השורה התחתונה

Private Safety Processing הופכת את הפרטיות לחלק ממוצר הבטיחות עצמו. השאלה כבר אינה רק אם המודל יודע לחסום בקשה מסוכנת, אלא אם ספק המודל מסוגל לזהות שימוש מתואם לרעה לאורך תהליך ארוך — בלי לקבל גישה לכל שיחת לקוח.

הפתרון ש-OpenAI מציגה הוא להשאיר את התוכן בתשתית בשליטת הלקוח, או להצפין אותו במפתחות שבשליטת הלקוח; להשתמש במערכות אוטומטיות לזיהוי דפוסים בין אינטראקציות; ולשלוח ל-OpenAI סיווג סיכון מצומצם.

Anthropic מציעה מודל אחר: לשמור את הפרומפטים והתשובות הרלוונטיים למשך תקופה מוגבלת כדי לאפשר עבודת בטיחות ובדיקה מבוקרת, תוך התחייבות שלא להשתמש בהם לאימון ללא אישור הלקוח.

הבחירה בין שתי הגישות תלויה ברגישות המידע, בסובלנות הסיכון של הארגון ובמידת הנראות החקירתית שהוא מצפה לקבל מספק המודל. ההפצה הרחבה יותר של Private Safety Processing והמסמך הטכני שאותו OpenAI מתכננת לפרסם בספטמבר 2026 יהיו חשובים כדי לבדוק כיצד ההבטחות האלה מתפקדות בפריסות אמיתיות.