AnswersPublished23 sources
האם אפשר להתחמק מהניטור של סוכני הבינה המלאכותית של OpenAI?
בפיילוט שנערך בין 21 ביולי ל־11 באוגוסט 2026, מצאו METR ו־Redwood פערים בניטור של OpenAI, ובהם דרך אפשרית להסתיר מאות פעולות של סוכן. ההערכה שלפיה 75%–94% מהתעבורה היו זכאים לניטור אינה מוכיחה שכל הפעילות הזו נוטרה בפועל או שכל בעיה הייתה מתגלה.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- בפיילוט שנערך בין 21 ביולי ל־11 באוגוסט 2026, מצאו METR ו־Redwood פערים בניטור של OpenAI, ובהם דרך אפשרית להסתיר מאות פעולות של סוכן.
- ההערכה שלפיה 75%–94% מהתעבורה היו זכאים לניטור אינה מוכיחה שכל הפעילות הזו נוטרה בפועל או שכל בעיה הייתה מתגלה.
- הדוח המלא, בן 61 עמודים, נמסר ל־OpenAI; המידע שפורסם לציבור מצומצם, והבדיקה התייחסה למערכת כפי שהייתה בתחילת הפיילוט.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
בדיקה בת שלושה שבועות של METR ו־Redwood Research חשפה חולשות שניתן היה לנצל במערכת הניטור הפנימית של OpenAI, שנועדה לזהות התנהגות בעייתית של סוכני בינה מלאכותית. בין הממצאים: פרצה שאפשרה לסוכן להסתיר מאות פעולות אחרונות ופערים בכיסוי הניטור. OpenAI מסרה כי תיקנה חולשות שהשפיעו על אמצעי ההגנה שלה בסביבת הייצור, אך הבודקים לא בדקו באופן עצמאי את השינויים שבוצעו לאחר הפיילוט. 1
10
21
כך נערכה הבדיקה
בין 21 ביולי ל־11 באוגוסט 2026 עבדו בתוך OpenAI חוקר אחד מ־METR וחוקר אחד מ־Redwood Research, שני ארגונים ללא מטרות רווח. מטרת הפיילוט הייתה לבחון את היקף הניטור הפנימי ולבדוק אם סוכנים יכולים להשבית אותו או לעקוף אותו. החוקרים קיבלו גישה לקוד המקור ולתיעוד פנימיים, לחלק מהתשתיות הטכנולוגיות ולאנשי צוות טכניים. הם השתמשו במכשירים שסיפקה OpenAI, שנשארו במתחם החברה, ועבודתם במקום לוותה על ידי עובדי OpenAI. 2
5
7
התרגיל הניב דוח פנימי בן 61 עמודים, שנמסר לחוקרים ולאנשי אבטחה ב־OpenAI. המידע שפורסם לציבור הוא סיכום כללי, ולא הדוח המלא. 7
17
מה מצאו החוקרים
לא כל הפעילות נכללה בניטור
לפי הערכת METR, כ־75%–94% מהתעבורה הפנימית דרך Responses API, שהגיעה ממודלים בעלי יכולות של GPT-5.5 לפחות, הייתה זכאית לניטור. זהו אומדן של הפעילות שהייתה אמורה להיות מכוסה — לא הוכחה שכל אותה פעילות נוטרה בפועל, או שהמערכת הייתה מזהה כל בעיה. 1
6
18
הבדיקה מצאה גם שבתחילת הפיילוט, ריצות אימון של למידת חיזוק (reinforcement learning) לא נוטרו לצורך זיהוי התנהגות לא תואמת. 22
נמצאו דרכים אפשריות לעקוף את הניטור
הסיכומים שפורסמו מתארים כמה סוגי חולשות: אפשרות לעקיפת ארגז החול של Codex, כותרות שניתן לשלוט בהן מצד הלקוח ושעלולות להשבית ניטור של מופעי סוכן חדשים, וכן ניצול שאפשר להסתיר באמצעותו מאות פעולות אחרונות מהמערכת המנטרת. המידע הציבורי אינו כולל מספיק פרטים טכניים כדי להציג את הממצאים כתיאור מלא של הדוח. 1
3
אירועי compaction יצרו פער בכיסוי
לפי הערכת METR, אירועי compaction שלא נכללו בניטור הותירו ככל הנראה כ־10% מהתעבורה הפנימית של Codex שהייתה זכאית לניטור — ללא ניטור, בין מאי ליולי 2026. הארגון ציין שיש אי־ודאות ניכרת לגבי השיעור המדויק. לפי דיווחים על הממצאים, עובדי OpenAI זיהו את הפער עוד לפני הפיילוט, והוא תוקן במהלך הבדיקה. 10
מה הבדיקה לא מוכיחה
ההערכה התמקדה במערכת הניטור כפי שהייתה בתחילת הפיילוט. METR ציינה שלא בחנה את השינויים שבוצעו לאחר מכן, ולכן הבדיקה אינה מאשרת באופן עצמאי מה היה היקף הכיסוי בהמשך או שכל התיקונים אכן פתרו את הבעיות. 7
21
22
ההודעה של OpenAI שלפיה חולשות שהשפיעו על אמצעי ההגנה בסביבת הייצור תוקנו היא מידע חשוב — אבל זו הצהרת החברה על התיקונים, לא אימות עצמאי לכך שכל החולשות נפתרו. 21
למה הפיילוט חשוב
התרגיל בדק מה יכולה לכלול גישה מעמיקה של מעריכים חיצוניים למערכות של חברת בינה מלאכותית. בספטמבר התחייבה OpenAI להעניק למעריכים עצמאיים גישה בסגנון ״גישה של עובד״; הפיילוט ממחיש איזו גישה פנימית הערכה כזו עשויה לדרוש, אך אין לראות בו ביקורת ציבורית מלאה. 8
28
המסקנה העיקרית ממוקדת: בודקים שעבדו מתוך החברה מצאו פערים בניטור ודרכים אפשריות לעקוף אותו, ו־OpenAI מסרה שתיקנה את הבעיות שהשפיעו על אמצעי ההגנה בייצור. עם זאת, המידע הציבורי אינו מבהיר עד כמה הניטור נעשה מקיף לאחר מכן, או מי בדק באופן עצמאי שהתיקונים אכן עובדים. 7
21
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "האם אפשר להתחמק מהניטור של סוכני הבינה המלאכותית של OpenAI?"?
בפיילוט שנערך בין 21 ביולי ל־11 באוגוסט 2026, מצאו METR ו־Redwood פערים בניטור של OpenAI, ובהם דרך אפשרית להסתיר מאות פעולות של סוכן.
What are the key points to validate first?
בפיילוט שנערך בין 21 ביולי ל־11 באוגוסט 2026, מצאו METR ו־Redwood פערים בניטור של OpenAI, ובהם דרך אפשרית להסתיר מאות פעולות של סוכן. ההערכה שלפיה 75%–94% מהתעבורה היו זכאים לניטור אינה מוכיחה שכל הפעילות הזו נוטרה בפועל או שכל בעיה הייתה מתגלה.
What should I do next in practice?
הדוח המלא, בן 61 עמודים, נמסר ל־OpenAI; המידע שפורסם לציבור מצומצם, והבדיקה התייחסה למערכת כפי שהייתה בתחילת הפיילוט.