מתקפת "המחשבות הגנובות": כך פרצו חוקרים לחשיבה הסמויה של OpenAI, Anthropic ו-Google — וחשפו ראיות בזיקוק הסיני
באוגוסט 2026, חוקרים הדגימו כיצד ניתן לקחת בלוקים מוצפנים של 'חשיבה' ממודלי קצה של OpenAI חברת , Anthropoc ו Google, ולהזריק אותם למודלים חלשים יותר מאותה חברה, אשר 'מדפיסים' את החשיבה הסמויה כטקסט קריא. החולשה, המכונה 'מחשבות גנובות' (Stolen Thoughts), נוצלה להוכחת זיקוק לכאורה במודל הסיני Kimi K3, אשר על פי ההאשמו...
פורסם על ידינערך באמצעות DeepSeek-V4-Flashהתמונות נוצרו באמצעות GPT Image 1.5
באוגוסט 2026, חוקרים הדגימו כיצד ניתן לקחת בלוקים מוצפנים של 'חשיבה' ממודלי קצה של OpenAI חברת , Anthropoc ו Google, ולהזריק אותם למודלים חלשים יותר מאותה חברה, אשר 'מדפיסים' את החשיבה הסמויה כטקסט קריא.
החולשה, המכונה 'מחשבות גנובות' (Stolen Thoughts), נוצלה להוכחת זיקוק לכאורה במודל הסיני Kimi K3, אשר על פי ההאשמות הוכשר על בסיס פלטים של מודל Claude של Anthropic.
מעבר לגניבה אינטלקטואלית, המתקפה חשפה סיכונים ממשיים: דליפת 367 פרטים מזהים ו 182 מפתחות גישה (כולל סיסמאות) שהוטמעו בתוך שרשראות החשיבה, וכן יכולת להעביר התנהגות מזיקה באמצעות העתקתן.
How did researchers discover a method to extract hidden reasoning traces from leading AI models, what did it reveal about potential distillaAI-generated editorial hero image for How did researchers discover a method to extract hidden reasoning traces from leading AI models, what did it reveal about potential distilla.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: How did researchers discover a method to extract hidden reasoning traces from leading AI models, what did it reveal about potential distilla. Article summary: ## How researchers discovered the extraction method. Topic tags: general, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illustrative visual, not as factual evidence.
openai.com
בשנת 2026, שתי קבוצות מחקר עצמאיות פרסמו שיטות הפורצות את ההגנה על החשיבה הסמויה במודלי בינה מלאכותית מתקדמים. השיטה הראשונה, טכניקת Prompting בשם Reasoning Exposure Prompting (REP), מסוגלת למשוך את שרשרת החשיבה (chain-of-thought) הנסתרת של מודל חזרה לפלט הנראה למשתמש. השיטה השנייה, מתקפת 'שידור חוזר' המכונה 'Stolen Thoughts' (מחשבות גנובות), מנצלת כשל מבני באופן שבו חברות כמו OpenAI, Anthropic ו-Google מצפינות את בלוקי החשיבה שהן מחזירות דרך ה-API שלהן. יחד, חולשות אלו מספקות ראיות פורנזיות חדשות במחלוקת המתמשכת האם מערכות AI סיניות כמו Kimi K3 של Moonshot נבנו על ידי זיקוק (distillation) של מודלים אמריקאיים קנייניים .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "מתקפת "המחשבות הגנובות": כך פרצו חוקרים לחשיבה הסמויה של OpenAI, Anthropic ו-Google — וחשפו ראיות בזיקוק הסיני"?
באוגוסט 2026, חוקרים הדגימו כיצד ניתן לקחת בלוקים מוצפנים של 'חשיבה' ממודלי קצה של OpenAI חברת , Anthropoc ו Google, ולהזריק אותם למודלים חלשים יותר מאותה חברה, אשר 'מדפיסים' את החשיבה הסמויה כטקסט קריא.
What are the key points to validate first?
באוגוסט 2026, חוקרים הדגימו כיצד ניתן לקחת בלוקים מוצפנים של 'חשיבה' ממודלי קצה של OpenAI חברת , Anthropoc ו Google, ולהזריק אותם למודלים חלשים יותר מאותה חברה, אשר 'מדפיסים' את החשיבה הסמויה כטקסט קריא. החולשה, המכונה 'מחשבות גנובות' (Stolen Thoughts), נוצלה להוכחת זיקוק לכאורה במודל הסיני Kimi K3, אשר על פי ההאשמות הוכשר על בסיס פלטים של מודל Claude של Anthropic.
What should I do next in practice?
מעבר לגניבה אינטלקטואלית, המתקפה חשפה סיכונים ממשיים: דליפת 367 פרטים מזהים ו 182 מפתחות גישה (כולל סיסמאות) שהוטמעו בתוך שרשראות החשיבה, וכן יכולת להעביר התנהגות מזיקה באמצעות העתקתן.
מתקפת "המחשבות הגנובות": כך פרצו חוקרים לחשיבה הסמויה של OpenAI, Anthropic ו-Google — וחשפו ראיות בזיקוק הסיני
באוגוסט 2026, חוקרים הדגימו כיצד ניתן לקחת בלוקים מוצפנים של 'חשיבה' ממודלי קצה של OpenAI חברת , Anthropoc ו Google, ולהזריק אותם למודלים חלשים יותר מאותה חברה, אשר 'מדפיסים' את החשיבה הסמויה כטקסט קריא. החולשה, המכונה 'מחשבות גנובות' (Stolen Thoughts), נוצלה להוכחת זיקוק לכאורה במודל הסיני Kimi K3, אשר על פי ההאשמו...
פורסם על ידינערך באמצעות DeepSeek-V4-Flashהתמונות נוצרו באמצעות GPT Image 1.5
באוגוסט 2026, חוקרים הדגימו כיצד ניתן לקחת בלוקים מוצפנים של 'חשיבה' ממודלי קצה של OpenAI חברת , Anthropoc ו Google, ולהזריק אותם למודלים חלשים יותר מאותה חברה, אשר 'מדפיסים' את החשיבה הסמויה כטקסט קריא.
החולשה, המכונה 'מחשבות גנובות' (Stolen Thoughts), נוצלה להוכחת זיקוק לכאורה במודל הסיני Kimi K3, אשר על פי ההאשמות הוכשר על בסיס פלטים של מודל Claude של Anthropic.
מעבר לגניבה אינטלקטואלית, המתקפה חשפה סיכונים ממשיים: דליפת 367 פרטים מזהים ו 182 מפתחות גישה (כולל סיסמאות) שהוטמעו בתוך שרשראות החשיבה, וכן יכולת להעביר התנהגות מזיקה באמצעות העתקתן.
How did researchers discover a method to extract hidden reasoning traces from leading AI models, what did it reveal about potential distillaAI-generated editorial hero image for How did researchers discover a method to extract hidden reasoning traces from leading AI models, what did it reveal about potential distilla.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: How did researchers discover a method to extract hidden reasoning traces from leading AI models, what did it reveal about potential distilla. Article summary: ## How researchers discovered the extraction method. Topic tags: general, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illustrative visual, not as factual evidence.
openai.com
בשנת 2026, שתי קבוצות מחקר עצמאיות פרסמו שיטות הפורצות את ההגנה על החשיבה הסמויה במודלי בינה מלאכותית מתקדמים. השיטה הראשונה, טכניקת Prompting בשם Reasoning Exposure Prompting (REP), מסוגלת למשוך את שרשרת החשיבה (chain-of-thought) הנסתרת של מודל חזרה לפלט הנראה למשתמש. השיטה השנייה, מתקפת 'שידור חוזר' המכונה 'Stolen Thoughts' (מחשבות גנובות), מנצלת כשל מבני באופן שבו חברות כמו OpenAI, Anthropic ו-Google מצפינות את בלוקי החשיבה שהן מחזירות דרך ה-API שלהן. יחד, חולשות אלו מספקות ראיות פורנזיות חדשות במחלוקת המתמשכת האם מערכות AI סיניות כמו Kimi K3 של Moonshot נבנו על ידי זיקוק (distillation) של מודלים אמריקאיים קנייניים .
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "מתקפת "המחשבות הגנובות": כך פרצו חוקרים לחשיבה הסמויה של OpenAI, Anthropic ו-Google — וחשפו ראיות בזיקוק הסיני"?
באוגוסט 2026, חוקרים הדגימו כיצד ניתן לקחת בלוקים מוצפנים של 'חשיבה' ממודלי קצה של OpenAI חברת , Anthropoc ו Google, ולהזריק אותם למודלים חלשים יותר מאותה חברה, אשר 'מדפיסים' את החשיבה הסמויה כטקסט קריא.
What are the key points to validate first?
באוגוסט 2026, חוקרים הדגימו כיצד ניתן לקחת בלוקים מוצפנים של 'חשיבה' ממודלי קצה של OpenAI חברת , Anthropoc ו Google, ולהזריק אותם למודלים חלשים יותר מאותה חברה, אשר 'מדפיסים' את החשיבה הסמויה כטקסט קריא. החולשה, המכונה 'מחשבות גנובות' (Stolen Thoughts), נוצלה להוכחת זיקוק לכאורה במודל הסיני Kimi K3, אשר על פי ההאשמות הוכשר על בסיס פלטים של מודל Claude של Anthropic.
What should I do next in practice?
מעבר לגניבה אינטלקטואלית, המתקפה חשפה סיכונים ממשיים: דליפת 367 פרטים מזהים ו 182 מפתחות גישה (כולל סיסמאות) שהוטמעו בתוך שרשראות החשיבה, וכן יכולת להעביר התנהגות מזיקה באמצעות העתקתן.
Reasoning Exposure Prompting (REP) — פורסם ב-30 במאי 2026 במאמר "Hidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs" (arXiv:2606.00642). החוקרים Lu, Tsai, Tsai, Popa ו-Yu הראו שגם כשספקים מסתירים בכוונה את שרשרת החשיבה, טכניקת Prompting קלה במשקל ('in-context') יכולה למשוך אותה חזרה לפלט. השיטה, המכונה 'shadow-model prompting', משתמשת בדגימות ממודל קטן וחסר הגבלות, העטופות בפורמטים דמויי קוד עזר, כדי לחלץ עקבות פנימיות מהמודל המותקף. העקבות שמופקות מפורטות מספיק כדי לזקק מהן מודל קטן יותר .
מתקפת 'המחשבות הגנובות' (Stolen Thoughts) — פורסמה ב-10–11 באוגוסט 2026 במאמר "Stealing Reasoning Traces from Proprietary LLM APIs" (arXiv:2608.09867). החוקרים Panfilov, Schmotz, Shumailov, Beurer-Kellner, Schaeffer, Prabhu, Geiping ו-Andriushchenko גילו כשל ארכיטקטוני קריטי: בלוקי ה'חשיבה' המוצפנים שחברות Anthropic, OpenAI ו-Google מחזירות ללקוחות ה-API אינם אטומים כראוי למקורם. ניתן להרים בלוקים אלו משיחה אחת ולשדר אותם מחדש (replay) לתוך מודל אח חלש יותר מאותו ספק, אשר אז מדפיס את החשיבה הסמויה של מודל הקצה כטקסט פשוט . המתקפה עובדת על פני שיחות שונות, חשבונות משתמש שונים ועל פני מודלים שונים באותה מערכת ספק . החוקרים אישרו שהטכניקה עובדת על כל חברת AI מתקדמת מרכזית שבדקו, ואורך החשיבה שהם משחזרים תואם כמעט 1:1 למספר אסימוני החשיבה (thinking tokens) הנסתר שדווח על ידי ה-API .
עדות למחלוקת זיקוק Kimi K3
עקבות החשיבה המופקות מספקות אותות אימון באיכות גבוהה לזיקוק מודלים (model distillation) — הפרקטיקה של שימוש בפלטים של מודל חזק כדי לאמן מודל מתחרה זול וקטן יותר . טכניקה זו עומדת במרכז מחלוקת סוערת סביב מעבדות AI סיניות:
Anthropic הצהירה בפומבי שמעבדות AI סיניות, כולל DeepSeek, Moonshot ו-MiniMax, השתמשו בכ- 24,000 חשבונות מזויפים כדי לייצר למעלה מ- 16 מיליון אינטראקציות עם Claude, תוך עקיפת מגבלות גישה .
Kimi K3, שוחרר ביולי 2026 על ידי Moonshot AI, צוין על ידי קרן ג'יימסטאון (Jamestown Foundation) כמודל ספציפי שנבנה באמצעות זיקוק, עם ביצועים שנטען כי הם דומים לאלה של Claude Fable 5 של Anthropic ו-GPT-5.6 Sol של OpenAI .
Ryan Greenblatt (Redwood Research) פרסם ניתוח סטטיסטי המראה השוואות cross-entropy המצביעות על כך שהפלטים של Kimi K3 תואמים מקרוב לאלה של מודלי Claude של Anthropic .
היועץ המדעי של הבית הלבן, מייקל קרציוס (Michael Kratsios), האשים בפומבי את Moonshot בבניית Kimi K3 באמצעות "זיקוק תעשייתי חשאי" .
עם זאת, הראיות אינן חד-משמעיות. חוקרים כמו Braden Hancock (מכון Laude) ו-Nathan Lambert (מכון Allen ל-AI) טוענים כי זיקוק לבדו אינו יכול להסביר את מכלול היכולות של Kimi K3. מסמך PDF ויראלי שטען להוכחה לזיקוק שרשרת חשיבה ספג ביקורת על שילוב של ניסוי מוגבל עם טענות לא מבוססות .
סיכוני אבטחה הנשקפים מהחולשה
הכשל יוצר מספר סיכונים קונקרטיים נוספים מעבר לגניבת קניין רוחני:
דליפת פרטי זיהוי (PII) וסיסמאות (Credentials): החוקרים פענחו 315,320 בלוקי חשיבה שגרדו ממאגרים ציבוריים וגילו בתוכם 367 ממצאי PII ו-182 פרטי גישה (כולל מפתחות API וסיסמאות) שהוטמעו בתוך עקבות החשיבה .
עקיפת הגנות נגד זיקוק: אותה חולשה שמאפשרת חילוץ גם מביסה את מנגנוני ההגנה של הספקים עצמם מפני זיקוק .
העברת התנהגות מזיקה: מאמר נפרד ("Hidden in Thought: Transferable Chain-of-Thought Artifacts Induce Harmful Behavior") מצא שהעברת עקבות חשיבה עלולה להעלות את שיעורי התגובות המזיקות למעל 80% במודלי הקוד הפתוח הפגיעים ביותר .
חשיפת Prompt נסתר: שדות חשיבה אטומים שמפתחי סוכנים (agents) מתייחסים אליהם כבטוחים לשמירה ולפרסום עלולים להכיל הוראות מערכת נסתרות ופרטי גישה .
כיצד OpenAI, Anthropic ו-Google הגיבו
כל שלוש החברות נוצרו קשר על ידי חוקרי 'המחשבות הגנובות' לפני הפרסום. על פי דיווחים, OpenAI, Anthropic ו-Google חסמו את מתקפת החשיבה החוצה-מודלים לאחר שקיבלו הודעה. פרטים ספציפיים על הצעדים שנקטו לא נחשפו במלואם במקורות שפורסמו, אך אושר שהחולשה התקיימה אצל כל שלושת הספקים לפני התיקון . חסימת המתקפה מרמזת על יישום תיקונים בצד השרת, ככל הנראה הגבלת השימוש החוזר בבלוקי חשיבה מוצפנים בין הקשרי מודל או חשבונות שונים .
Anthropic כבר ניהלה קרב פומבי נגד זיקוק בהיקף נרחב, תוך דיווח על 24,000 החשבונות המזויפים ו-16 מיליון האינטראקציות ששימשו מעבדות סיניות לחילוץ פלטים מ-Claude .
הלקח המרכזי הן ממאמרי REP והן ממאמרי 'Stolen Thoughts' הוא שהסתרה או הצפנה של עקבות חשיבה היא אסטרטגיית אבטחה שבירה מיסודה — אם החשיבה קיימת במשקלי המודל, ניתן לחלץ אותה .
Reasoning Exposure Prompting (REP) — פורסם ב-30 במאי 2026 במאמר "Hidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs" (arXiv:2606.00642). החוקרים Lu, Tsai, Tsai, Popa ו-Yu הראו שגם כשספקים מסתירים בכוונה את שרשרת החשיבה, טכניקת Prompting קלה במשקל ('in-context') יכולה למשוך אותה חזרה לפלט. השיטה, המכונה 'shadow-model prompting', משתמשת בדגימות ממודל קטן וחסר הגבלות, העטופות בפורמטים דמויי קוד עזר, כדי לחלץ עקבות פנימיות מהמודל המותקף. העקבות שמופקות מפורטות מספיק כדי לזקק מהן מודל קטן יותר .
מתקפת 'המחשבות הגנובות' (Stolen Thoughts) — פורסמה ב-10–11 באוגוסט 2026 במאמר "Stealing Reasoning Traces from Proprietary LLM APIs" (arXiv:2608.09867). החוקרים Panfilov, Schmotz, Shumailov, Beurer-Kellner, Schaeffer, Prabhu, Geiping ו-Andriushchenko גילו כשל ארכיטקטוני קריטי: בלוקי ה'חשיבה' המוצפנים שחברות Anthropic, OpenAI ו-Google מחזירות ללקוחות ה-API אינם אטומים כראוי למקורם. ניתן להרים בלוקים אלו משיחה אחת ולשדר אותם מחדש (replay) לתוך מודל אח חלש יותר מאותו ספק, אשר אז מדפיס את החשיבה הסמויה של מודל הקצה כטקסט פשוט . המתקפה עובדת על פני שיחות שונות, חשבונות משתמש שונים ועל פני מודלים שונים באותה מערכת ספק . החוקרים אישרו שהטכניקה עובדת על כל חברת AI מתקדמת מרכזית שבדקו, ואורך החשיבה שהם משחזרים תואם כמעט 1:1 למספר אסימוני החשיבה (thinking tokens) הנסתר שדווח על ידי ה-API .
עדות למחלוקת זיקוק Kimi K3
עקבות החשיבה המופקות מספקות אותות אימון באיכות גבוהה לזיקוק מודלים (model distillation) — הפרקטיקה של שימוש בפלטים של מודל חזק כדי לאמן מודל מתחרה זול וקטן יותר . טכניקה זו עומדת במרכז מחלוקת סוערת סביב מעבדות AI סיניות:
Anthropic הצהירה בפומבי שמעבדות AI סיניות, כולל DeepSeek, Moonshot ו-MiniMax, השתמשו בכ- 24,000 חשבונות מזויפים כדי לייצר למעלה מ- 16 מיליון אינטראקציות עם Claude, תוך עקיפת מגבלות גישה .
Kimi K3, שוחרר ביולי 2026 על ידי Moonshot AI, צוין על ידי קרן ג'יימסטאון (Jamestown Foundation) כמודל ספציפי שנבנה באמצעות זיקוק, עם ביצועים שנטען כי הם דומים לאלה של Claude Fable 5 של Anthropic ו-GPT-5.6 Sol של OpenAI .
Ryan Greenblatt (Redwood Research) פרסם ניתוח סטטיסטי המראה השוואות cross-entropy המצביעות על כך שהפלטים של Kimi K3 תואמים מקרוב לאלה של מודלי Claude של Anthropic .
היועץ המדעי של הבית הלבן, מייקל קרציוס (Michael Kratsios), האשים בפומבי את Moonshot בבניית Kimi K3 באמצעות "זיקוק תעשייתי חשאי" .
עם זאת, הראיות אינן חד-משמעיות. חוקרים כמו Braden Hancock (מכון Laude) ו-Nathan Lambert (מכון Allen ל-AI) טוענים כי זיקוק לבדו אינו יכול להסביר את מכלול היכולות של Kimi K3. מסמך PDF ויראלי שטען להוכחה לזיקוק שרשרת חשיבה ספג ביקורת על שילוב של ניסוי מוגבל עם טענות לא מבוססות .
סיכוני אבטחה הנשקפים מהחולשה
הכשל יוצר מספר סיכונים קונקרטיים נוספים מעבר לגניבת קניין רוחני:
דליפת פרטי זיהוי (PII) וסיסמאות (Credentials): החוקרים פענחו 315,320 בלוקי חשיבה שגרדו ממאגרים ציבוריים וגילו בתוכם 367 ממצאי PII ו-182 פרטי גישה (כולל מפתחות API וסיסמאות) שהוטמעו בתוך עקבות החשיבה .
עקיפת הגנות נגד זיקוק: אותה חולשה שמאפשרת חילוץ גם מביסה את מנגנוני ההגנה של הספקים עצמם מפני זיקוק .
העברת התנהגות מזיקה: מאמר נפרד ("Hidden in Thought: Transferable Chain-of-Thought Artifacts Induce Harmful Behavior") מצא שהעברת עקבות חשיבה עלולה להעלות את שיעורי התגובות המזיקות למעל 80% במודלי הקוד הפתוח הפגיעים ביותר .
חשיפת Prompt נסתר: שדות חשיבה אטומים שמפתחי סוכנים (agents) מתייחסים אליהם כבטוחים לשמירה ולפרסום עלולים להכיל הוראות מערכת נסתרות ופרטי גישה .
כיצד OpenAI, Anthropic ו-Google הגיבו
כל שלוש החברות נוצרו קשר על ידי חוקרי 'המחשבות הגנובות' לפני הפרסום. על פי דיווחים, OpenAI, Anthropic ו-Google חסמו את מתקפת החשיבה החוצה-מודלים לאחר שקיבלו הודעה. פרטים ספציפיים על הצעדים שנקטו לא נחשפו במלואם במקורות שפורסמו, אך אושר שהחולשה התקיימה אצל כל שלושת הספקים לפני התיקון . חסימת המתקפה מרמזת על יישום תיקונים בצד השרת, ככל הנראה הגבלת השימוש החוזר בבלוקי חשיבה מוצפנים בין הקשרי מודל או חשבונות שונים .
Anthropic כבר ניהלה קרב פומבי נגד זיקוק בהיקף נרחב, תוך דיווח על 24,000 החשבונות המזויפים ו-16 מיליון האינטראקציות ששימשו מעבדות סיניות לחילוץ פלטים מ-Claude .
הלקח המרכזי הן ממאמרי REP והן ממאמרי 'Stolen Thoughts' הוא שהסתרה או הצפנה של עקבות חשיבה היא אסטרטגיית אבטחה שבירה מיסודה — אם החשיבה קיימת במשקלי המודל, ניתן לחלץ אותה .
arxiv.orgHidden Thoughts Are Not Secret: Reasoning Trace Exposure in LLMs
wired.comA New Trick Reveals AI Models' Inner Thoughts
ai-tldr.devStolen Thoughts — encrypted reasoning pulled out… | AI/TLDR
moltbook.comHiding reasoning traces is a failed security strategy | moltbook
llm-hacking.comReasoning trace exposure: hiding chain-of-thought doesn't protect it