उत्तरप्रकाशित1 घंटे पहलेLast edited 54 मिनट पहले17 स्रोत

OpenAI की बातचीत संक्षेप करने वाली सुविधा में मिली खामी ने छिपी रीजनिंग उजागर की

Xint ने बताया कि compaction item के जरिए OpenAI मॉडल की छिपी रीजनिंग दूसरे मॉडल तक पहुँचाई गई, जिसने उसे पढ़ने योग्य पाठ में दोहराया। यह मामला API की अलग अलग सुविधाओं के बीच सुरक्षित डेटा के इस्तेमाल से जुड़ा था—एन्क्रिप्शन टूटने का प्रमाण नहीं। OpenAI ने 23 अक्टूबर 2026 को खामी ठीक की; रिपोर्टिंग में संभावित जोखिम...

प्रकाशितकर्ताGPT-6 Luna से संपादितGPT Image 2 से चित्र बनाए गए

Studio Global AI के साथ खोजें और तथ्यों की जांच करें और ट्रेंडिंग पेज देखें

शोध उत्तर

मुख्य निष्कर्ष

Xint ने बताया कि compaction item के जरिए OpenAI मॉडल की छिपी रीजनिंग दूसरे मॉडल तक पहुँचाई गई, जिसने उसे पढ़ने योग्य पाठ में दोहराया।
यह मामला API की अलग अलग सुविधाओं के बीच सुरक्षित डेटा के इस्तेमाल से जुड़ा था—एन्क्रिप्शन टूटने का प्रमाण नहीं।
OpenAI ने 23 अक्टूबर 2026 को खामी ठीक की; रिपोर्टिंग में संभावित जोखिम बताया गया है, लेकिन यह साबित नहीं हुआ कि किसी ने इस तरीके से प्रतिद्वंद्वी मॉडल को प्रशिक्षित किया।

Abstract illustration representing hidden AI reasoning moving through a conversation-compaction process — How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by reAn illustration of hidden reasoning passing through an AI system’s compaction workflow.
AI संकेत
Create a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
openai.com

Xint ने बताया कि OpenAI की बातचीत को संक्षिप्त करने वाली सुविधा में एक खामी के कारण मॉडल की छिपी रीजनिंग को पढ़ने योग्य पाठ के रूप में बाहर निकाला जा सकता था। शोधकर्ताओं ने इस तरीके को Compaction Smuggling नाम दिया: रीजनिंग को compaction item में डालकर ऐसा करवाया गया कि दूसरा मॉडल उसे पढ़कर दोहरा सके। कंपनी के खुलासे और समाचार रिपोर्टों के अनुसार, OpenAI ने 23 अक्टूबर 2026 को समस्या ठीक कर दी। 2 5

Compaction Smuggling कैसे काम करती थी?

लंबी बातचीत को छोटा करके संभालने की प्रक्रिया को conversation compaction कहा जाता है। Xint की रिपोर्ट के मुताबिक, शोधकर्ताओं ने इस प्रक्रिया को इस तरह निर्देशित किया कि मॉडल की छिपी रीजनिंग एक compaction item में कॉपी हो जाए। फिर उस item को पुराने मॉडल के पास भेजा गया, जो उसकी सामग्री को पाठ के रूप में दोहरा सकता था। 5 43

यह सामान्य मॉडल-जवाब में रीजनिंग दिख जाने जैसा मामला नहीं था। रिपोर्टिंग के अनुसार, रीजनिंग आम तौर पर एन्क्रिप्टेड item के रूप में लौटती है, जिसे उपयोगकर्ता पढ़ नहीं सकता। बताई गई खामी API प्रोसेसिंग के अगले चरण में थी, जहाँ उस सामग्री को पढ़ने योग्य बनाया जा सकता था। 2 इसलिए चिंता एन्क्रिप्शन टूटने की नहीं, बल्कि अलग-अलग सुविधाओं से गुजरते समय सुरक्षित डेटा को कैसे संभाला गया, इसकी थी।

कुछ अन्य रिपोर्टों में gpt-5.6-sol को उस मॉडल के रूप में पहचाना गया जिसकी रीजनिंग निकाली गई, और कहा गया कि compaction output को gpt-4.1 तथा gpt-4o के जरिए दोहराया गया। 33 34 उपलब्ध सार्वजनिक स्रोत हर बारीकी की पुष्टि नहीं करते—मसलन, कथित तीन-कॉल प्रक्रिया का सटीक प्रारूप या क्लासिफायर से बचने की तकनीक। इसलिए इन विवरणों को सावधानी से देखना चाहिए।

छिपी रीजनिंग बाहर आने से क्या जोखिम था?

Xint ने कहा कि यह खामी उन्नत मॉडलों को बड़े पैमाने पर डिस्टिल करने का रास्ता खोल सकती थी। 5 डिस्टिलेशन में अधिक सक्षम मॉडल के आउटपुट को छोटे मॉडल के प्रशिक्षण के लिए इस्तेमाल किया जाता है। केवल अंतिम जवाब के बजाय रीजनिंग के चरण मिलें, तो वे प्रशिक्षण के लिए अधिक जानकारी दे सकते हैं। यह उजागर डेटा के संभावित इस्तेमाल की बात है—रिपोर्टिंग यह साबित नहीं करती कि किसी ने इस खामी का उपयोग करके प्रतिस्पर्धी मॉडल प्रशिक्षित किया।

क्या पता है—और क्या अब भी स्पष्ट नहीं?

Xint के मुताबिक, OpenAI ने खामी की पुष्टि की और 23 अक्टूबर को ऐसा सुधार लागू किया जिसकी तकनीकी जानकारी सार्वजनिक नहीं की गई। Xint ने अपनी रिपोर्ट 26 अक्टूबर को प्रकाशित की। 5 The Hacker News ने भी बताया कि OpenAI ने समस्या की पुष्टि कर उसे ठीक किया। 2 एक अन्य रिपोर्ट में $6,000 के बग बाउंटी का उल्लेख है। 50

उपलब्ध रिपोर्टिंग यह स्पष्ट नहीं करती कि सुधार ने API में compaction items को संभालने का तरीका कैसे बदला। न ही यह सटीक हमलावर प्रारूप या हर reasoning-effort स्तर पर परीक्षण के दावों की पुष्टि करती है। इसलिए इस घटना से इस खास बताए गए रास्ते को लेकर चिंता जायज़ है, लेकिन यह निष्कर्ष नहीं निकलता कि हर OpenAI मॉडल या हर वर्कफ़्लो उसी तरह प्रभावित था।

सुरक्षा की सीख: पूरे वर्कफ़्लो की दोबारा जाँच ज़रूरी

यह घटना दिखाती है कि किसी संवेदनशील आउटपुट को API के एक स्तर पर सुरक्षित रखना काफी नहीं हो सकता, अगर कोई दूसरी सुविधा उसे प्रोसेस या आगे भेज सकती हो। Xint ने कहा कि यह तरीका रीजनिंग ट्रेस की चोरी पर पहले हुई रिसर्च के बाद OpenAI द्वारा लागू सुरक्षा उपायों को पार कर गया। 5 CSO Online ने इससे जुड़ी व्यापक सीख पर जोर दिया: किसी सुधार के बाद दोबारा परीक्षण करना ज़रूरी है, क्योंकि पहली कोशिश समस्या को पूरी तरह हल न भी करे। 3

AI सेवाएँ बनाने वालों के लिए सवाल सिर्फ यह नहीं कि उपयोगकर्ता सीधे छिपी रीजनिंग माँग सकता है या नहीं। यह भी देखना होगा कि compaction जैसी सुविधाओं और अलग-अलग मॉडलों के बीच आगे बढ़ते समय वह डेटा सुरक्षित रहता है या नहीं। सार्वजनिक जानकारी बताई गई खामी और कंपनी के सुधार की पुष्टि करती है, लेकिन कार्यान्वयन के अहम विवरण अब भी सामने नहीं आए हैं।

Studio Global AI

अपना शोध जारी रखें

इस पृष्ठ में एक स्रोत-समर्थित उत्तर शामिल है जिसे आप Studio Global के अंदर जारी रख सकते हैं।

Studio Global AI के साथ खोजें और तथ्यों की जांच करें

लोग पूछते भी हैं