Fireworks AI के एक तीसरे पक्ष के क्लाउड प्रदाता में हुई सुरक्षा घटना ने हमलावरों को कंपनी के डेवलपमेंट सिस्टम तक पहुँचने का रास्ता दिया। वहाँ अनधिकृत वर्कलोड चलाया गया, जिसके बाद कुछ ग्राहकों का डेटा प्रभावित हुआ। इसमें Notion AI के Insights फीचर के लिए इस्तेमाल हुए चैट ट्रांसक्रिप्ट भी शामिल थे। Notion ने कहा कि 1% से कम वर्कस्पेस प्रभावित हुए और यह सेंध उसके अपने सिस्टम में नहीं, उसके विक्रेता Fireworks AI के यहाँ लगी थी।
4
8
घुसपैठ कैसे हुई
Fireworks के मुताबिक, उसके रिसर्च और डेवलपमेंट (R&D) मशीनों को होस्ट करने वाले क्लाउड प्रदाता को 23 अक्टूबर 2026 को सुरक्षा घटना का सामना करना पड़ा। अगले दिन, 24 अक्टूबर को, हमलावरों ने उसी रास्ते से Fireworks की डेवलपमेंट मशीनों तक पहुँचकर अनधिकृत वर्कलोड चलाया। Fireworks ने उसी दिन इस गतिविधि का पता लगा लिया।
4
14
कंपनियों के बयानों से क्लाउड प्रदाता और डेवलपमेंट सिस्टम के जरिए पहुँचे रास्ते का पता चलता है, लेकिन वे यह स्पष्ट नहीं करते कि तकनीकी तौर पर किस कमजोरी का फायदा उठाया गया या हमलावर हर डेटा तक किस क्रम में पहुँचे। इतना साफ है कि विक्रेता के डेवलपमेंट वातावरण तक पहुँच से ग्राहकों के डेटा पर भी असर पड़ा।
14
कौन-सा डेटा प्रभावित हुआ
Fireworks की विस्तृत जानकारी में संसाधनों का मेटाडेटा और बिलिंग से जुड़ी जानकारी, जैसे बिलिंग और भुगतान का इतिहास, शामिल था। कंपनी ने यह भी बताया कि कुछ ग्राहकों के डेटासेट और मॉडल वेट्स के अधूरे संस्करण प्रभावित हुए। Fireworks के अनुसार, वह भुगतान कार्ड नंबर संग्रहित नहीं करता।
4
9
34
Notion के मामले में प्रभावित सामग्री वे चैट ट्रांसक्रिप्ट थे, जिन्हें Insights फीचर के लिए वर्गीकरण कार्यों में इस्तेमाल किया गया था। Insights का उद्देश्य ग्राहकों को यह समझने में मदद करना है कि उनके वर्कस्पेस में Notion AI का उपयोग कैसे हो रहा है। Notion ने कहा कि 1% से कम वर्कस्पेस प्रभावित हुए; उनमें से भी अधिकांश के ट्रांसक्रिप्ट किसी विशिष्ट उपयोगकर्ता या वर्कस्पेस की पहचान नहीं बताते थे।
3
4
2 से 11 नवंबर तक क्या हुआ
- 2 नवंबर: Fireworks ने Notion को बताया कि डेटा का एक छोटा समूह अनधिकृत रूप से देखा गया था। Notion की शुरुआती जाँच में वह सिंथेटिक यानी परीक्षण के लिए बनाया गया डेटा लगा, ग्राहक चैट नहीं।
8
- 3 नवंबर: Notion ने Fireworks से अपना कनेक्शन काट दिया और विक्रेता के सिस्टम में रखा अपना डेटा हटा दिया।
5
- 6 नवंबर: Fireworks ने Notion को बताया कि ग्राहक डेटा भी प्रभावित हुआ हो सकता है।
5
- 8 नवंबर: Fireworks ने पुष्टि की कि प्रभावित डेटा में Insights के लिए इस्तेमाल हुए Notion AI चैट ट्रांसक्रिप्ट शामिल थे।
8
- 9 नवंबर: Notion ने प्रभावित ग्राहकों से संपर्क शुरू किया।
15
- 11 नवंबर: जाँच के दौरान प्रभावित संदेशों में मिले Notion API keys को कंपनी ने रद्द कर दिया।
8
जाँच के दौरान Notion ने Insights को बंद किया और Fireworks के जरिए ओपन-वेट मॉडल उपलब्ध कराना भी रोक दिया।
10
11 प्रभावित ग्राहकों को सलाह दी गई कि वे AI सहायक में डाले गए पासवर्ड, API keys और दूसरे क्रेडेंशियल को संभावित रूप से उजागर मानें और उन्हें बदलें या रद्द करें।
21
जाँच और हमले के संभावित मकसद पर Fireworks का आकलन
Fireworks ने फॉरेंसिक जाँच के लिए Palo Alto Networks की Unit 42 टीम को शामिल किया, कानून प्रवर्तन एजेंसियों को सूचित किया और कुछ प्रभावित सुविधाओं पर रोक लगाई।
34 कंपनी ने कहा कि उसके आकलन में हमलावरों का मकसद अनधिकृत मॉडल-एक्सेस को अवैध रूटिंग गेटवे के जरिए दोबारा बेचना हो सकता है। इस तरह की गतिविधि को LLMJacking कहा जाता है। यह Fireworks का आकलन है, किसी खास हमलावर समूह की पक्की पहचान नहीं।
7
अक्टूबर में सामने आई यह Fireworks की दूसरी सुरक्षा घटना थी। कंपनी ने इससे पहले 6 अक्टूबर को एक अलग घटना की जानकारी दी थी। दोनों घटनाओं को एक ही घुसपैठ समझना ठीक नहीं होगा: यहाँ वर्णित दूसरा रास्ता तीसरे पक्ष के क्लाउड प्रदाता से शुरू हुआ और 24 अक्टूबर को डेवलपमेंट मशीनों तक पहुँचा।
4
7
AI सेवाओं की सप्लाई चेन का जोखिम
किसी सेवा की सुरक्षा सिर्फ उसके अपने सिस्टम पर निर्भर नहीं करती। जब AI सेवा डेटा को प्रोसेस करने के लिए बाहरी प्रदाता का इस्तेमाल करती है, तो उस प्रदाता की आधारभूत संरचना और डेवलपमेंट वातावरण भी जोखिम का हिस्सा बन जाते हैं। Notion की घटना इसका उदाहरण है: रिपोर्ट के मुताबिक शुरुआती रास्ता Fireworks के क्लाउड प्रदाता से होकर गया, जबकि प्रभावित बातचीत Notion के एक फीचर से जुड़ी थी।
4
8
AI सेवा चुनने वाली टीमों के लिए यह पूछना उपयोगी है कि विक्रेता या उसके उप-प्रदाता कौन-सा डेटा रखते हैं, उसे कहाँ प्रोसेस करते हैं और जरूरत पड़ने पर उनकी पहुँच कितनी जल्दी बंद की जा सकती है। जहाँ संभव हो, प्रॉम्प्ट में पासवर्ड या API keys जैसे राज़ न डालें। अगर कोई गोपनीय जानकारी उजागर हुए ट्रांसक्रिप्ट में हो सकती है, तो संबंधित क्रेडेंशियल रद्द करें या बदलें। डेटासेट, क्रेडेंशियल और डेवलपमेंट सिस्टम तक पहुँच केवल उतनी ही रखने की जरूरत है जितनी किसी काम के लिए आवश्यक हो।