AnswersPublished22 sources
Sembang Notion AI terdedah dalam insiden di vendor Fireworks AI
Penyerang menggunakan laluan melalui penyedia awan pihak ketiga untuk mencapai mesin pembangunan Fireworks AI dan menjalankan beban kerja tanpa kebenaran. Notion berkata kurang daripada 1% ruang kerjanya terjejas.
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Penyerang menggunakan laluan melalui penyedia awan pihak ketiga untuk mencapai mesin pembangunan Fireworks AI dan menjalankan beban kerja tanpa kebenaran.
- Notion berkata kurang daripada 1% ruang kerjanya terjejas. Bagi sebahagian besar ruang kerja yang terlibat, transkrip itu tidak dapat dikaitkan dengan pengguna atau ruang kerja tertentu.
- Notion memutuskan hubungan dengan Fireworks, memadam datanya di sistem vendor dan kemudian memaklumkan pelanggan terjejas serta membatalkan kunci API yang ditemui dalam mesej terlibat.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did the October 23–24 breach of Fireworks AI’s third-party cloud provider lead to unauthorized workloads on its development machines and. Article summary: The reported attack followed an AI supply-chain path: a breach of Fireworks AI’s cloud provider gave attackers access to a Fireworks development system and, through it, customer data—including Notion AI transcripts store. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Satu insiden keselamatan di penyedia awan pihak ketiga membuka laluan kepada penyerang untuk mencapai mesin pembangunan Fireworks AI. Mereka menjalankan beban kerja tanpa kebenaran, yang membawa kepada pendedahan data pelanggan—termasuk transkrip sembang Notion AI yang digunakan untuk ciri Insights. Notion berkata kurang daripada 1% ruang kerjanya terjejas dan menjelaskan bahawa insiden itu berlaku di pihak vendornya, bukan dalam sistem Notion sendiri. 4
8
Bagaimana pencerobohan berlaku
Fireworks berkata penyedia awan yang mengehos mesin penyelidikan dan pembangunan (R&D) syarikat itu mengalami insiden keselamatan pada 23 Oktober. Keesokan harinya, pihak tanpa kebenaran menggunakan laluan tersebut untuk mencapai mesin pembangunan Fireworks dan menjalankan beban kerja. Fireworks mengesan kegiatan itu pada hari yang sama. 4
14
Maklumat yang didedahkan menerangkan laluan melalui penyedia awan dan persekitaran pembangunan, tetapi tidak memperincikan kaedah teknikal yang digunakan atau setiap langkah sehingga data tertentu dicapai. Yang jelas, akses kepada persekitaran pembangunan vendor membawa kesan terhadap data pelanggan. 14
Data yang terlibat
Pendedahan Fireworks yang dikemas kini merangkumi metadata sumber dan maklumat pengebilan, termasuk sejarah bil dan pembayaran. Fireworks turut menyatakan bahawa set data dan pemberat model yang belum lengkap terjejas bagi sesetengah pelanggan. Syarikat itu berkata ia tidak menyimpan nombor kad pembayaran. 4
9
34
Bagi Notion, bahan yang terlibat ialah transkrip sembang yang digunakan dalam tugasan pengelasan untuk Insights—ciri yang membantu pelanggan memahami penggunaan AI mereka. Notion berkata kurang daripada 1% ruang kerjanya terjejas. Bagi sebahagian besar ruang kerja yang terlibat, transkrip itu tidak dapat dikaitkan dengan pengguna atau ruang kerja tertentu. 3
4
Kronologi makluman dan tindakan Notion
- 2 November: Fireworks memaklumkan Notion bahawa satu set data kecil telah diakses. Semakan awal Notion mendapati data itu ialah bahan ujian sintetik, bukannya sembang pelanggan.
8
- 3 November: Notion memutuskan hubungan dengan Fireworks dan memadam datanya yang disimpan dalam sistem vendor itu.
5
- 6 November: Fireworks memaklumkan Notion bahawa data pelanggan mungkin turut diakses.
- 8 November: Fireworks mengesahkan bahawa set data itu merangkumi transkrip Notion AI yang digunakan untuk Insights.
- 9 November: Notion mula menghubungi pelanggan yang dikenal pasti terjejas.
15
- 11 November: Notion membatalkan kunci API miliknya yang ditemui dalam mesej pengguna yang terlibat.
Notion turut mematikan Insights dan menghentikan penggunaan Fireworks untuk menyampaikan model berwajaran terbuka, menurut laporan mengenai tindak balas syarikat itu. 10
11 Pelanggan terjejas dinasihatkan menganggap kata laluan, kunci API dan kelayakan lain yang dimasukkan ke dalam pembantu AI sebagai berpotensi terdedah, lalu menukar atau membatalkannya.
21
Siasatan dan dakwaan motif
Fireworks melantik Unit 42 daripada Palo Alto Networks untuk membantu siasatan, memaklumkan pihak penguat kuasa dan mengehadkan beberapa fungsi yang terjejas. 34 Syarikat itu berkata penilaiannya ialah penyerang mahu menjual semula akses model tanpa kebenaran melalui gerbang penghalaan haram—amalan yang dikenali sebagai “LLMJacking”. Ini ialah penilaian Fireworks tentang motif, bukannya pengesahan muktamad identiti penyerang.
7
Insiden melalui penyedia awan itu didedahkan sebagai pencerobohan Fireworks yang kedua pada Oktober, selepas satu insiden terdahulu dikenal pasti pada 6 Oktober. Kedua-duanya tidak wajar disamakan: laluan yang dibincangkan di sini bermula di penyedia pihak ketiga dan membawa kepada akses ke mesin pembangunan pada 24 Oktober. 7
4
Mengapa keselamatan vendor AI turut penting
Keselamatan sesebuah perkhidmatan tidak hanya bergantung pada sistem syarikat yang mengendalikan aplikasi secara langsung. Apabila data dihantar kepada penyedia luar untuk diproses, infrastruktur dan persekitaran pembangunan penyedia itu turut menjadi sebahagian daripada risiko keseluruhan. Dalam insiden ini, laluan pencerobohan yang dilaporkan berada di pihak penyedia awan Fireworks, manakala perbualan terlibat berkaitan dengan ciri Notion. 4
8
Bagi organisasi yang menilai perkhidmatan AI, insiden ini mengingatkan kita supaya bertanya data apa yang disimpan oleh vendor atau subpemproses, di mana data diproses dan seberapa pantas akses boleh diputuskan. Elakkan memasukkan kelayakan rahsia ke dalam arahan AI jika boleh. Jika kata laluan atau kunci rahsia mungkin muncul dalam transkrip yang terdedah, batalkan atau tukarkannya. Mengehadkan akses kepada set data, kelayakan dan sistem pembangunan mengikut keperluan tugas juga boleh membantu mengurangkan risiko.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Sembang Notion AI terdedah dalam insiden di vendor Fireworks AI"?
Penyerang menggunakan laluan melalui penyedia awan pihak ketiga untuk mencapai mesin pembangunan Fireworks AI dan menjalankan beban kerja tanpa kebenaran.
What are the key points to validate first?
Penyerang menggunakan laluan melalui penyedia awan pihak ketiga untuk mencapai mesin pembangunan Fireworks AI dan menjalankan beban kerja tanpa kebenaran. Notion berkata kurang daripada 1% ruang kerjanya terjejas. Bagi sebahagian besar ruang kerja yang terlibat, transkrip itu tidak dapat dikaitkan dengan pengguna atau ruang kerja tertentu.
What should I do next in practice?
Notion memutuskan hubungan dengan Fireworks, memadam datanya di sistem vendor dan kemudian memaklumkan pelanggan terjejas serta membatalkan kunci API yang ditemui dalam mesej terlibat.
Sources
tenbrief.comFireworks AI breach widens — Notion AI chats exposed in under 1% of workspaces
aicassindra.comFireworks AI Says Its Breach Reached Datasets and Unfinished Models, a Month After Finding No Sign of It
plainenglish.ioFireworks AI Widens October Breach Disclosure as LLMJacking Threat Grows