AnswersPublished22 sources
Як злам хмарного підрядника призвів до витоку чатів Notion AI
Після інциденту в хмарного провайдера Fireworks AI зловмисники дісталися до середовища розробки компанії та запустили несанкціоноване завдання. За даними Notion, інцидент міг зачепити менш ніж 1% робочих просторів.
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Після інциденту в хмарного провайдера Fireworks AI зловмисники дісталися до середовища розробки компанії та запустили несанкціоноване завдання.
- За даними Notion, інцидент міг зачепити менш ніж 1% робочих просторів. У більшості постраждалих випадків транскрипти не містили даних, які давали б змогу прив’язати їх до конкретного користувача чи робочого простору.
- Notion від’єдналася від Fireworks 3 листопада, повідомила постраждалих клієнтів 9 листопада та 11 листопада відкликала виявлені в повідомленнях API ключі.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did the October 23–24 breach of Fireworks AI’s third-party cloud provider lead to unauthorized workloads on its development machines and. Article summary: The reported attack followed an AI supply-chain path: a breach of Fireworks AI’s cloud provider gave attackers access to a Fireworks development system and, through it, customer data—including Notion AI transcripts store. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Злам стався не в системах Notion. Зловмисники скористалися інцидентом у стороннього хмарного провайдера, який обслуговував дослідницькі та розробницькі машини Fireworks AI. Через це вони дісталися до середовища розробки Fireworks і запустили несанкціоноване завдання, що призвело до доступу до додаткових даних клієнтів. Серед них були транскрипти чатів Notion AI, які використовувалися для функції Insights. 4
8
Notion заявила, що постраждати могли менш ніж 1% робочих просторів. У переважній більшості цих випадків транскрипти не давали змоги визначити конкретного користувача чи робочий простір. 3
4
Як розвивався інцидент
За даними Fireworks, інцидент у хмарного провайдера, де розміщувалися машини для досліджень і розробки, стався 23 жовтня. Наступного дня стороння особа використала цей доступ, щоб проникнути в середовище розробки Fireworks і запустити несанкціоноване завдання. Fireworks виявила активність того ж дня. 4
14
Опубліковані повідомлення описують шлях через хмарного підрядника до середовища розробки, але не пояснюють точний технічний спосіб проникнення чи кожен крок, який привів зловмисників до конкретних даних. Відомо, що доступ до середовища розробки підрядника спричинив додатковий вплив на дані клієнтів. 14
Які дані могли опинитися під загрозою
У розширеному повідомленні Fireworks згадала метадані ресурсів і платіжну інформацію, зокрема історію виставлення рахунків та оплат. Для частини клієнтів також постраждали набори даних і незавершені ваги моделей. Fireworks заявила, що не зберігає номери платіжних карток. 4
9
34
У випадку Notion ішлося про транскрипти чатів, які Fireworks використовувала в завданнях класифікації для Insights — функції, що допомагає клієнтам розуміти використання ШІ у своїх робочих просторах. За словами Notion, жодна інша функція не постраждала. 3
10
Хронологія повідомлень і дій Notion
- 2 листопада: Fireworks повідомила Notion, що зловмисники отримали доступ до невеликого набору даних. Під час первинної перевірки Notion виявила там синтетичні тестові дані й спершу вважала, що даних клієнтів серед них немає.
8
- 3 листопада: Notion від’єдналася від Fireworks і видалила свої дані, що зберігалися в системах постачальника.
5
- 6 листопада: Fireworks попередила Notion, що доступ могли отримати й до даних клієнтів.
- 8 листопада: Fireworks підтвердила, що до набору даних входили транскрипти чатів Notion AI для Insights.
- 9 листопада: Notion почала повідомляти клієнтів, яких могла зачепити подія.
15
- 11 листопада: Notion відкликала виявлені під час розслідування API-ключі, які містилися в повідомленнях постраждалих користувачів.
Під час розслідування Notion також вимкнула Insights і припинила використовувати Fireworks для обслуговування моделей із відкритими вагами. 10
11 Клієнтам, яких стосувався інцидент, порадили вважати паролі, API-ключі та інші облікові дані, введені в асистент, потенційно розкритими й змінити їх.
21
Розслідування та можлива мотивація
Fireworks залучила до розслідування Unit 42 — команду реагування на інциденти Palo Alto Networks, повідомила правоохоронців і обмежила роботу деяких функцій. 34 Компанія вважає, що зловмисники могли прагнути перепродавати несанкціонований доступ до моделей через нелегальні шлюзи маршрутизації запитів. Такий тип зловживань називають «LLMJacking». Це оцінка Fireworks щодо мотиву, а не остаточно встановлена особа нападників.
7
Цей інцидент став другим зламом Fireworks, про який компанія повідомила в жовтні: перший вона виявила 6 жовтня. Ці дві події не слід змішувати — описаний тут шлях почався з інциденту в стороннього провайдера 23 жовтня, а до середовища розробки Fireworks зловмисники дісталися 24 жовтня. 4
7
Чому це важливо для користувачів ШІ
Захист даних залежить не лише від компанії, якою людина користується безпосередньо. Якщо ШІ-сервіс передає дані зовнішньому підряднику для обробки, інфраструктура та середовище розробки цього підрядника також стають частиною ланцюга ризику. У цьому випадку, за повідомленнями компаній, точка входу була на боці хмарного провайдера Fireworks, а серед зачеплених даних опинилися розмови, пов’язані з функцією Notion. 4
8
Для компаній, які оцінюють ШІ-сервіси, це привід з’ясовувати, які дані зберігають постачальники та їхні субпідрядники, де відбувається обробка і як швидко можна припинити доступ. Не варто вводити облікові дані в запити без потреби. Якщо секрет міг потрапити до розкритого транскрипту, його слід відкликати або замінити.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Як злам хмарного підрядника призвів до витоку чатів Notion AI"?
Після інциденту в хмарного провайдера Fireworks AI зловмисники дісталися до середовища розробки компанії та запустили несанкціоноване завдання.
What are the key points to validate first?
Після інциденту в хмарного провайдера Fireworks AI зловмисники дісталися до середовища розробки компанії та запустили несанкціоноване завдання. За даними Notion, інцидент міг зачепити менш ніж 1% робочих просторів. У більшості постраждалих випадків транскрипти не містили даних, які давали б змогу прив’язати їх до конкретного користувача чи робочого простору.
What should I do next in practice?
Notion від’єдналася від Fireworks 3 листопада, повідомила постраждалих клієнтів 9 листопада та 11 листопада відкликала виявлені в повідомленнях API ключі.
Sources
tenbrief.comFireworks AI breach widens — Notion AI chats exposed in under 1% of workspaces
venturebeat.comFireworks AI breach hit storage holding Notion AI chats
aicassindra.comFireworks AI Says Its Breach Reached Datasets and Unfinished Models, a Month After Finding No Sign of It