ОтветыОпубликовано22 источники
Переписки Notion AI попали в данные, затронутые взломом Fireworks AI
После инцидента у облачного подрядчика злоумышленники добрались до компьютеров разработки Fireworks AI и запустили на них несанкционированную нагрузку. По данным Notion, инцидент затронул менее 1% рабочих пространств; в подавляющем большинстве случаев переписки нельзя было связать с конкретным пользователем или прос...
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- После инцидента у облачного подрядчика злоумышленники добрались до компьютеров разработки Fireworks AI и запустили на них несанкционированную нагрузку.
- По данным Notion, инцидент затронул менее 1% рабочих пространств; в подавляющем большинстве случаев переписки нельзя было связать с конкретным пользователем или пространством.
- Notion отключилась от Fireworks, удалила данные из систем подрядчика и позднее отозвала обнаруженные в сообщениях API ключи.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: How did the October 23–24 breach of Fireworks AI’s third-party cloud provider lead to unauthorized workloads on its development machines and. Article summary: The reported attack followed an AI supply-chain path: a breach of Fireworks AI’s cloud provider gave attackers access to a Fireworks development system and, through it, customer data—including Notion AI transcripts store. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Взлом произошёл не в собственных системах Notion, а у стороннего облачного провайдера, чья инфраструктура использовалась Fireworks AI. Через неё атакующие добрались до компьютеров разработки Fireworks и запустили там несанкционированную нагрузку, после чего были затронуты данные клиентов. Среди них оказались переписки Notion AI, связанные с функцией Insights. 4
8
Notion сообщила, что затронуто менее 1% рабочих пространств. В подавляющем большинстве этих случаев переписки нельзя было связать с конкретным пользователем или рабочим пространством. 3
4
Как развивалась атака
По сообщению Fireworks, облачный провайдер, размещавший машины компании для исследований и разработки, столкнулся с инцидентом безопасности 23 октября. На следующий день злоумышленник воспользовался этим доступом, проник на компьютеры разработки Fireworks и запустил несанкционированную нагрузку. Компания обнаружила активность 24 октября. 4
14
Публичные описания раскрывают общий путь проникновения — через инфраструктуру провайдера в среду разработки Fireworks. Но они не объясняют точный технический способ взлома и не описывают каждый шаг, приведший к доступу к конкретным данным. 14
Какие данные оказались затронуты
В расширенном сообщении Fireworks перечислила метаданные ресурсов и платёжную информацию, в том числе историю счетов и платежей. Для некоторых клиентов также были затронуты наборы данных и незавершённые веса моделей. Fireworks заявила, что не хранит номера платёжных карт. 4
9
34
В случае Notion речь шла о текстах переписок с Notion AI, которые использовались для задач классификации в Insights. Эта функция помогает клиентам лучше понимать, как они используют AI. Notion уточнила, что затронуто менее 1% рабочих пространств, а в большинстве случаев расшифровки не содержали данных, позволяющих определить конкретного пользователя или пространство. 3
4
Хронология уведомлений и действий Notion
- 2 ноября: Fireworks сообщила Notion, что злоумышленники получили доступ к небольшому набору данных. Первоначальная проверка Notion показала, что там были синтетические тестовые данные, а не переписки клиентов.
8
- 3 ноября: Notion отключила интеграцию с Fireworks и удалила свои данные из систем подрядчика.
5
- 6 ноября: Fireworks предупредила Notion, что доступ могли получить и к клиентским данным.
- 8 ноября: Fireworks подтвердила, что в затронутый набор вошли переписки Notion AI для Insights.
- 9 ноября: Notion начала связываться с клиентами, которых мог затронуть инцидент.
15
- 11 ноября: Notion отозвала обнаруженные в сообщениях пользователей API-ключи.
Во время расследования Notion отключила Insights и перестала предоставлять модели с открытыми весами через Fireworks. 10
11 Клиентам, которых затронул инцидент, рекомендовали считать потенциально раскрытыми пароли, API-ключи и другие учётные данные, введённые в AI-ассистент, и заменить их.
21
Расследование и возможный мотив
Fireworks привлекла к расследованию подразделение Unit 42 компании Palo Alto Networks, уведомила правоохранительные органы и ограничила работу некоторых функций. 34 Компания считает, что атакующие могли стремиться перепродавать несанкционированный доступ к моделям через нелегальные шлюзы маршрутизации. Такую схему называют «LLMJacking». Это оценка Fireworks относительно возможного мотива, а не окончательно установленная личность злоумышленников.
7
Инцидент через облачного подрядчика стал вторым взломом Fireworks, о котором компания сообщила в октябре. Первый инцидент Fireworks выявила 6 октября. Эти случаи важно различать: описанный здесь путь начался с инцидента у стороннего провайдера 23 октября, а компьютеры разработки Fireworks были затронуты на следующий день. 7
4
Почему это важно для безопасности AI-сервисов
Защита продукта зависит не только от безопасности его собственных систем. Если AI-сервис передаёт данные внешнему подрядчику для обработки, инфраструктура подрядчика и его среда разработки тоже становятся частью общей картины рисков. В этом случае, согласно сообщениям компаний, путь к данным шёл через облачного провайдера Fireworks, а затронутые переписки относились к функции Notion. 4
8
Компаниям, выбирающим AI-сервисы, стоит выяснять, какие данные подрядчик и его субподрядчики сохраняют, где их обрабатывают и как быстро можно прекратить передачу. По возможности не следует вводить пароли и ключи в запросы к ассистенту. Если секрет мог попасть в затронутую переписку, его нужно отозвать или заменить. Также полезно ограничивать доступ к наборам данных, учётным данным и системам разработки тем объёмом, который необходим для конкретной задачи.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Переписки Notion AI попали в данные, затронутые взломом Fireworks AI»?
После инцидента у облачного подрядчика злоумышленники добрались до компьютеров разработки Fireworks AI и запустили на них несанкционированную нагрузку.
Какие ключевые моменты необходимо проверить в первую очередь?
После инцидента у облачного подрядчика злоумышленники добрались до компьютеров разработки Fireworks AI и запустили на них несанкционированную нагрузку. По данным Notion, инцидент затронул менее 1% рабочих пространств; в подавляющем большинстве случаев переписки нельзя было связать с конкретным пользователем или пространством.
Что мне делать дальше на практике?
Notion отключилась от Fireworks, удалила данные из систем подрядчика и позднее отозвала обнаруженные в сообщениях API ключи.
Источники
tenbrief.comFireworks AI breach widens — Notion AI chats exposed in under 1% of workspaces
venturebeat.comFireworks AI breach hit storage holding Notion AI chats
aicassindra.comFireworks AI Says Its Breach Reached Datasets and Unfinished Models, a Month After Finding No Sign of It