AnswersPublished22 sources
Lek bij Fireworks AI bracht Notion AI-chatgesprekken in gevaar
Een aanvaller gebruikte een incident bij de cloudprovider van Fireworks AI om ontwikkelmachines te bereiken en een ongeautoriseerde taak uit te voeren. Notion zegt dat minder dan 1% van de werkruimten mogelijk is geraakt.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Een aanvaller gebruikte een incident bij de cloudprovider van Fireworks AI om ontwikkelmachines te bereiken en een ongeautoriseerde taak uit te voeren.
- Notion zegt dat minder dan 1% van de werkruimten mogelijk is geraakt. In de meeste betrokken gevallen waren de transcripten niet te koppelen aan een specifieke gebruiker of werkruimte.
- Notion verbrak op 3 november de verbinding met Fireworks en verwijderde de daar opgeslagen data.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did the October 23–24 breach of Fireworks AI’s third-party cloud provider lead to unauthorized workloads on its development machines and. Article summary: The reported attack followed an AI supply-chain path: a breach of Fireworks AI’s cloud provider gave attackers access to a Fireworks development system and, through it, customer data—including Notion AI transcripts store. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Een datalek bij een externe cloudprovider gaf aanvallers toegang tot ontwikkelmachines van Fireworks AI. Daar draaiden zij een ongeautoriseerde taak, die leidde tot verdere blootstelling van klantgegevens. Een van de betrokken gegevensbestanden bevatte chattranscripten van Notion AI die werden gebruikt voor de functie Insights. Notion zegt dat minder dan 1% van de werkruimten mogelijk is geraakt en benadrukt dat het incident bij een leverancier plaatsvond, niet in de eigen systemen. 4
8
Hoe de aanval verliep
Volgens Fireworks kreeg de cloudprovider die zijn onderzoeks- en ontwikkelmachines hostte op 23 oktober met een beveiligingsincident te maken. Een dag later gebruikte een onbevoegde partij die route om Fireworks-ontwikkelmachines te bereiken en er een ongeautoriseerde taak uit te voeren. Fireworks ontdekte de activiteit op dezelfde dag. 4
14
De beschikbare informatie beschrijft de route via de cloudprovider en de ontwikkelomgeving, maar maakt niet duidelijk welk technisch lek precies is misbruikt of hoe elke afzonderlijke dataset is bereikt. Wel blijkt dat toegang tot de ontwikkelomgeving van een leverancier gevolgen had voor klantgegevens. 14
Welke gegevens mogelijk zijn geraakt
De uitgebreidere melding van Fireworks noemt onder meer metadata over resources en factureringsinformatie, waaronder facturerings- en betaalgeschiedenis. Bij een beperkte groep klanten waren ook datasets en onvolledige modelgewichten betrokken. Fireworks zegt geen betaalkaartnummers op te slaan. 4
9
34
Voor Notion ging het om chattranscripten die werden gebruikt bij classificatietaken voor Insights. Die functie helpt klanten inzicht te krijgen in hun gebruik van AI. Volgens Notion was minder dan 1% van de werkruimten mogelijk geraakt. In het overgrote deel daarvan waren de transcripten niet te herleiden tot een specifieke gebruiker of werkruimte. 3
4
Wat er tussen 2 en 11 november gebeurde
- 2 november: Fireworks meldde aan Notion dat een kleine hoeveelheid data was benaderd. Notions eerste onderzoek wees op synthetische testdata, niet op gesprekken van klanten.
8
- 3 november: Notion verbrak de verbinding met Fireworks en verwijderde de data die bij de leverancier stond.
5
- 6 november: Fireworks waarschuwde dat mogelijk ook klantgegevens waren benaderd.
- 8 november: Fireworks bevestigde dat de dataset Notion AI-chattranscripten voor Insights bevatte.
- 9 november: Notion begon getroffen klanten te informeren.
15
- 11 november: Notion trok blootgestelde API-sleutels in die tijdens het onderzoek in berichten van getroffen gebruikers waren gevonden.
Notion schakelde Insights uit en stopte met het aanbieden van open-weight-modellen via Fireworks. 10
11 Getroffen klanten kregen het advies wachtwoorden, API-sleutels en andere in de assistent ingevoerde inloggegevens als mogelijk blootgesteld te beschouwen en te vervangen.
21
Onderzoek en mogelijke motivatie
Fireworks schakelde Unit 42 van Palo Alto Networks in voor onderzoek, informeerde de opsporingsdiensten en beperkte bepaalde functies. 34 Het bedrijf vermoedt dat de aanvallers ongeoorloofde toegang tot modellen wilden doorverkopen via illegale routeringsdiensten. Die praktijk wordt ‘LLMJacking’ genoemd. Dit is de inschatting van Fireworks over het motief, geen sluitende identificatie van de daders.
7
Het incident via de cloudprovider was volgens de meldingen de tweede Fireworks-inbraak in oktober, na een eerder incident dat op 6 oktober werd ontdekt. Die twee incidenten moeten niet met elkaar worden verward: de hier beschreven aanval liep via een externe cloudprovider en bereikte de ontwikkelmachines op 24 oktober. 7
De les voor AI-diensten en hun klanten
De beveiliging van een dienst hangt niet alleen af van de systemen die het bedrijf zelf beheert. Zodra een AI-dienst gegevens voor verwerking doorstuurt naar een externe leverancier, maken ook diens infrastructuur en ontwikkelomgeving deel uit van het bredere risico. In dit geval lag de gerapporteerde ingang bij de cloudprovider van Fireworks, terwijl de betrokken gesprekken afkomstig waren van een Notion-functie. 4
8
Voor organisaties die AI-diensten gebruiken, is het daarom verstandig te vragen welke gegevens een leverancier of onderleverancier bewaart, waar die worden verwerkt en hoe snel toegang kan worden stopgezet. Zet waar mogelijk geen wachtwoorden of API-sleutels in prompts. Staat een geheim mogelijk in een blootgesteld transcript, trek het dan in of vervang het. Beperk daarnaast de toegang tot datasets, inloggegevens en ontwikkelsystemen tot wat voor een taak noodzakelijk is.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Lek bij Fireworks AI bracht Notion AI-chatgesprekken in gevaar"?
Een aanvaller gebruikte een incident bij de cloudprovider van Fireworks AI om ontwikkelmachines te bereiken en een ongeautoriseerde taak uit te voeren.
What are the key points to validate first?
Een aanvaller gebruikte een incident bij de cloudprovider van Fireworks AI om ontwikkelmachines te bereiken en een ongeautoriseerde taak uit te voeren. Notion zegt dat minder dan 1% van de werkruimten mogelijk is geraakt. In de meeste betrokken gevallen waren de transcripten niet te koppelen aan een specifieke gebruiker of werkruimte.
What should I do next in practice?
Notion verbrak op 3 november de verbinding met Fireworks en verwijderde de daar opgeslagen data.
Sources
tenbrief.comFireworks AI breach widens — Notion AI chats exposed in under 1% of workspaces
aicassindra.comFireworks AI Says Its Breach Reached Datasets and Unfinished Models, a Month After Finding No Sign of It
plainenglish.ioFireworks AI Widens October Breach Disclosure as LLMJacking Threat Grows