AntwortenVeröffentlicht22 Quellen
Wie ein Angriff auf einen Cloud-Dienst Notion-AI-Chats erreichte
Über einen Sicherheitsvorfall bei einem Cloud Anbieter gelangten Angreifer auf Entwicklungsrechner von Fireworks AI und starteten dort eine unerlaubte Workload. Notion zufolge waren weniger als 1 Prozent der Workspaces betroffen.
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Über einen Sicherheitsvorfall bei einem Cloud Anbieter gelangten Angreifer auf Entwicklungsrechner von Fireworks AI und starteten dort eine unerlaubte Workload.
- Notion zufolge waren weniger als 1 Prozent der Workspaces betroffen. Bei der großen Mehrheit der betroffenen Transkripte ließ sich weder eine bestimmte Person noch ein Workspace zuordnen.
- Notion trennte sich am 3. November von Fireworks, bestätigte die Chatprotokolle am 8.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did the October 23–24 breach of Fireworks AI’s third-party cloud provider lead to unauthorized workloads on its development machines and. Article summary: The reported attack followed an AI supply-chain path: a breach of Fireworks AI’s cloud provider gave attackers access to a Fireworks development system and, through it, customer data—including Notion AI transcripts store. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Ein Sicherheitsvorfall bei einem Cloud-Anbieter führte zu einem Angriff auf Entwicklungsrechner des KI-Dienstleisters Fireworks AI. Dort starteten Angreifer eine unerlaubte Workload, die weitere Kundendaten betraf. Zu den zugänglichen Daten gehörten auch Chatprotokolle von Notion AI, die für die Funktion Insights verwendet wurden. Notion zufolge waren weniger als 1 Prozent seiner Workspaces betroffen; bei der großen Mehrheit der betroffenen Transkripte ließ sich keine bestimmte Person oder kein bestimmter Workspace erkennen. Notion stellte klar, dass der Vorfall bei einem Dienstleister stattfand – nicht in den eigenen Systemen. 4
8
Wie der Angriff ablief
Fireworks zufolge ereignete sich der Sicherheitsvorfall beim Cloud-Anbieter, der Rechner für Forschung und Entwicklung (R&D) bereitstellte, am 23. Oktober. Am 24. Oktober nutzte eine unbefugte Partei diesen Zugang, um Fireworks-Entwicklungsrechner zu erreichen und dort eine Workload auszuführen. Fireworks entdeckte die Aktivität noch am selben Tag. 4
14
Die verfügbaren Angaben beschreiben den Weg über den Cloud-Anbieter bis in die Entwicklungsumgebung. Sie erklären jedoch nicht im Detail, welche technische Schwachstelle ausgenutzt wurde oder wie jeder einzelne Zugriff auf bestimmte Daten erfolgte. Belegt ist: Der Zugang zur Entwicklungsumgebung eines Dienstleisters führte zu zusätzlichen Auswirkungen auf Kundendaten. 14
Welche Daten betroffen waren
Fireworks nannte in einer erweiterten Mitteilung Ressourcenmetadaten sowie Abrechnungs- und Zahlungshistorien als betroffene Daten. Bei einigen Kunden waren außerdem Datensätze und unvollständige Modellgewichte betroffen. Fireworks erklärte, keine Kreditkartennummern zu speichern. 4
9
34
Bei Notion ging es um Chatprotokolle, die für Klassifizierungsaufgaben der Funktion Insights genutzt wurden. Insights soll Kunden dabei helfen, die Nutzung von KI in ihrem Workspace besser zu verstehen. Notion zufolge waren weniger als 1 Prozent der Workspaces betroffen. Für die große Mehrheit der betroffenen Workspaces waren die Transkripte keiner bestimmten Person oder keinem Workspace zuzuordnen. 3
4
Die Benachrichtigungen und Notions Reaktion
- 2. November: Fireworks informierte Notion, dass eine kleine Datenmenge von Unbefugten abgerufen worden war. Notions erste Untersuchung ergab, dass sie synthetische Testdaten enthielt – zunächst schien also kein Chatverlauf von Kunden betroffen zu sein.
8
- 3. November: Notion trennte die Systeme vom Dienstleister und löschte die bei Fireworks gespeicherten Daten.
5
- 6. November: Fireworks teilte Notion mit, dass möglicherweise auch Kundendaten betroffen waren.
- 8. November: Fireworks bestätigte, dass der Datensatz Chatprotokolle von Notion AI für Insights enthielt.
- 9. November: Notion begann, betroffene Kunden zu informieren.
15
- 11. November: Notion widerrief offengelegte API-Schlüssel, die bei der Untersuchung in Nachrichten betroffener Nutzer gefunden worden waren.
Notion deaktivierte außerdem Insights und beendete die Bereitstellung von Open-Weight-Modellen über Fireworks. 10
11 Betroffene Kunden sollten vorsichtshalber davon ausgehen, dass Passwörter, API-Schlüssel und andere Zugangsdaten offengelegt worden sein könnten, wenn sie diese in den Assistenten eingegeben hatten. Solche Zugangsdaten sollten geändert oder widerrufen werden.
21
Untersuchung und mögliche Motivation
Fireworks zog Palo Alto Networks’ Unit 42 für die Untersuchung hinzu, informierte die Strafverfolgungsbehörden und schränkte bestimmte betroffene Funktionen ein. 34 Das Unternehmen vermutete, dass die Angreifer unerlaubten Zugriff auf Modelle über illegale Weiterleitungsdienste weiterverkaufen wollten. Diese Masche wird als „LLMJacking“ bezeichnet. Dabei handelt es sich um die Einschätzung von Fireworks zur möglichen Motivation – nicht um eine abschließende Identifizierung der Angreifer.
7
Der Vorfall über den Cloud-Anbieter war laut Fireworks der zweite im Oktober bekannt gewordene Sicherheitsvorfall. Einen früheren Vorfall hatte das Unternehmen am 6. Oktober entdeckt. Die beiden Fälle sollten nicht gleichgesetzt werden: Der hier beschriebene Angriff führte über einen Drittanbieter und erreichte Fireworks-Entwicklungsrechner am 24. Oktober. 7
Was der Vorfall über die Sicherheit von KI-Diensten zeigt
Die Sicherheitsgrenzen eines Unternehmens enden nicht unbedingt bei den eigenen Systemen. Wenn ein KI-Dienst Daten zur Verarbeitung an externe Anbieter weitergibt, gehören auch deren Infrastruktur und Entwicklungsumgebungen zum Risikobild. Im Fall von Notion lag der gemeldete Einstiegspunkt beim Cloud-Anbieter von Fireworks, betroffen waren jedoch Chatprotokolle, die zu einer Notion-Funktion gehörten. 4
8
Für Unternehmen, die KI-Dienste prüfen, ergeben sich daraus praktische Fragen: Welche Daten speichert ein Anbieter oder Unterauftragnehmer? Wo werden sie verarbeitet? Und wie schnell lässt sich eine Verbindung im Ernstfall kappen? Zugangsdaten sollten möglichst nicht in Prompts eingegeben werden. Wenn ein Geheimnis in einem möglicherweise offengelegten Transkript enthalten war, sollte es widerrufen oder geändert werden. Auch der Zugriff auf Datensätze, Zugangsdaten und Entwicklungssysteme sollte auf das für die jeweilige Aufgabe Notwendige begrenzt bleiben.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Wie ein Angriff auf einen Cloud-Dienst Notion-AI-Chats erreichte“?
Über einen Sicherheitsvorfall bei einem Cloud Anbieter gelangten Angreifer auf Entwicklungsrechner von Fireworks AI und starteten dort eine unerlaubte Workload.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Über einen Sicherheitsvorfall bei einem Cloud Anbieter gelangten Angreifer auf Entwicklungsrechner von Fireworks AI und starteten dort eine unerlaubte Workload. Notion zufolge waren weniger als 1 Prozent der Workspaces betroffen. Bei der großen Mehrheit der betroffenen Transkripte ließ sich weder eine bestimmte Person noch ein Workspace zuordnen.
Was soll ich als nächstes in der Praxis tun?
Notion trennte sich am 3. November von Fireworks, bestätigte die Chatprotokolle am 8.
Quellen
tenbrief.comFireworks AI breach widens — Notion AI chats exposed in under 1% of workspaces
aicassindra.comFireworks AI Says Its Breach Reached Datasets and Unfinished Models, a Month After Finding No Sign of It
plainenglish.ioFireworks AI Widens October Breach Disclosure as LLMJacking Threat Grows