AnswersPublished22 sources
Tietomurto kulki pilvipalveluntarjoajan kautta Notion AI -keskusteluihin
Hyökkääjät pääsivät pilvipalveluntarjoajan kautta Fireworks AI:n kehityskoneille ja ajoivat niillä luvattoman työkuorman. Notionin mukaan alle prosentti sen työtiloista oli vaikutuksen piirissä.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Hyökkääjät pääsivät pilvipalveluntarjoajan kautta Fireworks AI:n kehityskoneille ja ajoivat niillä luvattoman työkuorman.
- Notionin mukaan alle prosentti sen työtiloista oli vaikutuksen piirissä. Suurimmassa osassa kyseisistä työtiloista keskusteluja ei voitu yhdistää tiettyyn käyttäjään tai työtilaan.
- Notion katkaisi yhteyden Fireworks AI:hin 3. marraskuuta, alkoi ilmoittaa asiasta asiakkaille 9.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did the October 23–24 breach of Fireworks AI’s third-party cloud provider lead to unauthorized workloads on its development machines and. Article summary: The reported attack followed an AI supply-chain path: a breach of Fireworks AI’s cloud provider gave attackers access to a Fireworks development system and, through it, customer data—including Notion AI transcripts store. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Fireworks AI:n alihankkijan pilvipalvelussa tapahtunut tietoturvaloukkaus avasi hyökkääjille reitin Fireworksin kehityskoneille. Niillä ajettiin luvaton työkuorma, joka johti myös asiakastietojen altistumiseen. Yksi aineistoista sisälsi Notion AI:n Insights-ominaisuuteen liittyviä keskustelutekstejä. Notionin mukaan vaikutus koski alle prosenttia sen työtiloista. Yhtiö täsmensi, ettei murto kohdistunut Notionin omiin järjestelmiin vaan sen palveluntarjoajaan. 4
8
Näin tunkeutuminen eteni
Fireworksin mukaan sen tutkimus- ja kehityskoneita isännöineessä pilvipalvelussa tapahtui tietoturvapoikkeama 23. lokakuuta. Seuraavana päivänä hyökkääjä käytti tätä reittiä päästäkseen Fireworksin kehityskoneille ja ajamaan niillä luvattoman työkuorman. Fireworks havaitsi toiminnan samana päivänä. 4
14
Julkisuuteen tulleet tiedot kuvaavat reitin pilvipalveluntarjoajalta kehitysympäristöön, mutta eivät kerro tarkasti, mitä teknistä haavoittuvuutta käytettiin tai miten hyökkääjät etenivät jokaiseen yksittäiseen aineistoon. Olennaista on, että alihankkijan ympäristön kautta päästiin Fireworksin kehityskoneille ja sitä kautta asiakastietojen äärelle. 14
Mitä tietoja altistui?
Fireworksin laajennetun selvityksen mukaan altistuneisiin tietoihin kuului resurssien metatietoja sekä laskutukseen ja maksuhistoriaan liittyviä tietoja. Joidenkin asiakkaiden osalta mukana oli myös aineistoja ja keskeneräisiä mallipainoja. Fireworks kertoo, ettei se tallenna maksukorttien numeroita. 4
9
34
Notionin tapauksessa kyse oli Insights-ominaisuuden luokittelutehtävissä käytetyistä keskusteluteksteistä. Insights auttaa asiakkaita hahmottamaan, miten heidän työtiloissaan käytetään tekoälyä. Notion kertoi, että alle prosentti työtiloista oli vaikutuksen piirissä. Suurimmassa osassa kyseisistä työtiloista keskusteluja ei voitu yhdistää tiettyyn käyttäjään tai työtilaan. 3
4
Notionin ilmoitusaikajana
- 2. marraskuuta: Fireworks ilmoitti Notionille, että pieni aineisto oli joutunut luvattoman käytön kohteeksi. Notionin ensimmäisessä selvityksessä aineisto vaikutti sisältävän synteettistä testidataa, ei asiakkaiden keskusteluja.
8
- 3. marraskuuta: Notion katkaisi yhteyden Fireworksiin ja poisti toimittajan järjestelmissä olleet tietonsa.
5
- 6. marraskuuta: Fireworks kertoi Notionille, että myös asiakastietoja oli mahdollisesti altistunut.
- 8. marraskuuta: Fireworks vahvisti, että aineistossa oli Notion AI:n Insights-ominaisuudessa käytettyjä keskustelutekstejä.
- 9. marraskuuta: Notion alkoi ottaa yhteyttä asiakkaisiin, joiden työtiloihin tapaus vaikutti.
15
- 11. marraskuuta: Notion mitätöi tutkinnassa altistuneista käyttäjäviesteistä löytyneitä Notion API -avaimia.
Notion myös poisti Insights-ominaisuuden käytöstä ja lopetti avoimien mallien tarjoamisen Fireworksin kautta. 10
11 Vaikutuksen piirissä olleita asiakkaita kehotettiin varautumaan siihen, että tekoälyavustajalle kirjoitetut salasanat, API-avaimet ja muut tunnistetiedot ovat voineet altistua, ja vaihtamaan ne.
21
Tutkinta ja hyökkääjien motiivi
Fireworks kertoi pyytäneensä Palo Alto Networksin Unit 42 -yksikköä tutkimaan tapausta, ilmoittaneensa siitä lainvalvontaviranomaisille ja rajoittaneensa joitakin toimintoja. 34 Yhtiö arvioi, että hyökkääjät pyrkivät myymään luvattomasti saatua pääsyä mallien käyttöön laittomien välityspalvelujen kautta. Tätä toimintaa kutsutaan nimellä ”LLMJacking”. Kyse on Fireworksin arviosta motiivista, ei varmistetusta tiedosta hyökkääjien henkilöllisyydestä.
7
Pilvipalveluntarjoajaan liittyvä tapaus oli Fireworksin mukaan sen toinen lokakuussa tapahtunut tietomurto. Yhtiö oli kertonut aiemmasta tapauksesta, jonka se havaitsi 6. lokakuuta. Tapauksia ei pidä sekoittaa toisiinsa: tässä kuvattu myöhempi reitti alkoi kolmannen osapuolen pilvipalvelusta ja johti Fireworksin kehityskoneille 24. lokakuuta. 7
4
Tapaus muistuttaa tekoälyn toimitusketjun riskeistä
Yrityksen tietoturvariskit eivät rajoitu sen omiin järjestelmiin. Kun tekoälypalvelu käsittelee tietoja ulkopuolisen toimittajan infrastruktuurissa, myös toimittajan pilvi- ja kehitysympäristö kuuluvat kokonaisuuden riskipintaan. Notionin tapauksessa hyökkäyksen ilmoitettu sisääntuloreitti oli Fireworksin pilvipalveluntarjoajan kautta, mutta altistuneisiin tietoihin kuului Notionin ominaisuudessa käytettyjä keskusteluja. 4
8
Tekoälypalvelua arvioivan organisaation kannattaa selvittää, mitä tietoja palveluntarjoaja tai sen alihankkijat säilyttävät, missä niitä käsitellään ja miten pääsy voidaan tarvittaessa katkaista nopeasti. Tunnistetietoja ei kannata liittää kehotteisiin, jos se on vältettävissä. Jos salaiseksi tarkoitettu tieto on saattanut päätyä altistuneeseen keskusteluun, avain tai salasana on syytä mitätöidä tai vaihtaa. Tapaus korostaa myös sitä, että aineistojen, tunnistetietojen ja kehitysjärjestelmien käyttöoikeudet tulisi rajata vain tehtävän kannalta tarpeellisiin.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tietomurto kulki pilvipalveluntarjoajan kautta Notion AI -keskusteluihin"?
Hyökkääjät pääsivät pilvipalveluntarjoajan kautta Fireworks AI:n kehityskoneille ja ajoivat niillä luvattoman työkuorman.
What are the key points to validate first?
Hyökkääjät pääsivät pilvipalveluntarjoajan kautta Fireworks AI:n kehityskoneille ja ajoivat niillä luvattoman työkuorman. Notionin mukaan alle prosentti sen työtiloista oli vaikutuksen piirissä. Suurimmassa osassa kyseisistä työtiloista keskusteluja ei voitu yhdistää tiettyyn käyttäjään tai työtilaan.
What should I do next in practice?
Notion katkaisi yhteyden Fireworks AI:hin 3. marraskuuta, alkoi ilmoittaa asiasta asiakkaille 9.
Sources
tenbrief.comFireworks AI breach widens — Notion AI chats exposed in under 1% of workspaces
aicassindra.comFireworks AI Says Its Breach Reached Datasets and Unfinished Models, a Month After Finding No Sign of It
plainenglish.ioFireworks AI Widens October Breach Disclosure as LLMJacking Threat Grows