Pekingin kiireellinen varoitus harmaan markkinan AI-välityspalveluista

Miten AI-välitysalustat toimivat

Pohjimmiltaan AI-välitysalusta toimii kolmannen osapuolen välikätenä. Se kokoaa useiden eri kielimallikehittäjien – niin kiinalaisten kuin ulkomaisten – rajapintoja (API) yhden, yhtenäisen käyttöliittymän taakse . Käyttäjälle tämä tarkoittaa yhden luukun palvelua, jossa hän voi esittää kysymyksiä eri malleille vaihtamatta tiliä tai käyttöliittymää .

Ratkaisevaa on, että nämä alustat on suunniteltu auttamaan Manner-Kiinan käyttäjiä kiertämään rajoituksia, jotka koskevat ulkomaisia tekoälypalveluita, joilla ei ole virallista tukea maassa . Toimimalla välityspalvelimena palvelu käsittelee käyttäjän pyynnön, lähettää sen valitulle ulkomaiselle mallille ja palauttaa vastauksen – kaiken tämän tarjoten samalla kotimaisen käyttökokemuksen.

Viehe: Mukavuus, hinta ja pääsy

Näiden alustojen vetovoima on yksinkertainen ja voimakas, mikä selittää niiden nopean kasvun:

• Mukavuus: Ne poistavat useiden erillisten tilien ja käyttöliittymien hallinnan vaivan eri tekoälytehtävissä .
• Edullisemmat hinnat: Välittäjien kautta myytävä niputettu pääsy on usein halvempaa kuin suorien, yksittäisten tilausten maksaminen .
• Rajoitusten kiertäminen: Ne tarjoavat käyttäjille pääsyn tehokkaisiin ulkomaisiin malleihin, kuten GPT:hen ja Claudeen, jotka eivät muutoin ole saatavilla virallisia kanavia pitkin Manner-Kiinassa .
• Kotimaiset maksutavat: Ne hyväksyvät valtavirran kiinalaiset maksutavat, poistaen jälleen yhden esteen paikallisilta käyttäjiltä .

MSS:n varoitus tekee kuitenkin selväksi, että tämän kätevän pinnan alla piilee vakavia ja monikerroksisia turvallisuusongelmia.

MSS:n tunnistamat viisi tietoturvauhkaa

Ministeriön varoitus hahmottelee riskien vyöryn, joka ulottuu huolimattomasta tietojenkäsittelystä suoranaisiin haitallisiin hyökkäyksiin.

1. Epäpätevät ja turvattomat toimijat
Monet alustoista toimivat sääntelytyhjiössä – ilman asianmukaisia yritysrekisteröintejä tai vaadittuja toimilupia. Niiden turvakontrollit ovat vastaavasti heikkoja, mikä nostaa välittömästi yksityisyyden loukkausten riskiä ja avaa oven käyttäjätietojen laittomalle kaupalle .

2. Salaamaton tietojen tallennus ja jälleenmyynti
Koska AI-välitysalustat ovat portinvartijoita, kaikki käyttäjän lähettämä tieto tallennetaan niiden palvelimille. MSS varoitti, että jotkut alustat eivät riittävästi salaa näitä tietoja. Vielä hälyttävämpää on, että se korosti häikäilemättömien toimijoiden saattavan säilyttää käyttäjien kyselyitä luvatta ja myydä niitä edelleen muille tekoälymallien kehittäjille koulutustarkoituksiin, muuttaen arkaluontoiset kyselyt harmaan talouden hyödykkeeksi .

3. Laittomat rajat ylittävät tiedonsiirrot
Perustavanlaatuinen huolenaihe on tietojen luvaton siirto ulkomaille. MSS huomautti, että monet välityspalvelut eivät ole suorittaneet Kiinan lain vaatimia turvallisuusarviointeja ennen käyttäjien syötteiden lähettämistä ulkomaisille palvelimille. Varoituksessa todetaan nimenomaisesti, että tämä voi johtaa henkilökohtaisten tietosuojan, liikesalaisuuksien ja jopa valtiosalaisuuksien vuotamiseen .

4. Takaovi- ja haittaohjelmahyökkäykset
Itse alustat eivät välttämättä ole ainoa uhka. MSS varoitti, että haitalliset toimijat voivat istuttaa takaovia joihinkin välityspalveluihin. Vaarannuttuaan alustaa voidaan käyttää haitallisen koodin toimittamiseen, käyttäjätilien tunnistetietojen ja pilvipalveluiden pääsyavainten varastamiseen tai jopa etähallintaohjelmien asentamiseen jatkuvaa valvontaa ja pitkäaikaista tietovarkautta varten .

5. Mallien vaihtaminen ja heikentyneet tulokset
Tietoturvan lisäksi on olemassa eheysriski. Ministeriö havaitsi, että jotkut toimijat salaa vaihtavat kustannusten leikkaamiseksi huippumallit alempitasoisiin malleihin, joita käyttäjät luulevat käyttävänsä. Toiset saattavat leikata laskentaresursseja tai poistaa vahvistustoimintoja käytöstä, mikä johtaa epätarkempiin tai loogisesti ristiriitaisiin tuloksiin, jotka voivat johtaa päätöksiä harhaan .

Kiinan varoitus ei ole yksittäinen hälytys, vaan osa laajaa sääntelyn kiristystä. Viime vuosina MSS on antanut sarjan varoituksia tekoälyyn liittyvistä uhista, mukaan lukien datamyrkytyksestä , tunnisteavainten varastamisesta ja arkaluontoisten tietojen vuotamisesta tekoälyä hyödyntävien kirjoitustyökalujen kautta . Tämä viestii siitä, että valtio näkee hallitsemattoman tekoälyn toimitusketjun kriittisenä uutena kansallisen turvallisuuden rintamana.