Det springende punkt er, at disse tjenester er designet til at hjælpe brugere i det kinesiske fastland med at omgå restriktioner, da de store udenlandske AI-virksomheder sjældent tilbyder direkte og officiel support i landet . Ved at agere som en proxy sender platformen brugerens data til den valgte model i udlandet og returnerer svaret, som om det hele foregik lokalt.
Appellen er indlysende og har drevet en eksplosiv vækst i disse gråzonetjenester:
Men under den glatte overflade gemmer der sig, ifølge ministeriet, alvorlige og lagdelte sikkerhedsproblemer.
Ministeriets advarsel skitserer en kaskade af risici, fra sjusk til direkte ondsindede angreb.
1. Uautoriserede og usikre operatører
Mange af platformene opererer i et juridisk vakuum – uden ordentlige virksomhedsregistreringer eller de krævede driftstilladelser. Deres sikkerhedskontroller er tilsvarende svage, hvilket øger risikoen for brud på privatlivets fred og åbner døren for ulovlig handel med brugerdata .
2. Ukrypteret datalagring og videresalg
Da platformene er gateways, bliver alle brugerindsendte data – spørgsmål, filer, kode – gemt på mellemmandens servere. MSS advarer om, at nogle platforme ikke formår at kryptere disse data ordentligt. Endnu mere foruroligende er det, at skruppelløse operatører kan gemme brugerforespørgsler uden tilladelse og videresælge dem til andre AI-modeludviklere med henblik på træning. På den måde bliver dine fortrolige forretningsplaner eller private samtaler en handelsvare i skyggen af AI-industrien .
3. Ulovlige grænseoverskridende dataoverførsler
En fundamental bekymring er den uautoriserede transmission af data til udlandet. MSS bemærker, at mange relætjenester ikke har gennemgået Kinas lovpligtige sikkerhedsvurderinger, før de sender brugerinput til udenlandske servere. Advarslen er utvetydig: Dette kan føre til lækage af personlige privatlivsdata, forretningshemmeligheder og endda statshemmeligheder .
4. Bagdørs- og malware-angreb
Platformen selv er måske ikke den eneste trussel. MSS advarer om, at ondsindede aktører kan plante bagdøre i nogle relætjenester. Når en platform først er kompromitteret, kan den bruges til at levere ondsindet kode, stjæle brugeres adgangskoder og cloud-nøgler, eller sågar installere fjernstyringsprogrammer til vedvarende overvågning og langsigtet datatyveri .
5. Modelsubstitution og forringede resultater
Ud over sikkerheden er der en risiko for integriteten. Ministeriet fandt, at nogle operatører i et forsøg på at skære ned på omkostningerne i al hemmelighed udskifter de premium-modeller, som brugeren tror, de anvender, med billigere og dårligere versioner. Andre kan skære i computerkraften eller deaktivere verificeringsfunktioner, hvilket fører til mindre præcise eller logisk inkonsistente svar, der kan vildlede kritiske beslutninger .
Kinas advarsel er ikke en enlig svale, men en del af et bredere regulativt stormløb. I de seneste år har MSS udsendt en række advarsler om AI-relaterede trusler, herunder dataforgiftning , tyveri af digitale 'tokens'
og lækage af følsomme oplysninger gennem AI-skriveværktøjer
. Det signalerer, at staten ser den uregulerede AI-forsyningskæde som en ny, kritisk front i den nationale sikkerhed.