AnswersPublished13 sources
Forsker hevder 6 TB med LLM-logger fra Kina inneholdt bedriftsnøkler
Chaofan Shou hevder at rundt 6 TB med modellkall data fra en kinesisk LLM ruter inneholdt SSH nøkler, VPN konfigurasjoner, Alibaba Cloud legitimasjon og GitLab tokener, angivelig knyttet til 19 selskaper og sju kinesi... En LLM ruter kan se forespørsler og svar i klartekst, og forskning peker på at en mellommann i e...
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- Chaofan Shou hevder at rundt 6 TB med modellkall data fra en kinesisk LLM ruter inneholdt SSH nøkler, VPN konfigurasjoner, Alibaba Cloud legitimasjon og GitLab tokener, angivelig knyttet til 19 selskaper og sju kinesi...
- En LLM ruter kan se forespørsler og svar i klartekst, og forskning peker på at en mellommann i enkelte oppsett også kan manipulere verktøykall og modellsvar.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did security researcher Chaofan Shou, co-founder of Fuzzland, claim after purchasing roughly 6TB of model-invocation logs from a Chines. Article summary: Shou’s account is a serious supply-chain-risk allegation, not a verified breach report. He said that about 6 TB of “Fable” model-invocation data bought from a leading Chinese LLM router contained secrets sufficient to ac. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
En påstand fra sikkerhetsforskeren og Fuzzland-medgründeren Chaofan Shou retter søkelyset mot en KI-risiko som ofte havner i skyggen: mellomleddet mellom en applikasjon og en språkmodell.
Shou opplyste at han hadde kjøpt rundt 6 TB med «Fable»-data om modellkall fra en ledende kinesisk LLM-ruter. I et offentlig innlegg hevdet han at materialet inneholdt legitimasjonsdata som kunne gi tilgang til systemer knyttet til sju kinesiske/CIS-tilknyttede offentlige aktører og 19 store kinesiske selskaper. Han nevnte blant annet Huawei, Xiaomi, NIO og MiniMax. Dette er en påstand, ikke et offentlig verifisert datainnbrudd eller en bekreftelse på at noen av de navngitte virksomhetene er kompromittert. 11
Hvilke data skal loggene ha inneholdt?
Ifølge Shous egen redegjørelse og etterfølgende omtale inkluderte datasettet sensitiv informasjon som brukere hadde sendt via mellomleddet, blant annet:
- private SSH-nøkler
- VPN-konfigurasjoner
- legitimasjon for Alibaba Cloud, også kjent som Aliyun
- GitLab-tokener
11
3
Slike opplysninger kan få alvorlige følger dersom de fortsatt er gyldige, er korrekt knyttet til en virksomhet og har omfattende tilgangsrettigheter. Den tilgjengelige omtalen fastslår imidlertid ikke om nøklene var aktive da Shou fikk datasettet, om de allerede var tilbakekalt, eller om de faktisk ga den tilgangen han beskrev.
Derfor kan en LLM-ruter bli et oppsamlingspunkt for hemmeligheter
En LLM-ruter, relay eller proxy ligger mellom en applikasjon eller KI-agent og den underliggende modelltilbyderen. Dette mellomleddet kan få tilgang til hele forespørsels- og svarinnholdet i klartekst: instrukser, agentkontekst, argumenter til verktøykall og modellens svar.
Forfatterne bak Your Agent Is Mine, der Shou er medforfatter, beskriver slike rutere som applikasjonsproksyer med klarteksttilgang til JSON-data mens de overføres. Artikkelen peker også på at økosystemet ikke har påtvunget kryptografisk integritet mellom klienten og den underliggende modellen. 27
Risikoen oppstår for eksempel når en utvikler gir en KI-kodeagent en privat nøkkel, en .env-fil, en skynøkkel, en VPN-profil eller en utrullingskonfigurasjon for å få hjelp til feilsøking eller automatisering. Brukes et eksternt mellomledd, kan hemmeligheten følge med som en del av forespørselskonteksten.
Problemet er dermed ikke begrenset til en ruteroperatør som med vilje samler inn data. Omfattende logging, svake tilgangskontroller, innbrudd hos mellomleddet eller videreformidling av lagrede logger kan også gjøre instruksjons- og agenthistorikk til et konsentrert arkiv av gjenbrukbare nøkler.
Mellomleddet kan både observere og manipulere
Påstanden om 6 TB passer inn i en bredere arkitektonisk sikkerhetsbekymring, men den beviser ikke at ruteren Shou viser til har opptrådt klanderverdig.
I Your Agent Is Mine undersøkte forskerne angrep fra ondsinnede mellomledd i forsyningskjeden for LLM-agenter. Hovedfunnet er at en ruter med innsyn i trafikken kan ha mulighet til mer enn å samle data: Den kan potensielt endre modellsvar eller innhold i verktøykall før agenten utfører dem. 27
For team som bruker autonome eller halvautonome agenter, gir dette tre separate risikoområder:
- Passiv eksponering: Hemmeligheter i instrukser, sporingsdata eller verktøyargumenter kan havne i ruterens logger.
- Aktiv manipulering: En mellommann kan forsøke å omskrive et svar eller et verktøykall og dermed påvirke agentens neste handling.
- Misbruk av legitimasjon: En kompromittert eller ondsinnet rute kan eksponere nøkler fra agentkonteksten eller påvirke hvordan agenten bruker dem.
Forskningen dokumenterer angrepsflaten ved tredjeparts LLM-ruting. Den verifiserer ikke uavhengig opprinnelsen, fullstendigheten eller innholdet i det senere påståtte 6 TB-datasettet. 27
Dette er fortsatt ikke bekreftet
Det er viktig å holde et klart skille mellom påstand og dokumentasjon. Offentlig tilgjengelig materiale fastslår ikke uavhengig:
- at datasettet på rundt 6 TB er ekte, komplett eller faktisk stammer fra den påståtte ruteren;
- hvem som opererte mellomleddet, eller om operatøren bevisst solgte data fremfor å bli utsatt for datatyveri;
- når dataene ble samlet inn, hvor lenge de ble lagret eller hvordan de ble håndtert;
- om legitimasjonsdataene var gyldige, riktig koblet til de omtalte aktørene eller hadde tilstrekkelige rettigheter;
- at Shou brukte noen av nøklene, fikk tilgang til systemer eller at et innbrudd lyktes; eller
- offisielle bekreftelser eller uttalelser fra Huawei, Xiaomi, NIO, MiniMax, de offentlig tilknyttede aktørene eller ruteroperatøren.
At en virksomhet omtales som «knyttet til» materialet, bør derfor forstås som at den angivelig forekommer i datasettet – ikke som en bekreftelse på et sikkerhetsbrudd.
Hva virksomheter bør gjøre nå
Tiltakene under er relevante selv om den konkrete påstanden senere ikke blir bekreftet. Ethvert eksternt mellomledd som mottar agenttrafikk, bør behandles som en privilegert del av sikkerhetsgrensen.
1. Hold hemmeligheter ute av instrukser og agentkontekst
Ikke lim inn private nøkler, VPN-filer, skynøkler, tilgangstokener, .env-filer eller produksjonskonfigurasjon i instrukser. Innfør kontroll i klienten eller en intern gateway som oppdager og blokkerer eller sladder sannsynlige hemmeligheter før forespørselen forlater virksomheten.
2. Bytt ut gjenbrukbare nøkler med tidsavgrenset og avgrenset tilgang
Gi verktøy snevert avgrensede, utløpende rettigheter som hentes ved behov fra en hemmelighetsforvalter eller en arbeidslastidentitetsløsning. En kortlivet token med minst mulig tilgang reduserer skadeomfanget dersom en agentlogg eller ruterlogg eksponeres.
3. Roter legitimasjon ved mistanke om eksponering
Kartlegg reléer og proksyer som brukes av utviklere, kodeassistenter og agenter. Dersom sensitiv legitimasjon kan ha passert et ukjent eller ikke tilstrekkelig kontrollert mellomledd, bør den roteres. Undersøk samtidig revisjonslogger for SSH, VPN, GitLab og skyløsninger for uvanlig aktivitet.
4. Foretrekk direkte forbindelse eller en internt kontrollert gateway
Koble om mulig direkte til modelltilbyderen, eller bruk en intern gateway virksomheten selv kontrollerer. Hvis en tredjepartsruter eller en Kina-rettet relay er nødvendig, bør virksomheten vurdere eierskap, datalagringssted, underleverandører, sikkerhetskontroller, vilkår for hendelsesvarsling og forpliktelser knyttet til logging, trening, salg og annen viderebruk av kundedata.
5. Begrens hva agenter får lov til å utføre
Krev uttrykkelig godkjenning for sensitive handlinger, bruk tillatte lister for verktøy og destinasjoner, og overvåk uventede endringer i modellidentitet, svarformat, verktøyskjemaer eller utgående verktøykall. Det reduserer konsekvensene av mulig manipulering av svarveien, slik forskningen om mellomleddsangrep beskriver. 27
6. Behandle agentlogger som produksjonshemmeligheter
Slå av innholdslogging der det er mulig. Når logger er nødvendige, bør hemmeligheter sladdes før lagring, data krypteres, tilgang begrenses og oppbevaringstiden være kort og dokumentert. Ukontrollert eksport bør hindres. Verktøyargumenter og agentspor trenger samme beskyttelse som kildekode, nøkler og produksjonskonfigurasjon.
Kort oppsummert
Shous redegjørelse om 6 TB må foreløpig behandles som en ubekreftet, men alvorlig påstand. Den varige lærdommen er arkitektonisk: En LLM-ruter er ikke bare et nøytralt rør når den kan lese instruksene, legitimasjonen, verktøyinnspillene og svarene som passerer gjennom den. Virksomheter som bruker KI-agenter, bør legge til grunn at hvert eksterne mellomledd utvider den betrodde databehandlingsflaten – og utforme rutiner for håndtering av hemmeligheter, logging og agentutførelse deretter. 11
27
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Forsker hevder 6 TB med LLM-logger fra Kina inneholdt bedriftsnøkler"?
Chaofan Shou hevder at rundt 6 TB med modellkall data fra en kinesisk LLM ruter inneholdt SSH nøkler, VPN konfigurasjoner, Alibaba Cloud legitimasjon og GitLab tokener, angivelig knyttet til 19 selskaper og sju kinesi...
What are the key points to validate first?
Chaofan Shou hevder at rundt 6 TB med modellkall data fra en kinesisk LLM ruter inneholdt SSH nøkler, VPN konfigurasjoner, Alibaba Cloud legitimasjon og GitLab tokener, angivelig knyttet til 19 selskaper og sju kinesi... En LLM ruter kan se forespørsler og svar i klartekst, og forskning peker på at en mellommann i enkelte oppsett også kan manipulere verktøykall og modellsvar.