AnswersPublished14 sources
La gatewayen bli på den trygge serveren
La gatewayen, kildekoden og hovednøklene bli på en betrodd VPS. Et utviklingsmiljø du ikke stoler på, bør bare få avgrenset og tilbakekallbar tilgang.
Publisert avBilder generert med GPT Image 2
Research answer
Key takeaways
- La gatewayen, kildekoden og hovednøklene bli på en betrodd VPS. Et utviklingsmiljø du ikke stoler på, bør bare få avgrenset og tilbakekallbar tilgang.
- La miniprogrammet gå via en betrodd backend med innlogging, kvoter og en avgrenset Agent funksjon – ikke direkte til en generell gateway.
- Gjenbruk den eksisterende, vedvarende SSH tunnelen mellom betrodde maskiner. Mål faktisk forsinkelse før du vurderer en ny nettverksløsning.
- Dette er arkitekturråd, ikke en verifisert sikkerhetsutrulling. Offentlig tilgang bør først åpnes når kostnadsgrenser, databehandling og vilkår for bruk av modellene er avklart.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/X2Iv9UzutJWrB6MyNYnoFEwyNX93/images/B46231A279305D82E030/F351DDBF81DB11332C64.png)
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"在你确认的边界下，推荐统一采用“网关留在可信 VPS，现有可信业务后端负责对外接入”的架构：不可信开发环境只获得受限调用权限，小程序只访问业务接口。无需先建设 Nginx、负载均衡或复杂防火墙体系，但不能承诺绝对零时延损失。\n\n 先指出当前代码的安全缺口\n\n 当前启动入口默认监听所有网卡，而不是仅本机。依. Topic tags: general web, code, api, security, data. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Anbefalingen kort fortalt
La AI-gatewayen bli på en betrodd VPS, og bruk den eksisterende, betrodde backend-tjenesten som inngang for både utviklere og miniprogrammet. Utviklingsmiljøer som ikke er til å stole på, får bare begrenset tilgang. Miniprogrammet får tilgang til en avgrenset funksjon i tjenesten – ikke til gatewayen som en generell modellproxy.
Dette krever ikke at du først setter opp Nginx, lastbalansering eller et omfattende brannmurregime. Men det er heller ikke grunnlag for å love at løsningen gir null ekstra forsinkelse.
Først: dagens inngang har sikkerhetsmangler
- Oppstartsprogrammet lytter som standard på alle nettverksgrensesnitt, ikke bare lokalt. Se
main.go. På den betrodde VPS-en bør gatewayen bindes eksplisitt til loopback-adressen, slik at den ikke eksponeres direkte på internett. - Hovedruteren har ikke autentisering for innkommende kall, og registrerer også endepunkter for modelloversikt, statistikk og to chat-ruter. Se
internal/api/chat.go. At en klient har et felt for en nøkkel, betyr ikke i seg selv at tilgangen er beskyttet. - Prosjektet har eldre autentiseringsmellomvare for Gin, men oppstartsprogrammet bruker standard HTTP-ruting. Den undersøkte hovedruteren ser ikke ut til å koble inn denne mellomvaren. Se
middlewares/auth.googmain.go. Det er derfor ikke tilstrekkelig å sette en eldre autentiseringsvariabel og anta at den beskytter dagens inngang. - Den eksisterende adgangskonfigurasjonen er uttrykkelig ment for lokal utprøving, og krever at grensen per klient settes til null. Den bør ikke behandles som ferdig produksjonsbasert begrensning for flere brukere. Se
internal/chatadmission/config.googinternal/chatadmission/config.go.
1. Utvikling fra et miljø du ikke stoler på
Anbefalt trafikkvei:
Utviklings-VPS som ikke er betrodd → begrenset HTTPS-inngang på betrodd backend → privat forbindelse → gateway på betrodd VPS
Kildekode, bygging, gateway-prosessen og nøkler til modelltilbydere blir i det betrodde miljøet. Den eksterne utviklingsserveren får bare adressen til inngangen og en egen utviklingslegitimasjon.
Inngangen kan støtte chat-protokollen klienten allerede bruker, men bør bare tilby nødvendige metoder, stier og modeller. Ikke gi tilgang til statistikk, administrasjon, vilkårlig videresending eller kontofunksjoner.
Gi hvert utviklingsmiljø sin egen legitimasjon. Den bør kunne trekkes tilbake, ha kort levetid og være begrenset til en modelliste, forespørselsstørrelse, samtidige kall og et samlet budsjett. Utviklingstilgang og produksjonstilgang må holdes adskilt. Kontroll av legitimasjon og forbruk må skje på den betrodde backend-en – ikke i konfigurasjon eller kontrollkode på den eksterne serveren.
Viktig grense: Hvis administratoren av vertsmaskinen ikke er til å stole på, må du regne med at vedkommende kan lese eller endre legitimasjon, forespørsler og svar på den maskinen. Kortvarige nøkler fjerner ikke risikoen for lekkasje; de kan begrense skadeomfanget. En vanlig container, distribuert binærfil eller obfuskering beskytter ikke hemmeligheter mot administratoren på verten.
Målet er derfor ikke å oppbevare en hovednøkkel trygt på en maskin du ikke stoler på. Målet er å holde hovednøkkelen helt utenfor miljøet og sørge for at utviklingstilgangen kan trekkes tilbake, med begrenset mulig forbruk.
Unngå at den eksterne VPS-en kobler seg gjennom en SSH-tunnel rett til en gateway uten autentisering. Hvis tunnelens identitet blir kompromittert, kan begrensningene omgås. Dersom du må bruke tunnel, la den bare nå den begrensede utviklingsinngangen – ikke gatewayen direkte eller andre interne tjenester.
2. Offentlig prøving i miniprogrammet
Anbefalt trafikkvei:
WeChat-miniprogram → betrodd backend med innlogging, kvoter og Agent-logikk → privat forbindelse → gateway → modelltilbyder
La miniprogrammet bruke tjenestens eksisterende innlogging. I WeChats innloggingsflyt henter klienten en midlertidig kode, som sendes til serveren. Serveren bytter koden mot brukeridentitet og oppretter sin egen innloggingstilstand. Sesjonsnøkkelen skal ikke sendes tilbake til klienten.9
Miniprogrammet bør bare sende inn stillingsbeskrivelse, kravene til stillingen og nødvendige opplysninger om erfaring. Det skal ikke ha gatewayens hovednøkkel eller kunne velge fritt mellom modeller, systemmeldinger og verktøy.
Lag heller et eget endepunkt for «forbedring av personlige høydepunkter» i backend-en. Der fastsetter serveren aktuelle modeller, instruksjoner, tillatte søkefunksjoner og svarformat. En ubegrenset chat-proxy er ikke en god erstatning for en avgrenset tjeneste.
Brukeridentiteten må komme fra en innlogging backend-en har kontrollert, ikke fra en bruker-ID som klienten oppgir i forespørselen. Håndter oppgaver, kontekst og kvoter per bruker, slik at samtalehistorikk ikke blandes.
Sett grenser både per bruker og per oppgave: antall modell- og verktøykall, størrelse på inn- og utdata, og en samlet prøvekvote for hele tjenesten. Ha også en nødstopp. Gratis prøving kan være mulig, men bør fortsatt ha en tydelig kostnadsgrense.
Hvis en Agent utfører flere trinn, må hvert trinn belastes det samme oppgavebudsjettet. Avbrytelser, tidsavbrudd og nye forsøk må også telles, slik at en utforskende løkke ikke fører til et ukontrollert antall kall. Hvis backend-en kjører i flere prosesser, bør reservasjon og oppgjør av kvoter håndteres transaksjonelt i den eksisterende databasen – ikke som separate summer i hver prosess.
Miniprogrammet kan fortsette å bruke det eksisterende HTTPS-domenet for tjenesten. WeChats ordinære nettverkskommunikasjon krever at tillatte serverdomener er konfigurert på forhånd; miniprogrammet trenger derfor ikke et eget offentlig gateway-domene.7
3. Privat forbindelse og forsinkelse
- Kjører backend og gateway på samme betrodde maskin, bruk helst en lokal forbindelse.
- Kjører de på hver sin betrodde maskin, gjenbruk først den eksisterende, vedvarende SSH-tunnelen. Backend-en bør bruke tunnelen – ikke opprette en ny for hvert kall.
- Bruk en egen SSH-identitet begrenset til portvideresending, og begrens hvilke målporter den kan nå. Gatewayen bør lytte lokalt. Hvis tunnelen faller ut, skal kall avvises; ikke fall tilbake til en ubeskyttet offentlig inngang.
- En tom kallnøkkel kan bare vurderes på denne kontrollerte interne forbindelsen, forutsatt at andre prosesser på vertsmaskinene også er innenfor tillitsgrensen. En inngang som er tilgjengelig for et miljø du ikke stoler på, må faktisk kontrollere en egen legitimasjon.
- Vurder først WireGuard direkte mellom de to betrodde maskinene hvis målinger viser at dagens tunnel er en flaskehals. WireGuard støtter autentisering og kryptering basert på nøkler for motpartene, men det er ikke belegg for at forbindelsen nødvendigvis blir raskere.
12
Det er ikke nødvendig å legge inn en ny tredjepartsformidler eller et ekstra omvendt proxy-lag. Backend-en bør gjenbruke forbindelser, videresende strømmede svar fortløpende og sende beskjed videre når miniprogrammet kobler fra, slik at pågående arbeid kan avbrytes.
Hvor mye ekstra forsinkelse løsningen gir, er ikke kjent på forhånd. Mål nettverkstiden fra backend til gateway, tiden til første del av svaret og total oppgavetid hver for seg. Sammenlign både median og høye persentiler. Forbindelsen fra Kina til gatewayen og modelltilbyderen må også måles særskilt.
Ikke velg en «rask modell» bare ut fra navnet. Testene for dagens modellkandidater krever fortsatt dybdemodus, høy resonnering og detaljerte svar, og dokumenterer verken at modellen faktisk virker hos den aktuelle tilbyderen eller hvilken forsinkelse den gir. Se internal/upstream/studioglobal/registry_fast_models_test.go og internal/upstream/studioglobal/registry_fast_models_test.go. Lag og mål heller en egen, lettere profil for forbedring av personlige høydepunkter, uten å endre utviklingsprofilen som allerede er i bruk.
4. En nøktern rekkefølge for arbeidet
- Begrens gatewayens lytteadresse, og kontroller at verken internett eller den eksterne utviklingsserveren kan nå den utenom backend-en.
- Opprett to adskilte tilgangsdomener på betrodd backend: begrenset utviklingstilgang og tilgang til prøvefunksjonen i miniprogrammet. Administrer legitimasjon og budsjetter hver for seg.
- Implementer Agent-grenser, kvotereservasjon, håndtering av avbrytelser og strømmede svar. Behold et samlet tak for hele tjenesten.
- Kontroller at kall uten gyldig legitimasjon – også tilbakekalt legitimasjon – blir avvist; at utviklingstilgang ikke når administrasjonsstier; og at forbruk stopper når kvoten er brukt opp. Test også at brukerkontekst er isolert, og at flere Agent-trinn og nye forsøk ikke overskrider oppgavebudsjettet.
- Start med en liten prøve, mål forsinkelsen og vurder deretter om det er grunn til å endre den private forbindelsen eller dele opp tjenesten.
Hva dette ikke avklarer
Dette er arkitekturråd fra gjennomgangen – ingen implementering, tester eller utrulling er utført, og en ADR eller planfil er ikke skrevet. Rådene dokumenterer derfor ikke at løsningen er sikker etter utrulling.
Første trinn trenger ikke lastbalansering, tjenestenett eller en permanent Agent-plattform. Til gjengjeld må man akseptere at én instans setter grenser for kapasitet og at feil på den kan gjøre tjenesten utilgjengelig.
Det er ikke avklart om vilkårene til modelltilbyderne tillater offentlig prøving, eller hvordan opplysninger om personlige erfaringer behandles i praksis. Avklar dette før åpning. Send bare opplysninger som trengs, fjern identifiserende detaljer der det lar seg gjøre, og unngå å loggføre hele CV-er eller legitimasjon.
Kjernen er enkel: Kildekode og hovednøkler blir i det betrodde miljøet, utviklere får begrenset tilgang, og miniprogrammet får en avgrenset tjeneste. Før du legger til mer infrastruktur, lukk hullene i autentisering, budsjettstyring og grenser for hver oppgave.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "La gatewayen bli på den trygge serveren"?
La gatewayen, kildekoden og hovednøklene bli på en betrodd VPS. Et utviklingsmiljø du ikke stoler på, bør bare få avgrenset og tilbakekallbar tilgang.
What are the key points to validate first?
La gatewayen, kildekoden og hovednøklene bli på en betrodd VPS. Et utviklingsmiljø du ikke stoler på, bør bare få avgrenset og tilbakekallbar tilgang. La miniprogrammet gå via en betrodd backend med innlogging, kvoter og en avgrenset Agent funksjon – ikke direkte til en generell gateway.
What should I do next in practice?
Gjenbruk den eksisterende, vedvarende SSH tunnelen mellom betrodde maskiner. Mål faktisk forsinkelse før du vurderer en ny nettverksløsning.