AnswersPublished14 sources
Lad gatewayen blive på den betroede server
Behold gatewayens kode, drift og upstream nøgler på en betroet VPS. Et udviklingsmiljø, du ikke har fuld kontrol over, bør kun få en begrænset og tilbagekaldelig adgang.
Udgivet afBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Behold gatewayens kode, drift og upstream nøgler på en betroet VPS. Et udviklingsmiljø, du ikke har fuld kontrol over, bør kun få en begrænset og tilbagekaldelig adgang.
- Lad miniprogrammet kalde en afgrænset forretningsfunktion via det eksisterende backend – ikke en generel AI gateway.
- Genbrug om muligt den eksisterende SSH tunnel mellem betroede servere. Mål den faktiske svartid, før du overvejer en anden forbindelse.
- Sæt grænser for brugerforbrug, modelkald, værktøjer og samlede omkostninger, og vær tydelig om, at oplægget ikke er implementeret eller sikkerhedstestet.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/X2Iv9UzutJWrB6MyNYnoFEwyNX93/images/B46231A279305D82E030/F351DDBF81DB11332C64.png)
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"在你确认的边界下，推荐统一采用“网关留在可信 VPS，现有可信业务后端负责对外接入”的架构：不可信开发环境只获得受限调用权限，小程序只访问业务接口。无需先建设 Nginx、负载均衡或复杂防火墙体系，但不能承诺绝对零时延损失。\n\n 先指出当前代码的安全缺口\n\n 当前启动入口默认监听所有网卡，而不是仅本机。依. Topic tags: general web, code, api, security, data. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Anbefalingen kort fortalt
Behold gatewayen på den betroede VPS, og lad det eksisterende betroede backend stå for adgangen udefra. Et udviklingsmiljø, du ikke har fuld kontrol over, får kun begrænset adgang. Et miniprogram får adgang til en bestemt forretningsfunktion – ikke til en generel gateway.
Det kræver ikke i første omgang en ny reverse proxy, load balancer eller et større netværkssetup. Men det er ikke muligt at love, at løsningen giver nul ekstra forsinkelse; det skal måles.
Først: de nuværende sikkerhedshuller
- Programmets startpunkt lytter som udgangspunkt på alle netværksinterfaces, ikke kun lokalt. Se
main.goomkring linje 122. På den betroede VPS bør gatewayen i stedet bindes til loopback, så den ikke står direkte på internettet. - Hovedrouteren har ikke adgangskontrol for kaldere og registrerer også modeloversigt, statistik og to chatruter. Se
internal/api/chat.goomkring linje 1804. At klienten indsender en nøgle, betyder ikke i sig selv, at adgangen er beskyttet. - Projektet har en ældre autentificeringsmiddleware til Gin, men den aktuelle opstart bruger standardbibliotekets HTTP-router. Den gennemgåede hovedrouter kalder ikke middlewarelaget. Se
middlewares/auth.goomkring linje 9 ogmain.goomkring linje 148. Det er derfor ikke dokumenteret, at den nuværende indgang bliver sikret ved blot at sætte den gamle autentificeringsvariabel. - Den eksisterende adgangskonfiguration er beskrevet som lokal testkonfiguration, og grænsen pr. klient skal være nul. Den bør ikke opfattes som færdig produktionsbegrænsning for flere brugere. Se
internal/chatadmission/config.goomkring linje 41 og 95.
Til udviklingsmiljøet: fjernadgang, ikke gatewayinstallation
Foreslået vej: ikke-betroet udviklings-VPS → HTTPS-indgang med begrænset adgang på det betroede backend → privat forbindelse → gateway på den betroede VPS.
- Lad kildekode, byggeproces, gateway og upstream-legitimationsoplysninger blive i det betroede miljø. Udviklingsserveren får kun en adresse og en separat udviklingsadgang.
- Indgangen kan understøtte de chatprotokoller, klienten allerede bruger, men bør kun åbne nødvendige metoder, stier og modeller. Statistik, administration, vilkårlig videresendelse og adgang til konti skal ikke følge med.
- Giv hvert udviklingsmiljø sin egen adgang, som kan tilbagekaldes og har kort gyldighed. Begræns den til godkendte modeller, requeststørrelse, samtidige kald og et samlet forbrugsbudget. Hold udviklingsadgang helt adskilt fra produktionsadgang.
- Kontrollér adgang og træk forbrug fra på det betroede backend. Det er ikke nok at lægge begrænsninger i konfiguration eller kode på den server, der ikke er til at stole på.
Den vigtige grænse: Hvis serverens administrator ikke er betroet, skal du regne med, at adgangsoplysninger, forespørgsler og svar på serveren kan blive læst eller ændret. En kortlivet nøgle fjerner ikke risikoen for lækage, men kan begrænse skaden. Containere, binærfiler og obfuskering kan heller ikke garantere hemmeligholdelse over for serverens administrator.
Målet er derfor ikke at lægge en umulig-at-stjæle hovednøgle på udviklingsserveren. Målet er at holde hovednøglen ude af miljøet og gøre en lækket udviklingsadgang tilbagekaldelig og begrænset. Følsomme udviklingsoplysninger bør blive i det betroede miljø.
Undgå at give udviklingsserveren en SSH-tunnel direkte til den nuværende gateway uden adgangskontrol. Hvis tunneladgangen bliver kompromitteret, kan begrænsningerne blive omgået. Hvis en tunnel er nødvendig, bør den kun føre til den begrænsede udviklingsindgang – ikke til den rå gateway eller andre private tjenester.
Til miniprogrammet: åbn en funktion, ikke en generel gateway
Foreslået vej: WeChat-miniprogram → eksisterende betroet backend med login, kvoter og agentfunktion → privat forbindelse → gateway → upstream-model.
- Brug det eksisterende login. WeChats dokumenterede loginforløb henter en midlertidig login-kode i klienten; serveren bruger den til at hente brugerens identitet og oprette sin egen loginstatus. Sessionnøglen skal ikke sendes til klienten.
9
- Lad miniprogrammet sende jobbeskrivelse, krav til jobbet og de nødvendige oplysninger om brugerens erfaring. Det skal ikke indeholde gatewayens hovednøgle eller selv kunne vælge en vilkårlig model, systemprompt eller værktøj.
- Tilføj en afgrænset funktion til at forbedre brugerens personlige styrker i det eksisterende backend. Backend bør fastlægge mulige modeller, promptskabelon, tilladte søgefunktioner og svarformat. Undgå at gøre det til en ubegrænset chatproxy.
- Find brugerens identitet i en valideret loginstatus på serveren; stol ikke på et bruger-id, klienten selv sender i requestens indhold. Hold opgaver, kontekst og kvoter adskilt pr. bruger.
- Sæt grænser pr. bruger, pr. opgave og for hele tjenesten: antal model- og værktøjskald, input- og outputstørrelse samt et samlet prøvebudget. En offentlig prøveperiode kan være gratis, men bør stadig have en budgetgrænse og en nødstopfunktion.
- Kør agentens flere trin på backend, og lad alle trin tælle mod samme opgavebudget. Afbrydelse, timeout og genforsøg skal også være begrænset, så en agent ikke kan fortsætte en udforskende løkke uden ende.
- Hvis backend kører i flere processer, bør reservation og afregning af kvoter håndteres samlet med transaktioner i den eksisterende database. Ellers kan hver proces komme til at administrere sin egen version af totalbudgettet.
Miniprogrammet kan fortsætte med at bruge det eksisterende HTTPS-domæne til forretningsfunktionerne. WeChat kræver normalt, at kommunikationsdomæner er konfigureret på forhånd, så miniprogrammet behøver ikke få et separat gateway-domæne. 7
Privat forbindelse og svartid: genbrug SSH-tunnelen først
- Kører backend og gateway på samme betroede maskine, så lad backend kontakte gatewayen lokalt.
- Kører de på hver sin betroede maskine, så genbrug i første omgang den eksisterende, permanente SSH-tunnel. Backend bør kontakte gatewayen gennem den; opret ikke en ny tunnel for hvert request.
- Brug en særskilt SSH-identitet, der kun må videresende porte, og begræns den til den nødvendige destination. Gatewayen bør lytte lokalt. Hvis tunnelen falder ud, skal kald afvises – ikke falde tilbage til en ubeskyttet offentlig indgang.
- En tom kaldnøgle bør kun bruges på denne kontrollerede interne forbindelse, og kun hvis andre processer på værten også er inden for tillidsgrænsen. En indgang, der er tilgængelig fra et ikke-betroet miljø, skal faktisk kontrollere sin egen adgangsnøgle.
- Overvej først WireGuard som direkte forbindelse mellem de to betroede maskiner, hvis målinger viser, at den nuværende tunnel er en flaskehals. WireGuard understøtter autentificering mellem peers med nøgler og kryptering, men det betyder ikke, at netop denne forbindelse nødvendigvis bliver hurtigere.
12
Der er ikke lagt op til en ny tredjepart som mellemled eller et ekstra proxy-lag. Genbrug forbindelser i backend, videresend streamingoutput løbende, og lad afbrydelser fra miniprogrammet blive sendt videre til den aktive opgave.
Den ekstra svartid kan ikke fastslås ud fra oplysningerne her. Mål netværkstiden fra backend til gateway, tiden til første output og den samlede opgavetid. Sammenlign både medianen og de højere percentiler. Den faktiske netværksvej fra det kinesiske fastland til gatewayen og upstream skal også undersøges særskilt.
Vælg heller ikke en »hurtig model« alene ud fra dens navn. Den eksisterende test af modelkandidater kræver stadig dyb tilstand, høj ræsonnering og detaljeret output, og den dokumenterer hverken faktisk tilgængelighed hos upstream eller svartid. Se internal/upstream/studioglobal/registry_fast_models_test.go omkring linje 9 og 53. Lav i stedet en særskilt, lettere forretningsprofil til funktionen med personlige styrker, og mål den uden at ændre den eksisterende udviklingsprofil.
En enkel rækkefølge for implementering og kontrol
- Begræns gatewayens lytteadresse, og bekræft, at hverken internettet eller det ikke-betroede udviklingsmiljø kan nå den uden om backenden.
- Opret to adskilte adgangsområder i det betroede backend: begrænset udviklingsadgang og adgang til offentlig prøvefunktion. Administrér adgang og budgetter hver for sig.
- Implementér en afgrænset agent, kvotereservation, videreførsel af afbrydelser og streamingoutput samt en samlet budgetgrænse.
- Kontrollér, at kald uden adgang eller med tilbagekaldt adgang afvises, at udviklingsadgangen ikke kan nå administrationsruter, og at et opbrugt budget stopper opgaven. Test også, at brugeres kontekst holdes adskilt, og at agenttrin og genforsøg ikke overskrider opgavebudgettet.
- Start med en lille prøve og mål svartiden, før I beslutter, om forbindelsen eller opdelingen af tjenester skal ændres.
Hvad forslaget ikke omfatter
Dette er et arkitekturforslag – ikke en udført implementering eller en sikkerhedsvalidering. Der er ikke foreslået ændringer i kode, kørt tests eller skrevet ADR- eller planfiler.
Første fase kræver hverken load balancing, service mesh eller en permanent agentplatform. Det er et bevidst valg at acceptere begrænsningerne ved én instans, herunder risikoen for nedetid og kapacitetsloft.
Det er endnu ikke afklaret, om upstream-tjenesten tillader offentlig prøveadgang, hvordan data om personlige erfaringer konkret behandles, eller hvilke krav der gælder. Det bør afklares før åbning for brugere. Indsaml kun nødvendige oplysninger, og undgå så vidt muligt at gemme hele CV-tekster eller adgangsoplysninger.
Konklusionen: Kode og hovednøgler bliver i det betroede miljø. Udviklingsserveren får begrænsede rettigheder, og miniprogrammet får adgang til en bestemt forretningsfunktion. Genbrug den kontrollerede private forbindelse, og prioritér autentificering, budgetter og klare opgavegrænser frem for flere lag infrastruktur.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Lad gatewayen blive på den betroede server"?
Behold gatewayens kode, drift og upstream nøgler på en betroet VPS. Et udviklingsmiljø, du ikke har fuld kontrol over, bør kun få en begrænset og tilbagekaldelig adgang.
What are the key points to validate first?
Behold gatewayens kode, drift og upstream nøgler på en betroet VPS. Et udviklingsmiljø, du ikke har fuld kontrol over, bør kun få en begrænset og tilbagekaldelig adgang. Lad miniprogrammet kalde en afgrænset forretningsfunktion via det eksisterende backend – ikke en generel AI gateway.
What should I do next in practice?
Genbrug om muligt den eksisterende SSH tunnel mellem betroede servere. Mål den faktiske svartid, før du overvejer en anden forbindelse.