AnswersPublished14 sources
AI gateway nepatří přímo na internet. Jak ji bezpečně zapojit do vývoje i aplikace
Gateway i hlavní přístupové údaje mají zůstat na důvěryhodném serveru; nedůvěryhodné vývojové prostředí má dostat jen omezený a odvolatelný přístup. Miniaplikace WeChat by měla volat konkrétní funkci přes stávající důvěryhodný backend, nikoli získat přímý přístup k obecné AI gateway.
PublikovalObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Gateway i hlavní přístupové údaje mají zůstat na důvěryhodném serveru; nedůvěryhodné vývojové prostředí má dostat jen omezený a odvolatelný přístup.
- Miniaplikace WeChat by měla volat konkrétní funkci přes stávající důvěryhodný backend, nikoli získat přímý přístup k obecné AI gateway.
- Nejdřív zabezpečte ověřování, limity a rozpočty. Stávající SSH tunel lze použít pro soukromé spojení; případnou vyšší režii je třeba změřit.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/X2Iv9UzutJWrB6MyNYnoFEwyNX93/images/B46231A279305D82E030/F351DDBF81DB11332C64.png)
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"在你确认的边界下，推荐统一采用“网关留在可信 VPS，现有可信业务后端负责对外接入”的架构：不可信开发环境只获得受限调用权限，小程序只访问业务接口。无需先建设 Nginx、负载均衡或复杂防火墙体系，但不能承诺绝对零时延损失。\n\n 先指出当前代码的安全缺口\n\n 当前启动入口默认监听所有网卡，而不是仅本机。依. Topic tags: general web, code, api, security, data. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Bezpečně zpřístupnit AI gateway neznamená vystavit ji přímo na internet. Doporučené řešení je držet gateway i hlavní přístupové údaje na důvěryhodném VPS a pro vývojáře i uživatele aplikace vytvořit oddělené, omezené vstupní cesty přes stávající důvěryhodný backend.
Není nutné hned stavět reverzní proxy, load balancer ani složitou infrastrukturu. Zároveň ale nelze slíbit, že další síťový krok nepřidá vůbec žádnou prodlevu.
Nejdřív je třeba napravit několik slabých míst
Podle popsaného stavu projektu je výchozí spuštění nastavené tak, že naslouchá na všech síťových rozhraních, nikoli pouze lokálně (main.go, ř. 122). Na důvěryhodném serveru by měla být gateway výslovně svázána s lokální adresou a neměla by být přímo dostupná z veřejného internetu.
Hlavní směrování navíc nepoužívá ověřování volajícího a zpřístupňuje také katalog modelů, statistiky a dvě cesty pro chat (internal/api/chat.go, ř. 1804). To, že klient vyplní přístupový klíč, samo o sobě ještě neznamená, že ho server skutečně ověřuje.
Projekt má také starší autentizační middleware určený pro Gin, zatímco aktuální spuštění používá standardní HTTP směrování. V popsané hlavní cestě není tento middleware zapojen (middlewares/auth.go, ř. 9; main.go, ř. 148). Pouhé nastavení proměnné prostředí pro starší autentizaci proto bezpečnost současného vstupu nedokládá.
A konečně, stávající nastavení přijímání požadavků je výslovně určeno pro lokální testování a požaduje nulový limit na klienta. Nelze je považovat za hotové omezení provozu pro více uživatelů (internal/chatadmission/config.go, ř. 41 a 95).
Nedůvěryhodné vývojové prostředí: vzdálený přístup, ne instalace gateway
Vhodné zapojení vypadá takto:
Nedůvěryhodné vývojové VPS → omezený vývojový vstup přes HTTPS na důvěryhodném backendu → soukromé spojení → gateway na důvěryhodném VPS.
Zdrojový kód, sestavení, běžící instance gateway i přístupové údaje k modelům zůstanou v důvěryhodném prostředí. Na vývojový server se předá pouze adresa vstupu a zvláštní vývojový přístup.
Vývojový vstup může zachovat chatovací protokol, který současní klienti potřebují, ale měl by povolovat jen nezbytné metody, cesty a modely. Neměl by zpřístupnit statistiky, správu, libovolné přeposílání požadavků ani účty.
Každé vývojové prostředí by mělo mít vlastní, odvolatelný přístup s krátkou platností. Na důvěryhodném backendu ho lze svázat se seznamem povolených modelů, velikostí požadavků, souběžností a celkovým rozpočtem. Vývojové a produkční oprávnění musí zůstat oddělené. Ověření i odečítání rozpočtu musí probíhat na důvěryhodné straně, nikoli pomocí nastavení nebo kontroly v nedůvěryhodném prostředí.
Pokud nedůvěřujete správci hostitele, považujte za potenciálně čitelné či pozměnitelné vše, co na něm běží. Patří sem přístupové údaje, požadavky i odpovědi. Krátkodobý přístup může zmenšit škodu po úniku, ale nezabrání samotnému úniku. Kontejner, distribuovaná binárka ani obfuskace nezajistí utajení před správcem hostitele.
Cílem tedy není umístit hlavní tajný klíč do nedůvěryhodného prostředí a doufat, že ho nikdo nezíská. Cílem je, aby se tam hlavní klíč vůbec nedostal a případný únik omezeného vývojového přístupu šel odvolat a měl jasný finanční strop. Citlivý vývoj by měl zůstat v důvěryhodném prostředí.
Nedoporučuje se ani přímé spojení z nedůvěryhodného VPS do současné gateway bez autentizace, byť přes SSH tunel. Při krádeži přihlašovací identity by mohl být tento limit obejit. Pokud je tunel nutný, měl by vést pouze k omezenému vývojovému vstupu, nikoli k původní gateway nebo jiným interním službám.
Veřejná zkušební verze: nabídněte funkci, ne obecný přístup k modelům
Pro miniaplikaci WeChat je vhodnější tato cesta:
Miniaplikace → stávající důvěryhodný backend (přihlášení, limity, agent) → soukromé spojení → gateway → model.
Přihlášení lze opřít o běžný postup WeChat: klient získá dočasný přihlašovací kód, který ověří server; ten pak vytvoří vlastní přihlášení aplikace. Klíč relace session_key se nemá posílat do klienta.9
Miniaplikace by měla odesílat jen popis pracovní pozice, požadavky na ni a nezbytné údaje o zkušenostech uživatele. Nemá obsahovat hlavní přístupový klíč ke gateway ani umožňovat libovolnou volbu modelu, systémových pokynů nebo nástrojů.
Místo neomezeného chatovacího prostředníka přidejte do stávajícího backendu konkrétní funkci, například „vylepšit osobní přednosti“. Backend pak může pevně určit výběr modelů, šablonu pokynů, povolené vyhledávání i formát výstupu.
Identitu uživatele získávejte z ověřeného přihlášení, ne z identifikátoru poslaného v těle požadavku. Úlohy, kontext a limity veďte po jednotlivých uživatelích, aby se nemohla zaměnit historie konverzace.
Nastavte limit pro každého uživatele, maximální počet volání modelu a nástrojů na jednu úlohu, délku vstupu i výstupu a také celkový rozpočet zkušebního provozu s možností rychlého vypnutí. Bezplatné testování neznamená testování bez finančního stropu.
Vícekrokový agent by měl běžet na backendu a každým krokem čerpat stejný rozpočet úlohy. Limity se musí vztahovat i na opakování požadavků, zrušení a časové limity, aby se náklady nemohly násobit nekonečnou smyčkou. Pokud backend běží ve více procesech, rezervaci a vyúčtování limitu je třeba koordinovat například transakcemi v existující databázi; jinak si každý proces může počítat vlastní část rozpočtu.
Miniaplikace může dál používat stávající doménu HTTPS pro služby. Běžná síťová komunikace v miniaplikaci WeChat vyžaduje předem nastavit povolené domény, takže není nutné zpřístupňovat doménu gateway přímo klientovi.7
Soukromé spojení a odezva: nejdřív využijte stávající tunel
Pokud backend a gateway běží na stejném důvěryhodném hostiteli, upřednostněte lokální spojení. Pokud jsou na dvou serverech, v první fázi lze znovu použít stávající trvalý SSH tunel. Backend by přes něj měl volat gateway; tunel se nemá zakládat znovu při každém požadavku.
SSH přístup by měl být určen jen k přeposílání portů a omezen na konkrétní cílový port. Gateway má naslouchat na lokální adrese a při výpadku tunelu má volání odmítnout, nikoli přejít na nechráněný veřejný vstup. Prázdný klíč pro volání lze ponechat pouze uvnitř takto řízeného spojení, pokud jsou důvěryhodné i ostatní procesy na daném hostiteli. Každý vstup dostupný z nedůvěryhodného prostředí musí samostatné oprávnění skutečně ověřovat.
O WireGuardu má smysl uvažovat až tehdy, pokud měření ukáže, že se stávající tunel stal úzkým hrdlem. WireGuard podporuje ověřování protistran pomocí klíčů a šifrování, to však samo o sobě nedokazuje, že bude konkrétní spojení rychlejší.12
16
Tento návrh nepřidává externího prostředníka ani další vrstvu reverzní proxy. Backend by měl znovu využívat spojení, průběžně předávat streamovaný výstup a přenášet přerušení spojení z miniaplikace do právě běžící úlohy.
Skutečný dopad na odezvu zatím nelze určit bez měření. Sledujte zvlášť síťovou dobu mezi backendem a gateway, čas do první části výstupu a celkovou dobu úlohy. Porovnávejte medián i vyšší percentily. Skutečnou trasu z Číny ke gateway a následně k poskytovateli modelu je nutné ověřit samostatně.
„Rychlý model“ také nelze vybírat pouze podle názvu. Stávající test kandidátů podle popisu vyžaduje, aby přednastavení zachovalo režim hloubkového zpracování, vysokou úroveň uvažování a podrobné odpovědi. Test navíc nedokládá dostupnost skutečného poskytovatele modelu ani jeho latenci (internal/upstream/studioglobal/registry_fast_models_test.go, ř. 9 a 53). Pro vylepšování osobních předností proto dává smysl navrhnout a změřit samostatné, lehčí přednastavení, místo úprav stávajícího vývojového nastavení.
Doporučené pořadí kroků
- Omezte naslouchání gateway a ověřte, že se k ní z internetu ani z nedůvěryhodného vývojového prostředí nelze dostat mimo backend.
- V důvěryhodném backendu oddělte dvě skupiny oprávnění: omezený vývojový přístup a přístup pro veřejnou zkušební funkci. Každá musí mít vlastní oprávnění a rozpočet.
- Zaveďte limity pro agenta, rezervaci rozpočtu, předávání zrušení úloh a streamovaný výstup. Zachovejte celkový rozpočtový strop.
- Ověřte, že požadavky bez přihlášení a s odvolaným přístupem jsou odmítnuty, vývojové oprávnění nedosáhne na správu, po vyčerpání limitu se volání zastaví a kontext uživatelů zůstane oddělený. Otestujte také, že vícekrokové úlohy a opakování nepřekročí svůj limit.
- Spusťte malý zkušební provoz, změřte odezvu a teprve potom rozhodujte o změně soukromého spojení nebo rozdělení instancí.
Co tento návrh neřeší
Jde o architektonické doporučení, nikoli o provedenou implementaci či ověřené bezpečné nasazení. Návrh nepočítá s okamžitým zavedením load balanceru, service meshe ani trvalé platformy pro agenty; přijatým kompromisem je omezená kapacita a možnost výpadku jediné instance.
Před veřejným zpřístupněním je také nutné ověřit, zda podmínky poskytovatele modelu dovolují nabídnout veřejné testování, a vyjasnit skutečné zpracování osobních údajů a související povinnosti. Uživatelé by měli posílat jen potřebné, pokud možno identifikačně omezené informace; celý životopis ani přístupové údaje se nemají zaznamenávat.
Základní pravidlo je jednoduché: zdrojový kód a hlavní tajné údaje zůstávají v důvěryhodném prostředí, vývojáři dostávají omezené oprávnění a uživatelé aplikace pouze konkrétní obchodní funkci. Nejdřív vyřešte ověřování, rozpočty a hranice úloh — další vrstvy infrastruktury přidávejte až tehdy, když je skutečně potřebujete.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "AI gateway nepatří přímo na internet. Jak ji bezpečně zapojit do vývoje i aplikace"?
Gateway i hlavní přístupové údaje mají zůstat na důvěryhodném serveru; nedůvěryhodné vývojové prostředí má dostat jen omezený a odvolatelný přístup.
What are the key points to validate first?
Gateway i hlavní přístupové údaje mají zůstat na důvěryhodném serveru; nedůvěryhodné vývojové prostředí má dostat jen omezený a odvolatelný přístup. Miniaplikace WeChat by měla volat konkrétní funkci přes stávající důvěryhodný backend, nikoli získat přímý přístup k obecné AI gateway.
What should I do next in practice?
Nejdřív zabezpečte ověřování, limity a rozpočty. Stávající SSH tunel lze použít pro soukromé spojení; případnou vyšší režii je třeba změřit.