AnswersPublished16 sources
Jeden AI gateway pro vývoj i miniaplikaci: jak oddělit přístup a klíče
Pro vývojové nástroje a miniaplikaci není nutné provozovat dva gatewaye. Mohou sdílet jednu přístupovou vrstvu, ale musí mít oddělené klíče a oprávnění.
PublikovalObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Pro vývojové nástroje a miniaplikaci není nutné provozovat dva gatewaye. Mohou sdílet jednu přístupovou vrstvu, ale musí mít oddělené klíče a oprávnění.
- Klíč k modelům ani serverový přístupový klíč nepatří do klientské miniaplikace. Volání modelů má zprostředkovat její stávající backend.
- Při malém počtu vývojářských přístupů může stačit rozšířit současný backend. Pro správu klíčů a kvót lze prověřit jeden samostatný gateway, například New API nebo LiteLLM.
- Gateway sám o sobě neřeší limity jednotlivých uživatelů ani rozpočty úloh Agenta; ty zůstávají odpovědností aplikačního backendu.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/ySLMZsrSDBTccvCwpZTVG73koRc2/images/EAE3483F02C4E18623A6/51890A64D8422D67DDA4.png)
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"不需要独立开发两个服务：这是两个权限不同的接入场景，可以共用一个访问控制层。小程序的模型调用地址和服务密钥应配置在已有业务后端，不是小程序客户端。\n\n 1.. Topic tags: general web, openai, llm, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make i
Nemusíte vyvíjet dvě samostatné služby. Jde o dva různé způsoby přístupu ke stejnému modelovému zázemí, takže mohou využívat jednu přístupovou vrstvu. Musí však mít oddělené přihlašovací údaje a oprávnění. U miniaplikace navíc patří adresa modelové služby i serverový klíč do jejího backendu, nikoli do klientské aplikace.
Jak si rozdělit jednotlivé části
Místo budování zvláštního systému pro každý scénář je praktičtější rozdělit odpovědnosti do tří vrstev:
| Vrstva | Co zajišťuje | Doporučené umístění |
|---|---|---|
| Řízení přístupu k AI | Vývojářské a serverové klíče, oprávnění k modelům, kvóty a předávání požadavků | V existujícím backendu, nebo v jedné samostatné přístupové službě |
| Backend miniaplikace | Přihlášení uživatelů, práci s jejich osobními údaji, uživatelské limity a rozpočty úloh Agenta | V dosavadním backendu miniaplikace |
| Aurora gateway | Přizpůsobení protokolu a volání modelů | V soukromém nasazení |
Pro vývojové prostředí potřebujete omezený vstupní bod pro volání modelů. U miniaplikace jde o propojení jejího backendu s modelovou službou a případné doplnění limitů pro uživatele a úlohy. Pokud už backend Agenta máte, není důvod vyvíjet ho znovu. Samotné zadání parametrů pro volání ale ještě neznamená, že jsou nastaveny uživatelské kvóty nebo izolace úloh.
Kam patří adresa API a klíče
| Kde se volání nastavuje | Kam míří adresa | Jaké přihlašovací údaje použít |
|---|---|---|
| Nedůvěryhodný VPS pro vývoj | K omezenému vstupnímu bodu v důvěryhodném prostředí | Samostatný vývojářský klíč pro každé prostředí |
| Klient miniaplikace | K backendu miniaplikace | Uživatelská relace; žádný klíč ke gatewayi |
| Backend miniaplikace | K soukromé přístupové službě nebo přímo k soukromému Aurora gatewayi | Samostatný serverový klíč nebo zabezpečená interní identita |
| Přístupová služba | K soukromému Aurora gatewayi | Interní přístupové údaje; vývojářský klíč se dál nepředává |
Vývojářský klíč, klíč backendu a přihlašovací údaje k nadřazené službě musí být oddělené. Pokud vývojářský nástroj běží na nedůvěryhodném stroji, jeho klíč může být odhalen. Omezení proto musí vynucovat důvěryhodná služba, nikoli samotný vývojový VPS.
Dvě možnosti nasazení
A. Rozšířit stávající backend
- Vývojový nástroj → omezený vstupní bod ve stávajícím backendu → soukromý Aurora.
- Miniaplikace → její stávající backend → soukromý Aurora.
Oba scénáře mohou sdílet modul řízení přístupu, databázi i spojení k modelové službě, aniž by přibyl další proces. To je rozumná cesta, pokud máte jen několik vývojářských přístupů a nepotřebujete administrační rozhraní pro správu klíčů.
Počítejte ale s tím, že budete muset sami zajistit například rušení klíčů, souběžné odečítání kvót, předávání streamovaných odpovědí a propagaci zrušení požadavku. Nejde tedy jen o doplnění dvou konfiguračních položek.
B. Nasadit jednu samostatnou přístupovou službu
- Vývojový nástroj → samostatná přístupová služba → soukromý Aurora.
- Miniaplikace → její stávající backend → tatáž přístupová služba → soukromý Aurora.
Služba běží v důvěryhodném prostředí, například jako samostatný proces nebo kontejner na VPS. Vývojové prostředí a backend miniaplikace dostanou různé klíče. Přístupová služba se stará o obecnou správu volání; backend miniaplikace nadále řeší uživatele a úlohy Agenta.
Není třeba provozovat zvláštní přístupovou službu pro každou cestu ani ji vkládat přímo do zdrojového kódu Aurora.
Otevřené projekty k prověření
New API: správa klíčů přes rozhraní
New API je otevřený AI gateway. Dokumentace popisuje nasazení přes Docker, nastavení kanálů a volání přes rozhraní kompatibilní s OpenAI.3
4
- Dokumentace uvádí kvóty API klíčů, omezení modelů a správu klíčů včetně jejich vytváření, úprav a mazání.
12
15
- Aurora lze prověřit jako vlastní nadřazenou službu a vytvořit oddělený klíč pro vývojáře a backend. Konkrétní propojení s Aurora je ale potřeba prakticky ověřit.
- Pokud chcete omezit množství vlastní práce na správě klíčů a jejich kvót, je to kandidát, kterého má smysl prověřit jako prvního.
LiteLLM Proxy: programově nastavovaný gateway
LiteLLM nabízí samostatně hostovaný gateway s rozhraním kompatibilním s OpenAI, podporou vlastních kompatibilních služeb a správou virtuálních klíčů.8
10
5
- Podle dokumentace je pro funkce ověřování a sledování, jako jsou klíče, uživatelé a využití, potřeba PostgreSQL. Při odhadu nasazení proto nepočítejte s tím jako s proxy bez databáze.
11
- Může být vhodný k prověření, pokud už PostgreSQL používáte a chcete správu zaměřenou na konfiguraci a více modelů.
Jde o možnosti, jejichž funkce dokládá dokumentace, nikoli o ověřené potvrzení kompatibility s Aurora. Samotný výběr projektu také nezaručuje požadovanou bezpečnost ani latenci.
Co zůstává na backendu miniaplikace
Ani po nasazení otevřeného gatewaye nezmizí potřeba aplikačních pravidel. Backend miniaplikace má dál řešit:
- identitu uživatele, přiřazení úloh a oddělení historie;
- zkušební kvótu pro každého uživatele a maximální počet volání modelů či nástrojů na jednu úlohu;
- timeouty, zrušení požadavku, opakování volání a možnost rychle službu vypnout;
- minimalizaci osobních údajů a jejich odstranění z protokolů.
Pokud backend používá jeden společný serverový klíč, celkový limit tohoto klíče není totéž jako samostatný limit pro každého uživatele miniaplikace.
Před nasazením prověřte streamovaný výstup, volání nástrojů, vlastní názvy modelů, účtování využití a chování rozpočtových limitů při souběhu a opakovaných pokusech. Zkontrolujte také, zda neexistuje cesta, která obejde administrační rozhraní nebo vede přímo do Aurora.
Doporučení podle situace
- Pokud přistupujete z několika vývojových prostředí, začněte rozšířením stávajícího backendu. Přibude nejméně provozních částí.
- Pokud chcete hotové rozhraní pro vydávání klíčů a správu modelových oprávnění a kvót, nejprve ověřte jednu instanci New API. Backend miniaplikace pak stále potřebuje vlastní logiku uživatelů a úloh.
- Nekombinujte bez důvodu New API a LiteLLM. Další vrstva sama o sobě nezaručuje nulový dopad na latenci.
Vnější HTTPS lze vést přes stávající důvěryhodný vstupní bod. Pokud ho nemáte, je nutné zajistit TLS. Interní volání bez klíče připadá v úvahu pouze v přísně řízené soukromé síti; takový přístup nesmí být dostupný nedůvěryhodným klientům.
Rozsah doporučení: nejde o návrh na přepis miniaplikace, Agenta ani jádra Aurora, ani o budování systému pro vyvažování zátěže. Jde o doporučení k integraci a výběru řešení; nebyly změněny soubory, nasazena služba ani ověřena provozní kompatibilita.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Jeden AI gateway pro vývoj i miniaplikaci: jak oddělit přístup a klíče"?
Pro vývojové nástroje a miniaplikaci není nutné provozovat dva gatewaye. Mohou sdílet jednu přístupovou vrstvu, ale musí mít oddělené klíče a oprávnění.
What are the key points to validate first?
Pro vývojové nástroje a miniaplikaci není nutné provozovat dva gatewaye. Mohou sdílet jednu přístupovou vrstvu, ale musí mít oddělené klíče a oprávnění. Klíč k modelům ani serverový přístupový klíč nepatří do klientské miniaplikace. Volání modelů má zprostředkovat její stávající backend.
What should I do next in practice?
Při malém počtu vývojářských přístupů může stačit rozšířit současný backend. Pro správu klíčů a kvót lze prověřit jeden samostatný gateway, například New API nebo LiteLLM.