AnswersPublished16 sources
Un gateway AI, due tipi di accesso: come gestire chiavi e quote
Non serve sviluppare due gateway: un unico livello di accesso può gestire entrambi i flussi, con credenziali e permessi distinti. La mini app deve chiamare il backend esistente; chiavi del gateway e credenziali a monte vanno conservate in ambienti fidati.
Pubblicato daImmagini generate con GPT Image 2
Research answer
Key takeaways
- Non serve sviluppare due gateway: un unico livello di accesso può gestire entrambi i flussi, con credenziali e permessi distinti.
- La mini app deve chiamare il backend esistente; chiavi del gateway e credenziali a monte vanno conservate in ambienti fidati.
- Integrare il controllo accessi nel backend riduce i componenti; un gateway dedicato può offrire funzionalità di gestione già pronte.
- New API e LiteLLM sono opzioni da valutare, ma la compatibilità con Aurora e i limiti di budget vanno verificati nel proprio ambiente.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/ySLMZsrSDBTccvCwpZTVG73koRc2/images/EAE3483F02C4E18623A6/51890A64D8422D67DDA4.png)
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"不需要独立开发两个服务：这是两个权限不同的接入场景，可以共用一个访问控制层。小程序的模型调用地址和服务密钥应配置在已有业务后端，不是小程序客户端。\n\n 1.. Topic tags: general web, openai, llm, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make i
Un solo livello di accesso, non due servizi separati
Gli ambienti di sviluppo e la mini-app hanno esigenze diverse, ma non per questo richiedono due sistemi di accesso indipendenti. Possono condividere un unico livello di controllo, usando chiavi, permessi e limiti distinti.
La divisione più utile è per responsabilità:
| Livello | Cosa gestisce | Dove tenerlo |
|---|---|---|
| Accesso AI | Chiavi, modelli consentiti, quote e inoltro delle richieste | Nel backend esistente oppure in un gateway dedicato |
| Backend della mini-app | Login, dati degli utenti, attività dell’agente e budget per utente o attività | Nel backend già in uso |
| Gateway Aurora | Adattamento del protocollo e chiamate ai modelli | Nell’ambiente privato |
In pratica, per lo sviluppo serve un ingresso limitato ai modelli; per la mini-app occorre collegare il backend al servizio AI e, se ancora mancano, aggiungere i controlli sui budget. Un agente già presente non va riscritto solo per collegarlo al gateway: la configurazione di una chiamata, però, non crea automaticamente quote per utente o isolamento tra attività.
Dove impostare indirizzi e credenziali
| Componente | Indirizzo di destinazione | Credenziale da usare |
|---|---|---|
| VPS di sviluppo non fidata | Endpoint di sviluppo limitato, ospitato in un ambiente fidato | Chiave di sviluppo dedicata a quell’ambiente |
| Client della mini-app | Backend applicativo esistente | Sessione o credenziale di login dell’utente, mai la chiave del gateway |
| Backend della mini-app | Servizio privato di accesso AI oppure Aurora, secondo l’architettura scelta | Chiave di servizio distinta o identità interna controllata |
| Servizio di accesso | Aurora privato | Configurazione interna, senza inoltrare la chiave dello sviluppatore |
Le chiavi di sviluppo, quelle del backend e le credenziali verso i modelli devono restare separate. Una VPS non fidata potrebbe esporre la propria chiave: per questo i limiti vanno applicati da un servizio fidato, non lasciati alla buona condotta dell’ambiente di sviluppo.
Due architetture possibili
A. Integrare i controlli nel backend esistente
Il flusso può essere:
- strumenti di sviluppo → endpoint di sviluppo limitato del backend → Aurora privato;
- mini-app → endpoint applicativo del backend → Aurora privato.
Si condivide il modulo di controllo, insieme alle risorse già presenti, senza aggiungere un nuovo processo. È l’opzione più essenziale quando gli accessi di sviluppo sono pochi e non serve un pannello per amministrare le chiavi.
Il rovescio della medaglia è che il backend dovrà gestire direttamente revoca delle chiavi, addebito concorrente delle quote, inoltro delle risposte in streaming e propagazione delle richieste di annullamento. Non è quindi solo una questione di compilare due campi di configurazione.
B. Aggiungere un gateway di accesso dedicato
In questo caso:
- gli strumenti di sviluppo chiamano il gateway dedicato, che inoltra le richieste ad Aurora;
- la mini-app chiama il backend applicativo, che a sua volta usa lo stesso gateway.
Il gateway va eseguito in un ambiente fidato, per esempio come processo o container su una VPS controllata. Sviluppo e backend applicativo devono avere credenziali diverse. Il gateway gestisce le chiamate e le chiavi; il backend continua a occuparsi degli utenti e delle attività dell’agente.
Non serve installare un gateway per ciascun flusso né integrarlo nel codice sorgente di Aurora. L’obiettivo è aggiungere un solo punto di accesso condiviso, mantenendo separati i ruoli.
New API e LiteLLM: cosa valutare
New API, se conta la gestione visuale delle chiavi
New API è un gateway AI open source. La documentazione descrive il deployment con Docker, la configurazione dei canali e un endpoint compatibile con OpenAI.3
4
Le funzioni documentate comprendono limiti di quota e restrizioni sui modelli per le chiavi, oltre a operazioni per crearle, aggiornarle ed eliminarle.12
15 Aurora può essere valutato come possibile upstream personalizzato, ma l’integrazione concreta va provata: il supporto non è da considerare verificato in anticipo.
1
È una prima opzione da testare se si vuole ridurre il codice di amministrazione e avere strumenti per distribuire e limitare le chiavi di sviluppo.
LiteLLM Proxy, se si preferisce una configurazione più programmabile
LiteLLM offre un gateway autogestito con interfaccia compatibile con OpenAI, supporto per upstream compatibili e gestione di chiavi virtuali.8
10
5
Per le funzioni di autenticazione e tracciamento descritte nella documentazione di deployment è richiesto PostgreSQL. Questo va incluso nella stima dell’infrastruttura: non è corretto considerarlo automaticamente un proxy senza dipendenze dati.11
Può valere la pena provarlo se PostgreSQL è già disponibile e servono configurazioni gestibili via codice o il supporto a più modelli. Come per New API, la compatibilità con Aurora e i requisiti di esercizio vanno verificati sul caso concreto.
Un gateway non sostituisce i controlli applicativi
Anche adottando un progetto open source, il backend della mini-app deve continuare a gestire:
- identità dell’utente, titolarità delle attività e isolamento dello storico;
- quote di prova per utente e massimali per attività, incluse chiamate ai modelli e agli strumenti;
- timeout, annullamento, tentativi ripetuti e possibilità di disattivare il servizio in emergenza;
- minimizzazione dei dati personali e rimozione di informazioni sensibili dai log.
C’è una distinzione importante: se il backend usa una sola chiave di servizio condivisa, il tetto complessivo su quella chiave non equivale a una quota separata per ogni utente della mini-app.
Prima di scegliere, conviene verificare streaming, uso degli strumenti, nomi personalizzati dei modelli, conteggio dei consumi e rispetto dei budget in caso di richieste concorrenti o tentativi ripetuti. Anche la console di amministrazione e gli endpoint diretti di Aurora vanno considerati: non devono diventare vie per aggirare i controlli.
Quale strada scegliere
- Pochi ambienti di sviluppo: integrare il controllo nel backend esistente riduce i componenti da gestire.
- Gestione delle chiavi tramite pannello: provare una singola istanza di New API; il backend della mini-app dovrà comunque occuparsi degli utenti e dei limiti per attività.
- Configurazione programmabile e PostgreSQL già disponibile: valutare LiteLLM Proxy.
Non è necessario sovrapporre New API e LiteLLM. Aggiungere un livello intermedio non garantisce, da solo, che la latenza resti invariata. Se esiste già un ingresso HTTPS fidato, può essere riutilizzato; altrimenti va previsto TLS. Una configurazione interna senza chiave è accettabile solo su un collegamento privato e strettamente controllato, mai su un endpoint accessibile a client non fidati.
L’intervento qui descritto non richiede di riscrivere la mini-app o l’agente, né di modificare il nucleo di Aurora o costruire un sistema di bilanciamento. La scelta tra integrazione e gateway dedicato è una proposta architetturale: la compatibilità e il funzionamento effettivo vanno verificati nell’ambiente di destinazione.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Un gateway AI, due tipi di accesso: come gestire chiavi e quote"?
Non serve sviluppare due gateway: un unico livello di accesso può gestire entrambi i flussi, con credenziali e permessi distinti.
What are the key points to validate first?
Non serve sviluppare due gateway: un unico livello di accesso può gestire entrambi i flussi, con credenziali e permessi distinti. La mini app deve chiamare il backend esistente; chiavi del gateway e credenziali a monte vanno conservate in ambienti fidati.
What should I do next in practice?
Integrare il controllo accessi nel backend riduce i componenti; un gateway dedicato può offrire funzionalità di gestione già pronte.