Il gateway si posiziona dietro Cloudflare Access. Prima che una richiesta raggiunga un provider di modelli AI, l'utente deve autenticarsi tramite il provider di identità (IdP) già in uso nell'organizzazione . Quando la richiesta arriva attraverso un dominio personalizzato protetto da Access, Cloudflare verifica l'utente e lo stato del dispositivo, quindi scrive l'ID utente Access verificato nei metadati della richiesta come cf.user_id .
Questo sostituisce le chiavi API anonime e condivise che rendevano impossibile attribuire le richieste a persone o sistemi specifici . I team IT ora sanno esattamente chi ha inviato un prompt a quale modello, a che ora e da quale dispositivo.
Una volta associate le identità, il gateway sblocca una gestione dei costi granulare:
L'identità da sola non basta: le aziende hanno bisogno anche di barriere di sicurezza:
Cloudflare sta estendendo i controlli basati sull'identità agli agenti autonomi:
Il servizio è ora disponibile in beta aperta. Come ha riassunto Dane Knecht, CTO di Cloudflare: "I team hanno la libertà di lavorare con qualsiasi modello AI scelgano. L'IT ottiene la visibilità in tempo reale, le barriere di sicurezza e i controlli di budget di cui ha realmente bisogno" .