JawabanDipublikasikan16 sumber
Satu lapisan akses AI bisa melayani pengembang dan aplikasi
Kebutuhan pengembangan dan aplikasi dapat berbagi satu lapisan kontrol akses, dengan kredensial dan izin yang berbeda. Simpan alamat layanan model dan kunci rahasia di backend tepercaya.
Diterbitkan olehGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Kebutuhan pengembangan dan aplikasi dapat berbagi satu lapisan kontrol akses, dengan kredensial dan izin yang berbeda.
- Simpan alamat layanan model dan kunci rahasia di backend tepercaya. Klien aplikasi cukup berkomunikasi dengan backend bisnis.
- Integrasikan kontrol akses ke backend yang sudah ada untuk meminimalkan komponen, atau evaluasi satu layanan mandiri seperti New API atau LiteLLM.
- Gerbang AI tidak otomatis menggantikan pengaturan identitas pengguna, batas anggaran per tugas, dan pemisahan riwayat di backend aplikasi.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/ySLMZsrSDBTccvCwpZTVG73koRc2/images/EAE3483F02C4E18623A6/51890A64D8422D67DDA4.png)
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"不需要独立开发两个服务：这是两个权限不同的接入场景，可以共用一个访问控制层。小程序的模型调用地址和服务密钥应配置在已有业务后端，不是小程序客户端。\n\n 1.. Topic tags: general web, openai, llm, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make i
Intinya: satu kontrol akses, bukan dua layanan terpisah
Akses dari lingkungan pengembangan dan dari aplikasi memiliki tingkat kepercayaan serta kebutuhan yang berbeda. Namun, itu tidak berarti Anda harus membangun dua sistem. Keduanya bisa memakai satu lapisan kontrol akses, selama menggunakan kredensial dan batas izin yang terpisah.
Untuk aplikasi mini, alamat layanan model dan kunci rahasia sebaiknya berada di backend bisnis yang sudah ada—bukan di kode klien. Dengan begitu, klien berkomunikasi dengan backend, dan backend yang mengatur panggilan ke layanan model.
Bagi sistem berdasarkan tanggung jawab
| Lapisan | Tanggung jawab | Bentuk yang disarankan |
|---|---|---|
| Kontrol akses AI | Mengelola kunci, izin model, batas penggunaan, dan penerusan permintaan | Modul di backend yang ada atau satu layanan akses mandiri |
| Backend aplikasi | Login pengguna, pengolahan data pengguna, kuota pengguna, dan anggaran tugas Agent | Tetap di backend aplikasi yang sudah ada |
| Gateway Aurora | Adaptasi protokol dan panggilan ke model | Tetap berjalan secara privat |
Untuk kebutuhan pengembangan, yang diperlukan adalah jalur pemanggilan model dengan izin terbatas. Untuk aplikasi, yang diperlukan adalah koneksi dari backend bisnis ke layanan model, ditambah pengendalian anggaran per pengguna atau per tugas jika belum tersedia.
Jika backend Anda sudah menjalankan Agent, Anda tidak perlu membangunnya ulang. Namun, sekadar mengisi konfigurasi pemanggilan model belum berarti kuota pengguna dan batas tiap tugas sudah diterapkan.
Alamat API dan kunci: simpan di tempat yang tepat
| Lokasi konfigurasi | Alamat tujuan | Kredensial yang digunakan |
|---|---|---|
| VPS pengembangan yang tidak tepercaya | Titik masuk pengembangan dengan izin terbatas di lingkungan tepercaya | Kunci pengembangan tersendiri untuk tiap lingkungan |
| Klien aplikasi mini | Backend aplikasi yang sudah ada | Sesi atau token login pengguna; bukan kunci gateway |
| Backend aplikasi | Layanan akses privat atau Aurora privat | Kunci layanan tersendiri atau identitas internal pada jalur yang terkendali |
| Layanan akses | Aurora privat | Konfigurasi panggilan internal; jangan meneruskan kunci pengembangan |
Kunci pengembangan, kunci layanan backend, dan kredensial ke layanan hulu harus dipisahkan. Jika lingkungan pengembangan tidak tepercaya, kuncinya mungkin dapat dicuri. Karena itu, pembatasan harus dijalankan oleh layanan tepercaya, bukan bergantung pada perilaku VPS pengembangan.
Dua cara menerapkannya
Opsi A: integrasikan ke backend yang ada
Alurnya:
- Lingkungan pengembangan → titik masuk pengembangan terbatas di backend → Aurora privat.
- Aplikasi mini → titik masuk bisnis di backend → Aurora privat.
Kedua jalur bisa berbagi modul kontrol akses, basis data, dan kumpulan koneksi tanpa menambah proses layanan baru. Ini cocok jika hanya ada sedikit kredensial pengembangan dan Anda tidak memerlukan panel pengelolaan kunci.
Komprominya, tim perlu menangani sendiri hal-hal seperti pencabutan kunci, pengurangan kuota yang aman saat ada permintaan bersamaan, penerusan respons streaming, dan penerusan pembatalan permintaan. Jadi, ini bukan sekadar menambahkan dua nilai konfigurasi.
Opsi B: gunakan satu layanan akses mandiri
Alurnya:
- Lingkungan pengembangan → layanan akses mandiri → Aurora privat.
- Aplikasi mini → backend yang ada → layanan akses yang sama → Aurora privat.
Layanan ini ditempatkan di VPS tepercaya sebagai proses atau kontainer terpisah. Lingkungan pengembangan dan backend aplikasi menggunakan kunci yang berbeda. Layanan akses menangani pengelolaan panggilan yang bersifat umum, sedangkan backend aplikasi tetap mengelola pengguna dan tugas Agent.
Tidak perlu memasang layanan terpisah untuk masing-masing kebutuhan, ataupun memasukkan layanan akses tersebut ke dalam kode inti Aurora.
Proyek sumber terbuka yang bisa dievaluasi
New API: layak diperiksa untuk pengelolaan kunci lewat panel
New API adalah gateway AI sumber terbuka. Dokumentasinya menyediakan panduan deployment Docker, konfigurasi kanal model, dan titik panggilan yang kompatibel dengan OpenAI.3
4
Dokumentasi New API juga menjelaskan pengelolaan token, termasuk kuota, pembatasan model, serta pembuatan, pembaruan, dan penghapusan token.12
15 Aurora dapat diuji sebagai kandidat sumber model khusus, dengan kunci pengembangan dan kunci layanan aplikasi yang dibuat terpisah. Namun, kompatibilitas kanalnya tetap perlu diuji langsung.
1
Jika prioritas Anda adalah mengurangi pekerjaan pengembangan untuk pengelolaan kunci dan batas penggunaannya, New API patut menjadi kandidat awal untuk diuji.
LiteLLM Proxy: cocok dipertimbangkan untuk pengaturan terprogram
LiteLLM menawarkan gateway mandiri yang kompatibel dengan OpenAI, dukungan untuk sumber kompatibel OpenAI, dan pengelolaan virtual key.8
10
5
Ada satu kebutuhan infrastruktur yang perlu diperhitungkan: dokumentasi deployment LiteLLM menyebut PostgreSQL diperlukan untuk fitur autentikasi dan pelacakan seperti kunci, pengguna, tim, dan penggunaan.11 Karena itu, jangan menganggapnya sebagai proxy ringan yang tidak memerlukan basis data.
LiteLLM dapat dievaluasi jika Anda sudah memiliki PostgreSQL dan mengutamakan konfigurasi terprogram serta pengelolaan beberapa model.
Dokumentasi tersebut mendukung fitur yang disebutkan, tetapi bukan bukti bahwa salah satu proyek sudah terbukti kompatibel dengan Aurora Anda. Kecocokan teknis, keamanan, dan latensi perlu diverifikasi dalam lingkungan sendiri.
Hal yang tetap perlu ditangani backend aplikasi
Walaupun memakai gateway sumber terbuka, backend aplikasi tetap perlu mengatur:
- Identitas pengguna, kepemilikan tugas, dan pemisahan riwayat.
- Kuota uji coba per pengguna serta batas jumlah panggilan model dan penggunaan alat untuk setiap tugas.
- Batas waktu, pembatalan, percobaan ulang, dan mekanisme untuk menghentikan penggunaan secara darurat.
- Pembatasan data pengalaman pribadi yang dikirim serta penyamaran data sensitif dalam log.
Perhatikan juga bahwa jika semua pengguna aplikasi memakai satu kunci layanan backend, batas kuota kunci tersebut tidak otomatis menjadi kuota terpisah untuk setiap pengguna.
Dalam pengujian, periksa keluaran streaming, penggunaan alat, nama model khusus, pencatatan penggunaan, serta batas anggaran saat permintaan berjalan bersamaan atau dicoba ulang. Pastikan pula panel administrasi dan Aurora tidak menjadi jalur alternatif untuk melewati kontrol akses.
Rekomendasi singkat
- Hanya ada sedikit lingkungan pengembangan: integrasikan kontrol akses ke backend yang sudah ada agar komponen tambahan tetap minimal.
- Perlu panel untuk mengelola kunci, izin model, dan kuota: uji satu instans New API. Backend aplikasi tetap perlu menangani kebutuhan bisnis dan batas tiap tugas.
- Sudah menggunakan PostgreSQL dan lebih menyukai konfigurasi terprogram: evaluasi LiteLLM Proxy.
Hindari menambahkan New API dan LiteLLM sekaligus tanpa kebutuhan yang jelas. Satu lapisan tambahan tidak menjamin latensi tetap sama. HTTPS dapat menggunakan titik masuk tepercaya yang sudah tersedia; jika belum ada, TLS tetap harus disiapkan. Koneksi internal tanpa kunci hanya layak untuk jalur privat yang benar-benar terkendali, bukan untuk klien yang tidak tepercaya.
Di luar cakupan: membangun ulang aplikasi mini atau Agent, mengubah inti Aurora, dan membuat sistem penyeimbang beban. Rekomendasi ini membahas integrasi dan pilihan layanan; tidak ada layanan yang dipasang atau diuji kompatibilitasnya.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Satu lapisan akses AI bisa melayani pengembang dan aplikasi"?
Kebutuhan pengembangan dan aplikasi dapat berbagi satu lapisan kontrol akses, dengan kredensial dan izin yang berbeda.
Apa poin penting yang harus divalidasi terlebih dahulu?
Kebutuhan pengembangan dan aplikasi dapat berbagi satu lapisan kontrol akses, dengan kredensial dan izin yang berbeda. Simpan alamat layanan model dan kunci rahasia di backend tepercaya. Klien aplikasi cukup berkomunikasi dengan backend bisnis.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Integrasikan kontrol akses ke backend yang sudah ada untuk meminimalkan komponen, atau evaluasi satu layanan mandiri seperti New API atau LiteLLM.