JawabanDipublikasikan14 sumber
Pisahkan akses pengembang dan pengguna saat membuka layanan AI
Jangan tempatkan kode sumber, gateway, atau kredensial utama di VPS pengembangan yang tidak tepercaya. Arahkan mini program ke backend bisnis untuk login, batas pemakaian, dan tugas AI—bukan langsung ke gateway.
Diterbitkan olehGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Jangan tempatkan kode sumber, gateway, atau kredensial utama di VPS pengembangan yang tidak tepercaya.
- Arahkan mini program ke backend bisnis untuk login, batas pemakaian, dan tugas AI—bukan langsung ke gateway.
- Tinjau autentikasi dan batas anggaran sebelum membuka akses; konfigurasi yang ada belum membuktikan keduanya sudah aman.
- Gunakan koneksi privat yang sudah tersedia, lalu ukur latensi sebelum mempertimbangkan infrastruktur tambahan.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/X2Iv9UzutJWrB6MyNYnoFEwyNX93/images/B46231A279305D82E030/F351DDBF81DB11332C64.png)
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"在你确认的边界下，推荐统一采用“网关留在可信 VPS，现有可信业务后端负责对外接入”的架构：不可信开发环境只获得受限调用权限，小程序只访问业务接口。无需先建设 Nginx、负载均衡或复杂防火墙体系，但不能承诺绝对零时延损失。\n\n 先指出当前代码的安全缺口\n\n 当前启动入口默认监听所有网卡，而不是仅本机。依. Topic tags: general web, code, api, security, data. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Membuka akses AI kepada pengembang dan pengguna uji coba tidak harus berarti membuka gateway untuk semua orang. Rancangan yang disarankan adalah menjaga gateway dan kredensial utama di VPS tepercaya, lalu menjadikan backend bisnis sebagai pintu masuk bagi pengembang maupun aplikasi.
Pendekatan ini tidak menjanjikan latensi tanpa tambahan sama sekali. Namun, akses dan anggaran bisa dibatasi tanpa harus langsung menambah load balancer, reverse proxy, atau lapisan infrastruktur lain.
Tinjau dulu celah pada konfigurasi saat ini
Sebelum membuka layanan, ada beberapa hal yang perlu diperiksa:
- Entri startup saat ini mendengarkan di semua antarmuka jaringan, bukan hanya alamat lokal. Karena itu, untuk gateway di VPS tepercaya, ikat layanan ke alamat loopback agar tidak langsung terekspos ke internet. Lihat
main.go. - Rute utama belum menunjukkan autentikasi pemanggil dan juga mendaftarkan rute katalog model, statistik, serta dua jalur chat. Jangan berasumsi bahwa meminta klien mengisi kunci berarti akses sudah terlindungi. Lihat
internal/api/chat.go. - Proyek memiliki middleware autentikasi lama untuk Gin, tetapi jalur startup saat ini menggunakan router HTTP standar; rute utama yang ditinjau tidak memanggil middleware tersebut. Mengatur variabel lingkungan lama saja belum membuktikan bahwa pintu masuk aktif sudah aman. Lihat
middlewares/auth.godanmain.go. - Konfigurasi penerimaan chat yang ada ditandai sebagai uji coba lokal dan menetapkan batas per klien ke nol. Ini bukan bukti bahwa pembatasan multi-pengguna siap untuk produksi. Lihat
internal/chatadmission/config.godaninternal/chatadmission/config.go.
Untuk pengembang: akses terbatas, bukan gateway di VPS mereka
Alur yang disarankan: VPS pengembangan yang tidak tepercaya → endpoint pengembangan HTTPS terbatas di backend tepercaya → koneksi privat → gateway di VPS tepercaya.
Simpan kode sumber, proses build, instance gateway, dan kredensial upstream di lingkungan tepercaya. VPS pengembangan cukup menerima alamat endpoint dan kredensial khusus untuk pengembangan.
Endpoint itu dapat mempertahankan protokol chat yang dibutuhkan klien, tetapi batasi metode, rute, dan model yang boleh dipakai. Jangan berikan akses ke statistik, fungsi administratif, penerusan permintaan tanpa batas, atau kemampuan akun. Terbitkan kredensial terpisah untuk setiap lingkungan pengembangan; buat kredensial dapat dicabut dan berumur pendek, serta batasi model, ukuran permintaan, konkurensi, dan anggaran kumulatifnya. Pisahkan kredensial pengembangan dari kredensial layanan produksi.
Pemeriksaan kredensial dan pengurangan anggaran harus dilakukan di backend tepercaya. Jangan mengandalkan konfigurasi atau pemeriksaan yang berjalan di lingkungan yang tidak tepercaya.
Ada batas yang penting: jika administrator host tidak tepercaya, anggap kredensial, permintaan, dan respons di host tersebut bisa dibaca atau diubah. Kredensial sementara membatasi potensi kerugian, tetapi tidak mencegah pencurian. Kontainer biasa, distribusi biner, atau obfuscation juga bukan jaminan kerahasiaan dari administrator host.
Jadi, tujuannya bukan menyimpan kunci utama di lingkungan yang tidak mungkin dibobol. Tujuannya adalah memastikan kunci utama tidak pernah masuk ke sana, sementara izin pengembangan dapat dicabut dan dampak kebocorannya dibatasi. Materi pengembangan yang benar-benar sensitif sebaiknya tetap berada di lingkungan tepercaya.
Hindari memberi VPS pengembangan akses lewat terowongan SSH langsung ke gateway yang belum memiliki autentikasi. Jika identitas untuk terowongan itu dicuri, pembatasan bisa terlewati. Bila terowongan diperlukan, arahkan hanya ke endpoint pengembangan yang sudah dibatasi—bukan ke gateway mentah atau layanan privat lain.
Untuk uji coba publik: buka fitur bisnis, bukan gateway serbaguna
Alur yang disarankan: mini program WeChat → backend bisnis tepercaya untuk login, kuota, dan Agent → koneksi privat → gateway → model upstream.
Ikuti mekanisme login bisnis yang sudah ada. Dalam alur resmi WeChat, klien memperoleh kode login sementara, kemudian server menukarkannya untuk mendapatkan identitas pengguna dan membuat sesi login sendiri. Kunci sesi tidak seharusnya dikirim ke klien.9
Mini program cukup mengirim deskripsi pekerjaan, persyaratan posisi, dan pengalaman pribadi yang diperlukan. Jangan tempatkan kunci utama gateway di aplikasi, atau izinkan pengguna memilih model, prompt sistem, maupun alat secara bebas. Buat endpoint bisnis khusus—misalnya untuk mengoptimalkan sorotan pribadi—dan tetapkan pilihan model, templat prompt, kemampuan pencarian yang diizinkan, serta format keluaran di backend. Hindari membuat proksi chat tanpa batas.
Backend harus menentukan identitas dari sesi login yang sudah diverifikasi, bukan dari ID pengguna yang dikirim dalam isi permintaan. Kelola tugas, konteks, dan kuota per pengguna agar riwayat tidak tercampur.
Tetapkan kuota per pengguna, jumlah maksimum pemanggilan model dan alat untuk setiap tugas, batas masukan dan keluaran, serta anggaran uji coba keseluruhan dan tombol penghentian darurat. Uji coba gratis tetap memerlukan batas anggaran. Jika Agent menjalankan beberapa langkah, setiap langkah harus mengurangi anggaran tugas yang sama. Pembatalan, timeout, dan percobaan ulang juga perlu dibatasi agar proses eksplorasi tidak memperbanyak pemanggilan tanpa kendali.
Jika backend berjalan di beberapa proses, gunakan transaksi pada basis data yang sudah tersedia untuk mengelola reservasi dan penyelesaian kuota. Jangan biarkan setiap proses menghitung batas anggarannya sendiri-sendiri.
Mini program dapat terus memakai domain HTTPS bisnis yang ada. WeChat mensyaratkan domain server yang diizinkan dikonfigurasi lebih dulu untuk komunikasi jaringan biasa, sehingga mini program tidak perlu diberi domain gateway secara langsung.7
Koneksi privat dan latensi: mulai dari terowongan SSH yang ada
Jika backend dan gateway berada di host tepercaya yang sama, gunakan koneksi lokal. Jika berada di dua host berbeda, tahap pertama dapat memakai terowongan SSH persisten yang sudah tersedia. Backend tepercaya mengakses gateway melalui terowongan itu; jangan membuat terowongan baru untuk setiap permintaan.
Gunakan identitas SSH khusus yang hanya diberi izin penerusan port, lalu batasi tujuan port-nya. Gateway sebaiknya terikat ke alamat lokal. Jika terowongan putus, hentikan permintaan—jangan beralih ke endpoint publik yang tidak terlindungi. Kunci pemanggilan kosong hanya layak dipertimbangkan untuk jalur internal yang memang sudah terkendali, dan jika proses lain di host tersebut juga berada dalam lingkup tepercaya. Endpoint yang dapat dijangkau lingkungan tidak tepercaya tetap harus memeriksa kredensial tersendiri.
Pertimbangkan WireGuard untuk koneksi langsung antardua host tepercaya hanya jika pengukuran menunjukkan terowongan yang ada menjadi hambatan. WireGuard mendukung autentikasi dan enkripsi berbasis kunci peer, tetapi itu bukan bukti bahwa koneksi tertentu pasti lebih cepat.12
16
Rancangan ini tidak membutuhkan layanan perantara pihak ketiga atau reverse proxy tambahan. Backend bisnis sebaiknya menggunakan kembali koneksi, meneruskan keluaran streaming dengan cepat, dan meneruskan sinyal ketika pengguna mini program terputus agar tugas yang sedang berjalan bisa ditangani.
Belum ada dasar untuk memastikan besarnya latensi tambahan. Ukur waktu jaringan dari backend ke gateway, waktu hingga keluaran pertama, dan durasi tugas secara keseluruhan. Bandingkan nilai median dan persentil tinggi. Kondisi rute dari Tiongkok daratan ke gateway dan model upstream juga perlu diuji secara terpisah.
Jangan menilai model “cepat” hanya dari namanya. Pengujian kandidat yang ada mensyaratkan mode mendalam, penalaran tinggi, dan keluaran terperinci tetap digunakan; pengujian itu juga tidak membuktikan ketersediaan atau latensi upstream sebenarnya. Lihat internal/upstream/studioglobal/registry_fast_models_test.go dan internal/upstream/studioglobal/registry_fast_models_test.go. Buat dan uji preset bisnis yang lebih ringan khusus untuk fitur pengoptimalan sorotan, tanpa langsung mengubah preset pengembangan yang ada.
Urutan penerapan dan pemeriksaan
- Batasi alamat dengar gateway. Pastikan internet publik dan VPS pengembangan yang tidak tepercaya tidak dapat melewati backend untuk mengaksesnya.
- Buat dua cakupan izin di backend tepercaya: pemanggilan pengembangan terbatas dan akses fitur uji coba publik. Kelola kredensial serta anggarannya secara terpisah.
- Terapkan Agent dengan batas yang jelas, reservasi kuota, penerusan pembatalan, dan keluaran streaming. Pertahankan batas anggaran keseluruhan.
- Uji bahwa permintaan tanpa kredensial atau dengan kredensial yang sudah dicabut ditolak; akses pengembangan tidak dapat membuka rute administratif; tugas berhenti saat kuota habis; konteks tiap pengguna terpisah; dan langkah Agent maupun percobaan ulang tidak menembus anggaran tugas.
- Mulai dengan uji coba kecil dan ukur latensi. Baru setelah itu pertimbangkan perubahan transport privat atau pemisahan instance.
Rancangan ini belum mencakup penerapan, pengujian, atau perubahan kode; ini adalah rekomendasi arsitektur, bukan bukti bahwa konfigurasi produksi sudah aman. Tahap pertama juga tidak mencakup load balancing, service mesh, atau platform Agent permanen. Konsekuensinya, ada batas kapasitas dan risiko gangguan pada satu instance.
Sebelum uji coba dibuka untuk umum, pastikan terlebih dahulu apakah ketentuan upstream mengizinkan akses publik, ke mana data pengalaman pribadi mengalir, dan persyaratan kepatuhan apa yang berlaku. Hal-hal tersebut belum dapat dipastikan dari informasi yang tersedia. Kirim hanya informasi yang diperlukan dan, jika memungkinkan, hapus identitas yang tidak dibutuhkan; jangan mencatat isi CV lengkap atau kredensial.
Intinya: kode sumber dan kunci utama tetap di lingkungan tepercaya; pengembang menerima izin terbatas; mini program menerima fitur bisnis; dan komunikasi internal memakai koneksi privat yang terkendali. Prioritaskan autentikasi, batas anggaran, dan batas tugas sebelum menambah lapisan infrastruktur.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Pisahkan akses pengembang dan pengguna saat membuka layanan AI"?
Jangan tempatkan kode sumber, gateway, atau kredensial utama di VPS pengembangan yang tidak tepercaya.
Apa poin penting yang harus divalidasi terlebih dahulu?
Jangan tempatkan kode sumber, gateway, atau kredensial utama di VPS pengembangan yang tidak tepercaya. Arahkan mini program ke backend bisnis untuk login, batas pemakaian, dan tugas AI—bukan langsung ke gateway.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Tinjau autentikasi dan batas anggaran sebelum membuka akses; konfigurasi yang ada belum membuktikan keduanya sudah aman.