AnswersPublished14 sources
Yapay zekâ ağ geçidini korumanın yolu: istemciye değil, arka uca güvenin
Ağ geçidi, kaynak kodu ve anahtarlar güvenilir VPS ortamında kalmalı; güvenilmeyen geliştirme ortamına yalnızca sınırlandırılmış ve iptal edilebilir erişim verilmeli. Mini uygulama doğrudan genel amaçlı ağ geçidine değil, mevcut arka uçtaki giriş, kota ve görev sınırlarını uygulayan işlev odaklı bir API’ye bağlanmalı.
YayımlayanGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Ağ geçidi, kaynak kodu ve anahtarlar güvenilir VPS ortamında kalmalı; güvenilmeyen geliştirme ortamına yalnızca sınırlandırılmış ve iptal edilebilir erişim verilmeli.
- Mini uygulama doğrudan genel amaçlı ağ geçidine değil, mevcut arka uçtaki giriş, kota ve görev sınırlarını uygulayan işlev odaklı bir API’ye bağlanmalı.
- İlk adım yeni bir proxy veya VPN kurmak değil; mevcut SSH tünelini korumalı biçimde kullanmak, kimlik doğrulamayı ve bütçe sınırlarını tamamlamak olmalı.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/X2Iv9UzutJWrB6MyNYnoFEwyNX93/images/B46231A279305D82E030/F351DDBF81DB11332C64.png)
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"在你确认的边界下，推荐统一采用“网关留在可信 VPS，现有可信业务后端负责对外接入”的架构：不可信开发环境只获得受限调用权限，小程序只访问业务接口。无需先建设 Nginx、负载均衡或复杂防火墙体系，但不能承诺绝对零时延损失。\n\n 先指出当前代码的安全缺口\n\n 当前启动入口默认监听所有网卡，而不是仅本机。依. Topic tags: general web, code, api, security, data. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Bir yapay zekâ ağ geçidini güvenli biçimde sunmak için her kullanıcıya doğrudan erişim vermek gerekmiyor. Önerilen yaklaşım, ağ geçidini ve anahtarları güvenilir sunucularda tutarken geliştirme ortamlarına sınırlı yetki vermek; mini uygulamayı ise yalnızca ihtiyaç duyduğu işlevlere açmak.
Bu düzen, ilk aşamada yeni bir ters proxy, yük dengeleyici ya da karmaşık ağ katmanları kurmayı gerektirmiyor. Ancak ek gecikmenin kesinlikle sıfır olacağı da söylenemez: bunu gerçek bağlantı ve görev süreleriyle ölçmek gerekir.
Önce mevcut giriş noktalarını güvenli hâle getirin
İncelenen proje bağlamında üç önemli uyarı öne çıkıyor:
- Başlatma kodu varsayılan olarak yalnızca yerel makineyi değil, tüm ağ arayüzlerini dinliyor. Güvenilir VPS üzerindeki ağ geçidinin doğrudan internete açılmaması için dinleme adresinin açıkça yerel arayüzle sınırlandırılması öneriliyor. (
main.go) - Ana yönlendiricide çağıran tarafı doğrulayan bir kontrol bulunmadığı, ayrıca model listesi, istatistik ve sohbet yollarının kaydedildiği belirtiliyor. İstemcinin bir anahtar gönderiyor olması, sunucuda bu anahtarın gerçekten doğrulandığı anlamına gelmez. (
internal/api/chat.go) - Projede bulunan eski kimlik doğrulama ara yazılımı Gin için yazılmış; mevcut başlangıç akışı ise standart HTTP yönlendiricisini kullanıyor. Bu nedenle yalnızca eski ara yazılımın ortam ayarlarını yapmak, ana giriş noktasının korunduğunu göstermiyor. (
middlewares/auth.go,main.go)
Ayrıca mevcut kabul yapılandırması yerel denemeler için tasarlanmış ve istemci başına limitin sıfır olması gerektiğini belirtiyor. Dolayısıyla bu yapı, üretimde kullanılabilecek hazır bir çok kullanıcılı hız sınırı olarak değerlendirilmemeli. (internal/chatadmission/config.go, internal/chatadmission/config.go)
Güvenilmeyen geliştirme ortamına ağ geçidini taşımayın
Önerilen akış şu şekilde: Güvenilmeyen geliştirme VPS’i → güvenilir iş arka ucundaki sınırlı HTTPS uç noktası → özel bağlantı → güvenilir VPS’teki ağ geçidi.
Kaynak kodu, derleme süreci, çalışan ağ geçidi ve üst model servislerine ait anahtarlar güvenilir ortamda kalmalı. Geliştirme VPS’i yalnızca gerekli adresi ve ayrı bir geliştirme kimlik bilgisini almalı. Bu kimlik bilgisi iptal edilebilir olmalı; erişimi izin verilen modeller, istek boyutu, eşzamanlı istek sayısı ve toplam bütçeyle sınırlandırılmalı.
Geliştirme uç noktası, mevcut istemcinin ihtiyaç duyduğu sohbet protokolünü sunabilir. Ancak istatistik, yönetim, hesap işlemleri veya sınırsız yönlendirme gibi gereksiz yolları açmamalı. Kimlik doğrulama ve bütçe düşümü de güvenilmeyen makinedeki bir programa değil, güvenilir arka uca dayanmalı.
Buradaki temel sınır açık: Makinenin yöneticisine güvenilmiyorsa, o makinedeki kimlik bilgilerinin ve isteklerin okunabileceği ya da değiştirilebileceği varsayılmalı. Kısa ömürlü bir anahtar sızıntıyı imkânsız kılmaz; yalnızca olası zararı azaltmaya yardımcı olur. Ana anahtarları bu ortama hiç koymamak ve geliştirme yetkisini iptal edilebilir, sınırlı tutmak daha gerçekçi hedeftir. Sıradan bir konteyner, ikili dosya dağıtımı veya kod gizleme, makine yöneticisine karşı gizlilik garantisi sayılmaz.
Güvenilmeyen VPS’ten mevcut, kimlik doğrulamasız ağ geçidine doğrudan SSH tüneli açmak da güvenli bir kestirme değildir. Tünel kimliği ele geçirilirse sınırlar aşılabilir. Tünel kullanılacaksa yalnızca sınırlandırılmış geliştirme uç noktasına erişmeli; ham ağ geçidine veya diğer özel ağ servislerine uzanmamalı.
Mini uygulamaya genel amaçlı ağ geçidi değil, işlev sunun
Mini uygulama için önerilen akış: WeChat mini uygulaması → güvenilir iş arka ucu → özel bağlantı → ağ geçidi → model servisi. Mini uygulama ağ geçidinin anahtarını almamalı; bunun yerine arka uçta tanımlanmış, örneğin “kişisel güçlü yönleri iyileştir” gibi belirli bir işlevi çağırmalı.
WeChat’in belgelediği giriş akışında istemci geçici bir giriş kodu alıp sunucuya gönderir. Sunucu bu kodu kullanıcı kimliğiyle ilişkilendirir ve kendi oturumunu oluşturabilir; session_key ise mini uygulamaya gönderilmemelidir. 9
Arka uç, doğrulanmış oturumdan kullanıcı kimliğini belirlemeli; istek gövdesinde kullanıcının kendi yazdığı kimliğe güvenmemeli. Her görev için model seçenekleri, talimat şablonu, kullanılabilecek araçlar ve çıktı biçimi arka uçta belirlenmeli. Kullanıcıya sınırsız model, sistem talimatı veya araç seçimi sunan genel bir sohbet geçidi açmak bu yaklaşımın dışındadır.
Ücretsiz deneme bile bütçe sınırlarına ihtiyaç duyar. Kullanıcı başına kota, görev başına azami model ve araç çağrısı, girdi ve çıktı boyutu sınırı, genel deneme bütçesi ve acil kapatma seçeneği belirlenmeli. Çok adımlı bir Agent çalıştırması aynı görev bütçesini tüketmeli; iptal, zaman aşımı ve yeniden denemeler de sınırsız çağrı üretmemeli. Birden fazla arka uç süreci varsa kota ayırma ve hesaplama mevcut veri tabanının işlem desteğiyle ortak biçimde yönetilmeli.
Mini uygulamalar normal ağ istekleri için önceden tanımlanmış sunucu alan adlarını kullanır. Bu nedenle uygulamanın doğrudan ağ geçidi alan adına bağlanması gerekmez; mevcut HTTPS iş alan adı kullanılabilir. 7
İlk aşamada mevcut SSH tünelini kullanın, gecikmeyi ölçün
İş arka ucu ve ağ geçidi aynı güvenilir makinedeyse yerel bağlantı tercih edilebilir. Ayrı makinelerdeyse ilk aşamada mevcut, sürekli açık SSH tünelini kullanmak makul; her istek için yeni tünel kurulmamalı. Tünel yalnızca gerekli hedef porta yönlendirme yapabilen özel bir kimlikle çalışmalı. Tünel koptuğunda sistem korumasız bir internet adresine geri dönmemeli.
Boş bir çağrı anahtarı ancak sınırları kontrol edilen iç bağlantıda düşünülebilir; aynı makinedeki diğer süreçlerin de güvenilir olması gerekir. Güvenilmeyen ortamlara açık her uç nokta ise ayrı bir kimliği gerçekten doğrulamalı.
Mevcut tünel ölçümlerde darboğaz oluşturursa, iki güvenilir makine arasında WireGuard değerlendirilebilir. WireGuard eşleri anahtarlarla doğrular ve şifreli tünel sağlar; bu özellikler tek başına bağlantının mutlaka daha hızlı olacağını kanıtlamaz. 12
16
Gecikme konusunda mevcut bilgiler kesin bir sonuç çıkarmaya yetmiyor. Arka uçtan ağ geçidine ağ süresi, ilk çıktı parçasının gelme süresi ve görevin tamamlanma süresi ayrı ayrı ölçülmeli; ortanca ve yüksek yüzdelik değerler karşılaştırılmalı. Kullanılacak modelin “hızlı” diye anılması da yeterli değil: mevcut aday model testi, derin düşünme ve ayrıntılı çıktı gibi ayarları koruyor; gerçek üst servis kullanılabilirliğini veya gecikmesini kanıtlamıyor. (internal/upstream/studioglobal/registry_fast_models_test.go, internal/upstream/studioglobal/registry_fast_models_test.go)
Uygulamayı aşamalı doğrulayın
- Ağ geçidinin dinleme kapsamını daraltın; internetin ve güvenilmeyen geliştirme ortamının arka ucu atlayarak ağ geçidine ulaşamadığını doğrulayın.
- Güvenilir arka uçta geliştirme çağrıları ile mini uygulama denemelerini ayrı yetki ve bütçe alanlarında yönetin.
- Agent görevlerine çağrı sınırı, bütçe ayırma, iptal aktarımı ve akış hâlinde çıktı desteği ekleyin.
- Kimlik bilgisi olmayan veya iptal edilmiş çağrıların reddedildiğini; kota bitince görevin durduğunu; kullanıcı bağlamlarının karışmadığını ve yeniden denemelerin bütçeyi aşmadığını sınayın.
- Küçük bir kullanıcı grubuyla başlayın. Gecikme ve bütçe sonuçlarına göre daha sonra bağlantı yöntemini veya dağıtım yapısını gözden geçirin.
Bu öneri bir mimari planıdır; uygulamanın değiştirildiği veya güvenli dağıtımın doğrulandığı anlamına gelmez. İlk aşamada yük dengeleyici, servis ağı ya da kalıcı bir Agent platformu kurmak hedeflenmiyor; tek örneğin kapasite ve kesinti sınırları kabul ediliyor. Üst model servislerinin herkese açık denemeye izin verip vermediği ve kişisel deneyim verilerinin nasıl işleneceği ise yayın öncesinde ayrıca doğrulanmalı. Gereken en az bilgi gönderilmeli; özgeçmiş metninin tamamı veya kimlik bilgileri gereksiz yere kaydedilmemeli.
Özetle: Anahtarları ve ağ geçidini güvenilir ortamda tutun; geliştiricilere sınırlı erişim, mini uygulamaya ise yalnızca belirli bir işlev verin. Yeni altyapı katmanları eklemeden önce kimlik doğrulamayı, görev sınırlarını ve bütçe denetimini tamamlayın.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Yapay zekâ ağ geçidini korumanın yolu: istemciye değil, arka uca güvenin"?
Ağ geçidi, kaynak kodu ve anahtarlar güvenilir VPS ortamında kalmalı; güvenilmeyen geliştirme ortamına yalnızca sınırlandırılmış ve iptal edilebilir erişim verilmeli.
What are the key points to validate first?
Ağ geçidi, kaynak kodu ve anahtarlar güvenilir VPS ortamında kalmalı; güvenilmeyen geliştirme ortamına yalnızca sınırlandırılmış ve iptal edilebilir erişim verilmeli. Mini uygulama doğrudan genel amaçlı ağ geçidine değil, mevcut arka uçtaki giriş, kota ve görev sınırlarını uygulayan işlev odaklı bir API’ye bağlanmalı.
What should I do next in practice?
İlk adım yeni bir proxy veya VPN kurmak değil; mevcut SSH tünelini korumalı biçimde kullanmak, kimlik doğrulamayı ve bütçe sınırlarını tamamlamak olmalı.