AnswersPublished14 sources
Näin rajaat AI-yhdyskäytävän kehittäjille ja avoimelle kokeilulle
Pidä lähdekoodi, yhdyskäytävä ja mallipalveluiden pääavaimet luotetuissa ympäristöissä; älä vie pääavaimia kehittäjän epäluotetulle palvelimelle. Tarjoa WeChatin miniohjelmalle liiketoimintatoimintoja, älä yleiskäyttöistä malliyhdyskäytävää.
JulkaisijaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Pidä lähdekoodi, yhdyskäytävä ja mallipalveluiden pääavaimet luotetuissa ympäristöissä; älä vie pääavaimia kehittäjän epäluotetulle palvelimelle.
- Tarjoa WeChatin miniohjelmalle liiketoimintatoimintoja, älä yleiskäyttöistä malliyhdyskäytävää.
- Rajaa jokaisen kehittäjän ja käyttäjän oikeudet, mallivalikoima, rinnakkaisuus ja kulutusbudjetti.
- Aloita olemassa olevalla SSH tunnelilla, mittaa viive käytännössä ja lisää infrastruktuuria vasta todetun tarpeen mukaan.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/X2Iv9UzutJWrB6MyNYnoFEwyNX93/images/B46231A279305D82E030/F351DDBF81DB11332C64.png)
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"在你确认的边界下，推荐统一采用“网关留在可信 VPS，现有可信业务后端负责对外接入”的架构：不可信开发环境只获得受限调用权限，小程序只访问业务接口。无需先建设 Nginx、负载均衡或复杂防火墙体系，但不能承诺绝对零时延损失。\n\n 先指出当前代码的安全缺口\n\n 当前启动入口默认监听所有网卡，而不是仅本机。依. Topic tags: general web, code, api, security, data. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Suositeltu lähtökohta on pitää AI-yhdyskäytävä luotetulla VPS-palvelimella ja käyttää olemassa olevaa, luotettua liiketoiminnan taustapalvelua ulospäin näkyvänä rajapintana. Epäluotettava kehitysympäristö saa vain rajatun käyttöoikeuden, ja miniohjelma kutsuu liiketoiminnan APIa — ei suoraan yleiskäyttöistä yhdyskäytävää.
Tämä ei edellytä heti Nginxiä, kuormantasaajaa tai monimutkaista palomuuriratkaisua. Toisaalta ehdoton lupaus nollasta lisäviiveestä ei olisi perusteltu: viive pitää mitata omassa ympäristössä.
Nykyisessä toteutuksessa on ensin paikattavia aukkoja
- Käynnistyspiste kuuntelee oletuksena kaikissa verkkoliitännöissä, ei vain paikallisessa osoitteessa. (
main.go, rivi 122.) Luotetulla VPS:llä yhdyskäytävä kannattaa sitoa loopback-osoitteeseen eikä julkaista sitä suoraan internetiin. - Pääreitityksessä ei ole kutsujan tunnistusta, ja siinä on rekisteröity myös malliluettelo-, tilasto- ja kaksi keskustelureittiä. (
internal/api/chat.go, rivi 1804.) Se, että asiakas täyttää avaimen, ei vielä tarkoita, että käyttö olisi suojattu. - Vanhassa tunnistusvälikerroksessa on Gin-kehysriippuvuus, mutta nykyinen käynnistyspolku käyttää tavallisia HTTP-reittejä. Luetussa pääreitityksessä välikerrosta ei käytetä. (
middlewares/auth.go, rivi 9;main.go, rivi 148.) Vanhan tunnistusasetuksen määrittäminen ei siis yksin osoita, että nykyinen sisääntulo tarkistaa oikeudet. - Nykyinen käyttöoikeus- ja pääsyrajoitusasetus on merkitty paikalliseen kokeiluun, ja asiakaskohtaisen rajan arvoksi on asetettava nolla. Sitä ei voi pitää valmiina tuotantokäyttöön tarkoitettuna monen käyttäjän rajoituksena. (
internal/chatadmission/config.go, rivit 41 ja 95.)
1. Kehittäjälle etäkäyttö — ei yhdyskäytävää epäluotetulle palvelimelle
Suositeltu yhteysketju on: epäluotettava kehitys-VPS → rajattu HTTPS-sisääntulo luotetussa taustapalvelussa → yksityinen yhteys → yhdyskäytävä luotetulla VPS:llä.
Lähdekoodi, käännösprosessi, yhdyskäytävän ajettava instanssi ja mallipalveluiden tunnukset pysyvät luotetussa ympäristössä. Epäluotettavalle palvelimelle annetaan vain yhteysosoite ja erillinen kehityskäyttöön tarkoitettu tunniste.
Kehityksen sisääntulossa voi säilyttää asiakkaan tarvitsemat keskusteluprotokollan osat, mutta sen tulee avata vain tarvittavat HTTP-metodit, reitit ja mallit. Tilasto-, hallinta-, käyttäjätili- ja mielivaltaista välityskäyttöä ei pidä tarjota.
Anna jokaiselle kehitysympäristölle erikseen peruutettava, lyhytaikainen tunniste. Rajaa siihen sallitut mallit, pyyntöjen koko, rinnakkaisten kutsujen määrä ja kokonaisbudjetti. Kehitystunnisteet eivät saa olla samoja kuin tuotannon tunnisteet. Tunnisteen tarkistus ja budjetin vähentäminen on tehtävä luotetussa taustapalvelussa, ei epäluotettavan ympäristön omassa koodissa.
Luottamusraja on syytä sanoa suoraan: jos palvelimen ylläpitäjään ei luoteta, samalla palvelimella olevat tunnisteet, pyynnöt ja vastaukset on oletettava mahdollisesti luettaviksi tai muokattaviksi. Lyhyt voimassaoloaika ei estä tunnisteen vuotamista, mutta se voi rajata vuodon seurauksia. Kontti, jaeltu binaari tai koodin hämärtäminen ei suojaa salaisuuksia palvelimen ylläpitäjältä.
Tavoitteena ei siis ole säilyttää pääavainta epäluotettavalla VPS:llä turvallisesti, vaan pitää pääavain poissa sieltä ja rajata mahdollisen vuodon vaikutukset. Aidosti arkaluonteinen kehitystyö kannattaa pitää luotetussa ympäristössä.
Älä avaa nykyistä tunnistamatonta yhdyskäytävää suoraan SSH-tunnelin kautta epäluotettavalle palvelimelle. Jos tunnelin tunniste varastetaan, sillä voidaan ohittaa suunniteltuja rajoituksia. Jos tunnelia on pakko käyttää, sen päätepisteeksi sopii vain rajattu kehityssisääntulo — ei raaka yhdyskäytävä tai muu yksityisverkon palvelu.
2. Avoin miniohjelmakokeilu — liiketoimintatoimintoja, ei yleiskäyttöistä APIa
WeChatin miniohjelmalla tarkoitetaan WeChatin sisällä toimivaa sovellusta. Suositeltu yhteysketju on: miniohjelma → luotettu liiketoiminnan taustapalvelu (kirjautuminen, kiintiöt ja agentti) → yksityinen yhteys → yhdyskäytävä → mallipalvelu.
Miniohjelmassa kannattaa käyttää liiketoimintapalvelun kirjautumistilaa. WeChatin kirjautumisprosessissa asiakas saa väliaikaisen kirjautumistunnisteen, jonka palvelin vaihtaa käyttäjätunnisteeksi ja jonka pohjalta se luo oman kirjautumistilan. Istuntoavainta ei pidä toimittaa asiakkaalle. 9
Asiakas voi lähettää esimerkiksi työpaikkailmoituksen, tehtävän vaatimukset ja tarvittavat tiedot käyttäjän kokemuksesta. Se ei saa yhdyskäytävän pääavainta, eikä käyttäjän pidä voida valita mielivaltaista mallia, järjestelmäkehotetta tai työkalua.
Toteuta taustapalveluun rajattu liiketoimintatoiminto, kuten ”henkilökohtaisten vahvuuksien muotoilu”. Palvelin valitsee sallitun mallin ja kehotepohjan sekä rajaa haun, käytettävät työkalut ja vastausmuodon. Älä välitä asiakkaan pyyntöä rajoittamattomalle keskusteluagentille.
Tunnista käyttäjä palvelimen vahvistaman kirjautumistilan perusteella — älä luota pyynnön rungossa ilmoitettuun käyttäjätunnukseen. Hallitse tehtävien tietoja, keskustelukontekstia ja kiintiöitä käyttäjäkohtaisesti, jotta eri käyttäjien historia ei sekoitu.
Aseta käyttäjäkohtaiset kiintiöt, tehtäväkohtaiset mallikutsujen ja työkalukutsujen enimmäismäärät, syötteen ja tulosteen ylärajat sekä koko kokeilun budjettikatto ja välitön pysäytyskytkin. Kokeilu voi olla maksuton, mutta sen kulut eivät saa olla rajoittamattomia.
Suorita monivaiheinen agenttityö taustapalvelussa ja laske jokainen vaihe saman tehtäväbudjetin piiriin. Myös peruutukset, aikakatkaisut ja uudelleenyritykset on rajattava, jotta agentti ei kasvata käyttöä hallitsemattomasti. Jos palvelussa on useita taustaprosesseja, kiintiön varaaminen ja lopullinen veloitus on hallittava esimerkiksi olemassa olevan tietokannan transaktioilla. Yksittäisten prosessien erilliset laskurit eivät takaa yhteistä budjettikattoa.
Miniohjelma voi käyttää jo olemassa olevaa HTTPS-liiketoimintadomainia. WeChat edellyttää tavallisessa verkkoliikenteessä sallittujen palvelindomainien ennakkomääritystä, joten yhdyskäytävän domainia ei tarvitse julkaista miniohjelmalle. 7
3. Yksityinen yhteys ja viive: hyödynnä ensin nykyinen SSH-tunneli
Jos liiketoiminnan taustapalvelu ja yhdyskäytävä ovat samalla luotetulla koneella, käytä ensisijaisesti paikallista yhteyttä. Jos ne ovat eri luotetuilla palvelimilla, ensimmäisessä vaiheessa voi käyttää olemassa olevaa jatkuvaa SSH-tunnelia. Tunnelia ei pidä avata uudelleen jokaiselle pyynnölle.
Käytä SSH:ssa vain porttien välitykseen tarkoitettua erillistä tunnistetta ja rajaa, mihin porttiin se saa yhdistää. Sido yhdyskäytävä paikalliseen osoitteeseen. Jos tunneli katkeaa, kutsut on hylättävä — älä vaihda automaattisesti suojaamattomaan julkiseen yhteyteen.
Tyhjä kutsuavain voi olla hyväksyttävä vain jo hallitulla sisäisellä yhteydellä, kun myös saman koneen muut prosessit kuuluvat luottamusrajaan. Epäluotettaville ympäristöille näkyvän sisääntulon on puolestaan aina tarkistettava erillinen tunniste.
Harkitse WireGuardia kahden luotetun palvelimen välille vasta, jos SSH-tunnelin mittaukset osoittavat siitä muodostuvan pullonkaula. WireGuard tukee avainpareihin perustuvaa todennusta ja salausta, mutta tämä ei itsessään osoita yhteyden olevan omassa ympäristössä nopeampi. 12
16
Erillistä kolmannen osapuolen välityspalvelua tai uutta käänteistä välityspalvelinta ei tarvita tähän lähtömalliin. Taustapalvelun kannattaa käyttää yhteyksiä uudelleen, välittää suoratoistovastaukset viivyttelemättä ja viedä miniohjelman yhteyden katkeaminen käynnissä olevalle tehtävälle.
Lisäviiveestä ei ole tässä vaiheessa riittävästi näyttöä. Mittaa erikseen taustapalvelun ja yhdyskäytävän välinen verkkoviive, ensimmäisen vastausosan saapumiseen kuluva aika sekä koko tehtävän kesto. Vertaa mediaania ja suuria prosenttipisteitä. Myös Manner-Kiinasta yhdyskäytävään ja edelleen mallipalveluun kulkeva reitti pitää tarkistaa erikseen.
Myöskään ”nopean mallin” nimeä ei pidä pitää suorituskykytestinä. Nykyinen ehdokasmallitesti edellyttää, että esiasetukset säilyttävät syvän tilan, vahvan päättelyn ja yksityiskohtaisen tulosteen. Testi ei osoita todellisen mallipalvelun saatavuutta tai viivettä. (internal/upstream/studioglobal/registry_fast_models_test.go, rivit 9 ja 53.) Suunnittele ja mittaa henkilökohtaisten vahvuuksien muotoiluun oma kevyt esiasetus sen sijaan, että muuttaisit nykyistä kehitysesiasetusta.
4. Toteutusjärjestys ja hyväksymistestit
- Rajaa yhdyskäytävän kuunteluosoite ja varmista, ettei siihen pääse suoraan internetistä tai epäluotettavasta kehitysympäristöstä.
- Luo luotettuun taustapalveluun kaksi erillistä käyttöoikeusaluetta: rajattu kehittäjäkäyttö ja julkinen kokeilupalvelu. Hallitse niiden tunnisteita ja budjetteja erikseen.
- Toteuta rajattu agenttitehtävä, kiintiön varaus, peruutuksen välittyminen ja suoratoistovastaus sekä palvelun kokonaisbudjetti.
- Testaa, että puuttuva tai peruutettu tunniste hylätään, kehittäjäoikeudella ei pääse hallintareiteille, kiintiön täyttyminen pysäyttää käytön, käyttäjien kontekstit pysyvät erillään ja agentin vaiheet tai uudelleenyritykset eivät ylitä tehtäväbudjettia.
- Aloita pienellä kokeilulla, mittaa viive ja päätä vasta tulosten perusteella, tarvitaanko toinen yhteystapa tai erillinen instanssi.
Rajaukset ja avoimet kysymykset
Tässä esitetään arkkitehtuurisuositus, ei varmennettua käyttöönottoa. Ehdotus ei sisällä toteutusta, käyttöönottoa, testien suorittamista eikä ADR- tai suunnitelmatiedostojen kirjoittamista.
Ensimmäisessä vaiheessa ei ole tarkoitus rakentaa kuormantasausta, palveluverkkoa tai pysyvää agenttialustaa. Yhden instanssin kapasiteettiraja ja vikatilanteet ovat tietoisia kompromisseja.
Ennen julkista avaamista on selvitettävä, sallivatko mallipalveluiden ehdot kokeilun tarjoamisen yleisölle sekä mihin käyttäjien henkilötiedot kulkevat ja mitä vaatimuksia niiden käsittelyyn liittyy. Näistä asioista ei ole tässä riittävästi näyttöä. Pyydä käyttäjältä vain tarpeelliset tiedot, pyri poistamaan niistä tunnistettavuus ja vältä koko ansioluettelon tai tunnistetietojen tallentamista lokeihin.
Ydinratkaisu: pääavaimet ja lähdekoodi pysyvät luotetuissa ympäristöissä, kehittäjille annetaan rajatut oikeudet ja miniohjelmalle vain tarvittava liiketoimintatoiminto. Aloita tunnistamisen, budjettien ja tehtävärajojen kuntoon laittamisesta — älä lisää infrastruktuurikerroksia ilman mitattua tarvetta.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Näin rajaat AI-yhdyskäytävän kehittäjille ja avoimelle kokeilulle"?
Pidä lähdekoodi, yhdyskäytävä ja mallipalveluiden pääavaimet luotetuissa ympäristöissä; älä vie pääavaimia kehittäjän epäluotetulle palvelimelle.
What are the key points to validate first?
Pidä lähdekoodi, yhdyskäytävä ja mallipalveluiden pääavaimet luotetuissa ympäristöissä; älä vie pääavaimia kehittäjän epäluotetulle palvelimelle. Tarjoa WeChatin miniohjelmalle liiketoimintatoimintoja, älä yleiskäyttöistä malliyhdyskäytävää.
What should I do next in practice?
Rajaa jokaisen kehittäjän ja käyttäjän oikeudet, mallivalikoima, rinnakkaisuus ja kulutusbudjetti.