คำตอบเผยแพร่แล้ว14 แหล่งที่มา
วางเกตเวย์ AI อย่างไรให้ปลอดภัย: แยกสิทธิ์นักพัฒนาออกจากบริการในมินิโปรแกรม
เก็บซอร์สโค้ด อินสแตนซ์เกตเวย์ และคีย์หลักไว้ใน VPS ที่เชื่อถือได้ อย่านำไปติดตั้งในสภาพแวดล้อมพัฒนาที่ผู้ดูแลระบบไม่น่าไว้วางใจ ให้นักพัฒนาเรียกใช้ผ่านทางเข้าที่จำกัดสิทธิ์ ส่วนมินิโปรแกรมควรเรียก API สำหรับงานธุรกิจ ไม่ใช่เกตเวย์ AI แบบเปิดกว้าง กำหนดสิทธิ์และงบแยกตามงาน พร้อมจำกัดจำนวนการเรียกโมเดลและเครื่องมือ ร...
เผยแพร่โดยรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- เก็บซอร์สโค้ด อินสแตนซ์เกตเวย์ และคีย์หลักไว้ใน VPS ที่เชื่อถือได้ อย่านำไปติดตั้งในสภาพแวดล้อมพัฒนาที่ผู้ดูแลระบบไม่น่าไว้วางใจ
- ให้นักพัฒนาเรียกใช้ผ่านทางเข้าที่จำกัดสิทธิ์ ส่วนมินิโปรแกรมควรเรียก API สำหรับงานธุรกิจ ไม่ใช่เกตเวย์ AI แบบเปิดกว้าง
- กำหนดสิทธิ์และงบแยกตามงาน พร้อมจำกัดจำนวนการเรียกโมเดลและเครื่องมือ รวมถึงรองรับการยกเลิกงาน
- เริ่มจากการเชื่อมต่อภายในหรือ SSH tunnel ที่มีอยู่ แล้ววัดเวลาใช้งานจริงก่อนพิจารณาเปลี่ยนเทคโนโลยี
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the](https://d15bya8fi85z1v.cloudfront.net/chat/X2Iv9UzutJWrB6MyNYnoFEwyNX93/images/B46231A279305D82E030/F351DDBF81DB11332C64.png)
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you operate via client side tool execution on the. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"在你确认的边界下，推荐统一采用“网关留在可信 VPS，现有可信业务后端负责对外接入”的架构：不可信开发环境只获得受限调用权限，小程序只访问业务接口。无需先建设 Nginx、负载均衡或复杂防火墙体系，但不能承诺绝对零时延损失。\n\n 先指出当前代码的安全缺口\n\n 当前启动入口默认监听所有网卡，而不是仅本机。依. Topic tags: general web, code, api, security, data. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
แนวทางที่เหมาะกับกรณีนี้คือ เก็บเกตเวย์ไว้บน VPS ที่เชื่อถือได้ แล้วให้แบ็กเอนด์ธุรกิจเดิมเป็นจุดเชื่อมต่อหลัก สภาพแวดล้อมพัฒนาที่ไม่น่าไว้วางใจควรได้เพียงสิทธิ์เรียกใช้แบบจำกัด ส่วนมินิโปรแกรมควรเข้าถึงเฉพาะ API สำหรับฟังก์ชันที่ผู้ใช้ต้องการ
วิธีนี้ไม่จำเป็นต้องเริ่มด้วยการเพิ่ม Nginx, load balancer หรือระบบเครือข่ายหลายชั้น แต่ก็ไม่ควรรับปากว่าจะไม่มีเวลาแฝงเพิ่มเลย เพราะต้องทดสอบกับเส้นทางเครือข่ายและงานจริง
ก่อนออกแบบ ควรปิดช่องโหว่ที่มีอยู่
จากโค้ดตามบริบทที่ให้มา มีจุดที่ควรตรวจสอบก่อนเปิดให้ใช้งานจริง:
- จุดเริ่มต้นของโปรแกรมตั้งค่าให้รับการเชื่อมต่อจากทุกอินเทอร์เฟซเครือข่าย ไม่ได้จำกัดเฉพาะเครื่องเดียว (
main.go:122) แนวทางที่แนะนำคือให้เกตเวย์บน VPS ที่เชื่อถือได้ bind กับ loopback และไม่เปิดพอร์ตสู่สาธารณะโดยตรง - เราเตอร์หลักยังไม่มีการตรวจสอบสิทธิ์ผู้เรียก และลงทะเบียนเส้นทางสำหรับรายการโมเดล สถิติ และการแชตหลายรูปแบบ (
internal/api/chat.go:1804) การให้ผู้ใช้กรอกคีย์ในไคลเอนต์อย่างเดียวไม่เท่ากับการตรวจสอบสิทธิ์ที่ทำงานจริง - มีมิดเดิลแวร์ตรวจสอบสิทธิ์เดิมสำหรับ Gin แต่เส้นทางเริ่มทำงานปัจจุบันใช้ HTTP router มาตรฐาน และเราเตอร์หลักที่ตรวจสอบไม่ได้เรียกมิดเดิลแวร์ดังกล่าว (
middlewares/auth.go:9,main.go:148) ดังนั้นการตั้งค่าตัวแปรสภาพแวดล้อมของระบบเดิมอย่างเดียว ยังยืนยันไม่ได้ว่าทางเข้าปัจจุบันได้รับการป้องกัน - ค่าการรับคำขอของระบบที่มีอยู่ระบุว่าเป็นการทดลองในเครื่อง และกำหนดโควตาต่อไคลเอนต์เป็นศูนย์ จึงไม่ควรถือว่าเป็นระบบจำกัดการใช้งานหลายผู้ใช้ที่พร้อมขึ้น production (
internal/chatadmission/config.go:41,internal/chatadmission/config.go:95)
สำหรับนักพัฒนา: ให้เรียกใช้จากระยะไกล ไม่ติดตั้งเกตเวย์บนเครื่องที่ไม่ไว้ใจ
โครงสร้างที่แนะนำคือ VPS พัฒนาที่ไม่น่าไว้วางใจ → ทางเข้าสำหรับนักพัฒนาบนแบ็กเอนด์ที่เชื่อถือได้ → การเชื่อมต่อภายใน → เกตเวย์บน VPS ที่เชื่อถือได้
ซอร์สโค้ด ขั้นตอน build อินสแตนซ์เกตเวย์ และข้อมูลรับรองสำหรับเชื่อมต่อผู้ให้บริการโมเดลควรอยู่ในสภาพแวดล้อมที่เชื่อถือได้เท่านั้น บน VPS พัฒนาควรมีเพียง URL สำหรับเรียกใช้และข้อมูลรับรองเฉพาะการพัฒนา
ทางเข้าสำหรับนักพัฒนาอาจรองรับรูปแบบแชตที่ไคลเอนต์เดิมต้องใช้ แต่ควรเปิดเฉพาะ HTTP method, เส้นทาง และโมเดลที่จำเป็น ไม่ควรเปิดสถิติ ระบบจัดการ การส่งต่อคำขอแบบอิสระ หรือความสามารถด้านบัญชีโดยไม่จำเป็น
ออกข้อมูลรับรองแยกให้แต่ละสภาพแวดล้อม โดยให้เพิกถอนได้และมีอายุสั้น พร้อมกำหนดรายการโมเดล ขนาดคำขอ จำนวนงานพร้อมกัน และงบรวม สิทธิ์สำหรับการพัฒนาต้องแยกจากสิทธิ์ใช้งานจริงอย่างชัดเจน การตรวจสอบคีย์และการหักโควตาต้องเกิดบนแบ็กเอนด์ที่เชื่อถือได้ ไม่ใช่อาศัยการตั้งค่าหรือโปรแกรมตรวจสอบในเครื่องที่ไม่ไว้ใจ
หากผู้ดูแลระบบของเครื่องไม่น่าไว้วางใจ ให้ถือว่าข้อมูลรับรอง คำขอ และคำตอบที่อยู่บนเครื่องนั้นอาจถูกอ่านหรือแก้ไขได้ คีย์ที่มีอายุสั้นช่วยจำกัดความเสียหายเมื่อรั่วไหล แต่ไม่ได้ทำให้คีย์ถูกขโมยไม่ได้ และการใช้คอนเทนเนอร์ แจกจ่ายไบนารี หรือทำให้โค้ดอ่านยาก ไม่ใช่หลักประกันว่าจะปกปิดข้อมูลจากผู้ดูแลเครื่องได้
เป้าหมายจึงไม่ใช่การนำคีย์หลักไปซ่อนไว้ในเครื่องที่ไม่ไว้ใจ แต่คือ ไม่ส่งคีย์หลักไปที่นั่นตั้งแต่แรก และจำกัดความเสียหายจากสิทธิ์พัฒนาที่อาจรั่วไหล หากมีข้อมูลพัฒนาที่อ่อนไหวจริง ควรเก็บและทำงานกับข้อมูลนั้นในสภาพแวดล้อมที่เชื่อถือได้
ไม่แนะนำให้ VPS ที่ไม่ไว้ใจเชื่อมผ่าน SSH tunnel ตรงเข้าเกตเวย์ที่ยังไม่มีการตรวจสอบสิทธิ์ เพราะหากข้อมูลประจำตัวของ tunnel ถูกขโมย ผู้โจมตีอาจข้ามข้อจำกัดได้ หากจำเป็นต้องใช้ tunnel ให้ปลายทางเข้าถึงได้เฉพาะทางเข้าสำหรับนักพัฒนาที่จำกัดสิทธิ์ ไม่ใช่เกตเวย์ดิบหรือบริการภายในอื่น ๆ
สำหรับมินิโปรแกรม: เปิดฟังก์ชันธุรกิจ ไม่เปิดเกตเวย์ทั่วไป
เส้นทางที่แนะนำคือ มินิโปรแกรม WeChat → แบ็กเอนด์ธุรกิจที่เชื่อถือได้ → การเชื่อมต่อภายใน → เกตเวย์ → โมเดล
การเข้าสู่ระบบของมินิโปรแกรมควรใช้กระบวนการของ WeChat: แอปเรียก wx.login() เพื่อรับรหัสชั่วคราว แล้วส่งให้เซิร์ฟเวอร์ตรวจสอบและนำไปสร้างสถานะเข้าสู่ระบบของระบบเอง ส่วน session_key ไม่ควรถูกส่งกลับไปยังไคลเอนต์ 9
ฝั่งมินิโปรแกรมควรส่งเฉพาะรายละเอียดตำแหน่งงาน คุณสมบัติที่ต้องการ และประสบการณ์ส่วนตัวที่จำเป็น ไม่ควรเก็บคีย์หลักของเกตเวย์ หรือให้ผู้ใช้เลือกโมเดล คำสั่งระบบ และเครื่องมือได้อย่างอิสระ
แทนการเปิดแชตพร็อกซีแบบไม่จำกัด ให้เพิ่ม API สำหรับงานเฉพาะ เช่น “ปรับปรุงจุดเด่นของผู้สมัคร” แล้วกำหนดโมเดลที่เลือกใช้ แม่แบบคำสั่ง ความสามารถในการค้นหา และรูปแบบผลลัพธ์ไว้ที่แบ็กเอนด์ ตรวจสอบตัวตนจากสถานะเข้าสู่ระบบที่แบ็กเอนด์ยืนยันแล้ว ไม่เชื่อรหัสผู้ใช้ที่ส่งมาในเนื้อหาคำขอ และแยกงาน บริบท และโควตาตามผู้ใช้เพื่อป้องกันการปะปนของประวัติ
แม้เปิดทดลองใช้โดยไม่คิดเงิน ก็ควรกำหนดเพดานต่อผู้ใช้ จำนวนครั้งที่โมเดลและเครื่องมือถูกเรียกต่อหนึ่งงาน ขนาดข้อมูลเข้าและออก งบรวมทั้งระบบ และสวิตช์หยุดให้บริการฉุกเฉิน สำหรับ Agent ที่ทำงานหลายขั้นตอน ทุกขั้นต้องหักจากงบของงานเดียวกัน รวมถึงการลองใหม่และงานที่ถูกยกเลิก เพื่อไม่ให้ลูปการทำงานเพิ่มการเรียกใช้โดยไร้ขอบเขต
หากแบ็กเอนด์มีหลายโปรเซส การกันวงเงินและสรุปยอดควรจัดการร่วมกันผ่านธุรกรรมของฐานข้อมูลเดิม ไม่ควรให้แต่ละโปรเซสคำนวณงบรวมแยกกัน
มินิโปรแกรมสามารถใช้โดเมน HTTPS ของแบ็กเอนด์ธุรกิจที่มีอยู่ได้ ไม่จำเป็นต้องเปิดโดเมนเกตเวย์ให้แอปโดยตรง โดยทั่วไป WeChat กำหนดให้ตั้งค่าโดเมนเซิร์ฟเวอร์ที่อนุญาตไว้ล่วงหน้าสำหรับการสื่อสารเครือข่ายของมินิโปรแกรม 7
การเชื่อมต่อภายในและเวลาแฝง: เริ่มจาก SSH tunnel ที่มีอยู่
ถ้าแบ็กเอนด์กับเกตเวย์อยู่บนเครื่องที่เชื่อถือได้เครื่องเดียวกัน ให้เชื่อมต่อผ่านเครื่องนั้นโดยตรง หากอยู่คนละเครื่อง ให้เริ่มจาก SSH tunnel แบบทำงานต่อเนื่องที่มีอยู่ แล้วให้แบ็กเอนด์ที่เชื่อถือได้เป็นฝ่ายเรียกเกตเวย์ ไม่ควรตั้ง tunnel ใหม่ทุกครั้งที่มีคำขอ
ควรใช้บัญชี SSH เฉพาะที่มีสิทธิ์เพียงส่งต่อพอร์ต และจำกัดปลายทางให้แคบที่สุด หาก tunnel หลุด ระบบควรปฏิเสธคำขอ ไม่ย้อนกลับไปใช้ทางเข้าที่ไม่มีการป้องกัน นอกจากนี้ การปล่อยให้คีย์เรียกใช้ว่างทำได้เฉพาะบนเส้นทางภายในที่ควบคุมแล้ว และเมื่อโปรเซสอื่นบนเครื่องอยู่ในขอบเขตที่เชื่อถือได้เท่านั้น ทางเข้าที่รับคำขอจากสภาพแวดล้อมไม่ไว้ใจต้องตรวจสอบข้อมูลรับรองแยกต่างหาก
หากผลทดสอบแสดงว่า tunnel ปัจจุบันเป็นคอขวด ค่อยพิจารณา WireGuard สำหรับเชื่อมต่อระหว่างเครื่องที่เชื่อถือได้ WireGuard รองรับการยืนยันตัวตนและเข้ารหัสโดยใช้คีย์ของคู่เชื่อมต่อ แต่ข้อมูลดังกล่าวไม่ได้ยืนยันว่าเส้นทางของระบบนี้จะเร็วขึ้นเสมอ 12
16
ยังไม่มีข้อมูลเพียงพอที่จะระบุเวลาแฝงที่เพิ่มขึ้นจริง ควรวัดเวลาเครือข่ายจากแบ็กเอนด์ถึงเกตเวย์ เวลาจนได้ผลลัพธ์ช่วงแรก และเวลารวมต่อหนึ่งงาน แล้วเปรียบเทียบทั้งค่ามัธยฐานและค่าที่ช้ากว่าปกติ รวมถึงทดสอบเส้นทางจากจีนแผ่นดินใหญ่ไปยังเกตเวย์และผู้ให้บริการโมเดลแยกต่างหาก
อีกประเด็นคืออย่าเลือก “โมเดลเร็ว” จากชื่อเพียงอย่างเดียว การทดสอบโมเดลที่มีอยู่ยังคงใช้การตั้งค่าแบบเจาะลึก เน้นการให้เหตุผลสูง และขอผลลัพธ์ละเอียด อีกทั้งไม่ได้ยืนยันว่าโมเดลฝั่งผู้ให้บริการใช้งานได้จริงหรือมีความหน่วงเท่าใด (internal/upstream/studioglobal/registry_fast_models_test.go:9, :53) ควรออกแบบและทดสอบค่าตั้งต้นที่เบากว่าสำหรับงานปรับจุดเด่นโดยเฉพาะ แยกจากค่าตั้งต้นสำหรับการพัฒนาเดิม
ลำดับดำเนินการและเกณฑ์ตรวจรับ
- จำกัดการ bind ของเกตเวย์ และตรวจสอบว่าอินเทอร์เน็ตสาธารณะกับ VPS พัฒนาที่ไม่ไว้ใจไม่สามารถข้ามแบ็กเอนด์แล้วเข้าเกตเวย์ได้โดยตรง
- แยกสิทธิ์บนแบ็กเอนด์เป็นสองกลุ่ม ได้แก่ การเรียกใช้สำหรับนักพัฒนาแบบจำกัด และการเรียกใช้ฟังก์ชันทดลองสำหรับผู้ใช้ พร้อมแยกข้อมูลรับรองและงบประมาณ
- ทำ Agent ให้มีขอบเขต กำหนดการกันโควตา การส่งต่อการยกเลิกงาน และการส่งผลลัพธ์แบบสตรีม พร้อมเพดานงบรวมทั้งระบบ
- ทดสอบว่าคำขอที่ไม่มีคีย์หรือใช้คีย์ที่เพิกถอนแล้วถูกปฏิเสธ สิทธิ์นักพัฒนาเข้าถึงหน้าจัดการไม่ได้ โควตาหมดแล้วหยุดจริง บริบทผู้ใช้ไม่ปะปน และการเรียกหลายขั้นหรือการลองใหม่ไม่เกินงบของงาน
- เปิดทดลองกับผู้ใช้กลุ่มเล็ก วัดเวลาแฝง แล้วค่อยตัดสินใจว่าจะเปลี่ยนการเชื่อมต่อภายในหรือแยกอินสแตนซ์หรือไม่
ขอบเขตที่ยังไม่รวม และสิ่งที่ต้องยืนยันก่อนเปิดใช้
ข้อเสนอนี้เป็นคำแนะนำด้านสถาปัตยกรรม ไม่ได้หมายความว่ามีการติดตั้งหรือทดสอบความปลอดภัยแล้ว ระยะแรกไม่จำเป็นต้องสร้าง load balancer, service mesh หรือแพลตฟอร์ม Agent ถาวร แต่ต้องยอมรับข้อจำกัดเรื่องความจุและความเสี่ยงจากการที่อินสแตนซ์เดียวขัดข้อง
ก่อนเปิดทดลองต่อสาธารณะ ควรตรวจสอบว่าผู้ให้บริการโมเดลอนุญาตให้เปิดใช้ในลักษณะดังกล่าวหรือไม่ และข้อมูลประสบการณ์ส่วนตัวของผู้ใช้จะถูกส่งหรือจัดการอย่างไร รวมถึงข้อกำหนดที่เกี่ยวข้อง ประเด็นเหล่านี้ยังไม่มีข้อมูลยืนยันในบริบทที่ให้มา แนวทางระมัดระวังคือส่งเฉพาะข้อมูลที่จำเป็นและลดข้อมูลที่ระบุตัวบุคคลได้ พร้อมหลีกเลี่ยงการบันทึกเนื้อหาเรซูเม่ฉบับเต็มหรือข้อมูลรับรอง
สรุปคือ เก็บซอร์สโค้ดและคีย์หลักไว้ในสภาพแวดล้อมที่เชื่อถือได้ ให้นักพัฒนาใช้สิทธิ์จำกัด และให้มินิโปรแกรมเรียกความสามารถทางธุรกิจเท่านั้น เริ่มจากการอุดช่องว่างด้านการตรวจสอบสิทธิ์ งบประมาณ และขอบเขตของงาน ก่อนเพิ่มชั้นโครงสร้างพื้นฐาน
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "วางเกตเวย์ AI อย่างไรให้ปลอดภัย: แยกสิทธิ์นักพัฒนาออกจากบริการในมินิโปรแกรม" คืออะไร
เก็บซอร์สโค้ด อินสแตนซ์เกตเวย์ และคีย์หลักไว้ใน VPS ที่เชื่อถือได้ อย่านำไปติดตั้งในสภาพแวดล้อมพัฒนาที่ผู้ดูแลระบบไม่น่าไว้วางใจ
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
เก็บซอร์สโค้ด อินสแตนซ์เกตเวย์ และคีย์หลักไว้ใน VPS ที่เชื่อถือได้ อย่านำไปติดตั้งในสภาพแวดล้อมพัฒนาที่ผู้ดูแลระบบไม่น่าไว้วางใจ ให้นักพัฒนาเรียกใช้ผ่านทางเข้าที่จำกัดสิทธิ์ ส่วนมินิโปรแกรมควรเรียก API สำหรับงานธุรกิจ ไม่ใช่เกตเวย์ AI แบบเปิดกว้าง
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
กำหนดสิทธิ์และงบแยกตามงาน พร้อมจำกัดจำนวนการเรียกโมเดลและเครื่องมือ รวมถึงรองรับการยกเลิกงาน