先說結論：共用接入層，權限分開管

不需要為開發環境和小程式各寫一套服務。兩者可以共用同一個可信的 AI 存取控制層，但應使用不同憑證，並由可信服務執行權限與額度限制。

小程式的模型呼叫網址和服務密鑰應設定在既有業務後端，而不是小程式客戶端。開發密鑰、後端服務密鑰和上游模型憑證，也應彼此分開。

建議的系統分工

層次	負責事項	建議做法
AI 存取控制層	密鑰、模型權限、額度與協定轉送	整合至現有後端，或部署一個獨立接入服務
小程式業務層	使用者登入、個人亮點優化、使用者額度與 Agent 任務預算	保留在既有小程式後端
Aurora 網關	上游協定轉接與模型呼叫	維持私有部署

開發情境需要的是受限制的模型呼叫入口；小程式情境則需要讓業務後端安全連到模型服務，並在尚未具備時補上任務預算控制。如果既有後端已有 Agent，不必重寫；但單純填入呼叫設定，不代表使用者額度或任務隔離已經做好。

API 網址與密鑰應放在哪裡？

使用位置	呼叫目標	使用的憑證
不可信的開發 VPS	可信環境中的受限開發入口	該開發環境專用的開發密鑰
小程式客戶端	自家的業務後端	使用者登入憑證，不放網關密鑰
小程式業務後端	私有接入服務或私有 Aurora	專用服務密鑰，或受控的內部鏈路身分
接入服務	私有 Aurora	內部呼叫設定；不轉傳開發密鑰

若開發主機不可信，就要假設它可能洩漏開發密鑰。限制與撤銷機制應由可信服務執行，不能只靠開發主機自律。

兩種部署方式

A. 整合到既有後端：服務數量最少

• 不可信開發工具 → 既有後端的受限開發入口 → 私有 Aurora。
• 小程式 → 既有後端的業務入口 → 私有 Aurora。

兩種入口共用存取控制模組、資料庫和連線池，不必增加新的服務程序。若開發憑證數量少，也不需要密鑰管理介面，這種方式通常較精簡。

取捨是密鑰撤銷、並行額度扣減、串流轉送和取消請求的傳遞等功能，都要由團隊自行實作；並非只多填兩項設定就能完成。

B. 部署一個獨立接入服務：少寫通用管理功能

• 不可信開發工具 → 獨立接入服務 → 私有 Aurora。
• 小程式 → 既有業務後端 → 同一個接入服務 → 私有 Aurora。

接入服務部署在可信 VPS，作為獨立程序或容器運行；開發環境和業務後端各用不同密鑰。接入服務負責通用的模型呼叫與密鑰管理，小程式使用者身分和 Agent 任務控制仍由業務後端處理。

不必為兩種情境各部署一套接入服務，也不必把接入服務嵌進 Aurora 原始碼。

可評估的開源方案

New API：可先看密鑰管理介面

New API 是開源 AI 網關，官方文件提供 Docker 部署、渠道設定與 OpenAI 相容的呼叫入口。34

官方文件也列出 API 密鑰的額度與模型限制，以及密鑰建立、更新和刪除等管理功能。1215 可把 Aurora 列為自訂上游的候選，並分別建立開發密鑰與業務服務密鑰；不過，實際渠道接法仍須測試確認。1

若希望少寫管理程式，並透過介面發放、限制開發密鑰，New API 值得優先驗證。

LiteLLM Proxy：偏向程式化設定

LiteLLM 提供自託管、OpenAI 相容的閘道，支援自訂相容上游與虛擬密鑰管理。8105

要注意，官方部署文件指出，密鑰、使用者、用量紀錄和相關授權追蹤功能需要 PostgreSQL；評估部署成本時不能把它當成不需資料庫的輕量代理。11 若已有 PostgreSQL，且重視程式化設定與多模型管理，可納入比較。

上述功能有官方文件可參考，但不代表已驗證與 Aurora 相容，也不能只憑專案名稱判定安全性或延遲是否符合需求。

即使採用現成網關，這些仍要自己處理

• 小程式使用者身分、任務歸屬與歷史紀錄隔離。
• 每位使用者的試用額度，以及每項任務的模型呼叫次數和工具使用上限。
• 逾時、取消、重試與全站緊急停用機制。
• 個人經歷資料的最小化處理，以及日誌去識別化。

特別要留意：如果所有小程式使用者共用同一把後端服務密鑰，網關的服務級總額度並不等於每位使用者各自擁有獨立額度。

正式採用前，建議驗證串流輸出、工具呼叫、自訂模型名稱、用量計算，以及並行和重試時的預算邊界。也要確認管理後台或 Aurora 原始入口不會成為繞過存取控制的通道。

怎麼選比較合適？

• 只有少數開發環境使用：優先考慮整合既有後端，部署最精簡。
• 希望直接取得密鑰、模型權限與額度管理介面：先驗證一個 New API 執行個體，小程式後端再補上業務接線和任務控制。
• 不建議同時疊加 New API 和 LiteLLM；增加接入層也不代表延遲一定為零。

外部 HTTPS 可沿用既有可信入口；若沒有，仍須明確設定 TLS。僅在嚴格受控的私有鏈路中才考慮使用空密鑰，絕不可把這種設定暴露給不可信客戶端。

這項建議不包含重寫小程式或既有 Agent、修改 Aurora 上游核心，或建置負載平衡系統；也未實際修改檔案、部署服務或驗證執行相容性。

先說結論：共用接入層，權限分開管

不需要為開發環境和小程式各寫一套服務。兩者可以共用同一個可信的 AI 存取控制層，但應使用不同憑證，並由可信服務執行權限與額度限制。

小程式的模型呼叫網址和服務密鑰應設定在既有業務後端，而不是小程式客戶端。開發密鑰、後端服務密鑰和上游模型憑證，也應彼此分開。

建議的系統分工

層次	負責事項	建議做法
AI 存取控制層	密鑰、模型權限、額度與協定轉送	整合至現有後端，或部署一個獨立接入服務
小程式業務層	使用者登入、個人亮點優化、使用者額度與 Agent 任務預算	保留在既有小程式後端
Aurora 網關	上游協定轉接與模型呼叫	維持私有部署

開發情境需要的是受限制的模型呼叫入口；小程式情境則需要讓業務後端安全連到模型服務，並在尚未具備時補上任務預算控制。如果既有後端已有 Agent，不必重寫；但單純填入呼叫設定，不代表使用者額度或任務隔離已經做好。

API 網址與密鑰應放在哪裡？

使用位置	呼叫目標	使用的憑證
不可信的開發 VPS	可信環境中的受限開發入口	該開發環境專用的開發密鑰
小程式客戶端	自家的業務後端	使用者登入憑證，不放網關密鑰
小程式業務後端	私有接入服務或私有 Aurora	專用服務密鑰，或受控的內部鏈路身分
接入服務	私有 Aurora	內部呼叫設定；不轉傳開發密鑰

若開發主機不可信，就要假設它可能洩漏開發密鑰。限制與撤銷機制應由可信服務執行，不能只靠開發主機自律。

兩種部署方式

A. 整合到既有後端：服務數量最少

• 不可信開發工具 → 既有後端的受限開發入口 → 私有 Aurora。
• 小程式 → 既有後端的業務入口 → 私有 Aurora。

兩種入口共用存取控制模組、資料庫和連線池，不必增加新的服務程序。若開發憑證數量少，也不需要密鑰管理介面，這種方式通常較精簡。

取捨是密鑰撤銷、並行額度扣減、串流轉送和取消請求的傳遞等功能，都要由團隊自行實作；並非只多填兩項設定就能完成。

B. 部署一個獨立接入服務：少寫通用管理功能

• 不可信開發工具 → 獨立接入服務 → 私有 Aurora。
• 小程式 → 既有業務後端 → 同一個接入服務 → 私有 Aurora。

接入服務部署在可信 VPS，作為獨立程序或容器運行；開發環境和業務後端各用不同密鑰。接入服務負責通用的模型呼叫與密鑰管理，小程式使用者身分和 Agent 任務控制仍由業務後端處理。

不必為兩種情境各部署一套接入服務，也不必把接入服務嵌進 Aurora 原始碼。

可評估的開源方案

New API：可先看密鑰管理介面

New API 是開源 AI 網關，官方文件提供 Docker 部署、渠道設定與 OpenAI 相容的呼叫入口。34

官方文件也列出 API 密鑰的額度與模型限制，以及密鑰建立、更新和刪除等管理功能。1215 可把 Aurora 列為自訂上游的候選，並分別建立開發密鑰與業務服務密鑰；不過，實際渠道接法仍須測試確認。1

若希望少寫管理程式，並透過介面發放、限制開發密鑰，New API 值得優先驗證。

LiteLLM Proxy：偏向程式化設定

LiteLLM 提供自託管、OpenAI 相容的閘道，支援自訂相容上游與虛擬密鑰管理。8105

要注意，官方部署文件指出，密鑰、使用者、用量紀錄和相關授權追蹤功能需要 PostgreSQL；評估部署成本時不能把它當成不需資料庫的輕量代理。11 若已有 PostgreSQL，且重視程式化設定與多模型管理，可納入比較。

上述功能有官方文件可參考，但不代表已驗證與 Aurora 相容，也不能只憑專案名稱判定安全性或延遲是否符合需求。

即使採用現成網關，這些仍要自己處理

• 小程式使用者身分、任務歸屬與歷史紀錄隔離。
• 每位使用者的試用額度，以及每項任務的模型呼叫次數和工具使用上限。
• 逾時、取消、重試與全站緊急停用機制。
• 個人經歷資料的最小化處理，以及日誌去識別化。

特別要留意：如果所有小程式使用者共用同一把後端服務密鑰，網關的服務級總額度並不等於每位使用者各自擁有獨立額度。

正式採用前，建議驗證串流輸出、工具呼叫、自訂模型名稱、用量計算，以及並行和重試時的預算邊界。也要確認管理後台或 Aurora 原始入口不會成為繞過存取控制的通道。

怎麼選比較合適？

• 只有少數開發環境使用：優先考慮整合既有後端，部署最精簡。
• 希望直接取得密鑰、模型權限與額度管理介面：先驗證一個 New API 執行個體，小程式後端再補上業務接線和任務控制。
• 不建議同時疊加 New API 和 LiteLLM；增加接入層也不代表延遲一定為零。

外部 HTTPS 可沿用既有可信入口；若沒有，仍須明確設定 TLS。僅在嚴格受控的私有鏈路中才考慮使用空密鑰，絕不可把這種設定暴露給不可信客戶端。

這項建議不包含重寫小程式或既有 Agent、修改 Aurora 上游核心，或建置負載平衡系統；也未實際修改檔案、部署服務或驗證執行相容性。