開発用ツールからのモデル呼び出しと、ミニプログラムの機能からの呼び出し。どちらも同じプライベートなAuroraゲートウェイにつなぐなら、用途ごとに接続サービスを二つ作る必要はありません。

大切なのは、接続先を共有しても、権限と認証情報は分けることです。とくにミニプログラムのクライアントにゲートウェイの秘密鍵を埋め込むのは避け、既存の業務バックエンドからモデルを呼び出します。

まずは役割を三つに分ける

層	主な役割	置き場所の目安
AIアクセス制御	開発キーやサービスキー、モデル権限、利用枠、APIの中継	既存バックエンドに統合するか、独立した接続サービスとして配置
ミニプログラムの業務処理	ユーザー認証、個人の情報を使った機能、ユーザーごとの利用枠やAgentタスクの予算	既存の業務バックエンド
Auroraゲートウェイ	上流モデルとの接続、プロトコル変換、モデル呼び出し	プライベート環境

開発環境に必要なのは、モデルや利用枠を制限した呼び出し口です。ミニプログラム側では、バックエンドからモデルを呼ぶための接続と、必要に応じたタスク予算の制御が必要になります。すでにAgentが業務バックエンドにあるなら、Agent自体を作り直す必要はありません。ただし、接続設定を追加しただけでユーザー別の利用枠やタスク分離まで実現するわけではありません。

APIの接続先と鍵はどこに置く？

利用場所	接続先	使う認証情報
信頼できない開発用VPS	信頼できる環境に置いた開発用の制限付き入口	環境ごとに分けた開発キー
ミニプログラムのクライアント	既存の業務バックエンド	ユーザーのログイン情報。ゲートウェイの秘密鍵は置かない
ミニプログラムの業務バックエンド	プライベートな接続サービス、またはAurora	専用のサービスキー、または管理された内部認証
独立した接続サービス	プライベートなAurora	内部用の接続設定。開発キーはそのまま上流に渡さない

開発キー、業務バックエンド用のサービスキー、上流側の認証情報は別々に管理します。開発用VPSが信頼できない場合、そこに置いたキーが読み取られる可能性があります。利用モデルや上限などの制約は、開発環境の運用に任せず、信頼できる側のサービスで適用する設計が必要です。

選択肢A：既存バックエンドに機能を統合する

開発ツール → 既存バックエンドの開発用入口 → Aurora
ミニプログラム → 既存バックエンドの業務用入口 → Aurora

共通のアクセス制御機能やデータベース、接続管理を使い、別のプロセスを増やさずに済みます。開発用の認証情報が少なく、キー発行の管理画面も必要ない場合に向く選択肢です。

一方、キーの失効、同時リクエスト時の利用枠の減算、ストリーミング応答の中継、キャンセルの伝播などを自前で実装することになります。単に接続先と鍵の設定を足すだけではありません。

選択肢B：独立した接続サービスを一つ置く

開発ツール → 独立した接続サービス → Aurora
ミニプログラム → 既存バックエンド → 同じ接続サービス → Aurora

接続サービスは信頼できるVPSにプロセスまたはコンテナとして配置し、開発環境用と業務バックエンド用に別々のキーを発行します。モデル呼び出しやキー管理などの共通処理は接続サービスが担い、ミニプログラムのユーザーやAgentタスクの管理は既存バックエンドに残します。

この構成でも、開発用とミニプログラム用に接続サービスを二つ用意する必要はありません。また、接続サービスをAuroraのソースコードに組み込む必要もありません。

既存機能を活用できるオープンソースの候補

New API：キー管理を画面から行いたい場合

New APIはオープンソースのAIゲートウェイです。Dockerなどによるデプロイ、モデル提供元の設定、APIトークンの作成と、OpenAI互換の呼び出し口が案内されています。34

公式資料では、APIキーの利用枠やモデル制限に加え、キーの作成・更新・削除などの管理機能が説明されています。1215 Auroraをカスタム上流の候補として接続できるかは、実際の設定と呼び出しで確認が必要です。1

開発キーの発行や制限を管理画面から行い、汎用的な管理機能を自作する手間を減らしたい場合に、まず検証する候補になります。

LiteLLM Proxy：プログラムから設定・運用したい場合

LiteLLM Proxyはセルフホスト型のAIゲートウェイで、OpenAI互換の呼び出し口、互換APIを使う上流への接続、仮想キーによる管理機能を提供しています。8105

ただし、公式のデプロイ資料では、キーやユーザー、利用記録、関連する認証・追跡機能にPostgreSQLが必要とされています。データベースを使わない軽量な中継サーバーとしてだけ考えるのではなく、運用構成に含めて検討してください。11

すでにPostgreSQLがあり、設定をプログラムから扱いたい場合や複数モデルを管理したい場合に候補になります。どちらのプロジェクトも、Auroraとの互換性やセキュリティ、応答速度が実環境で確認済みという意味ではありません。ストリーミング、ツール呼び出し、モデル名、利用量の集計などを実際に試す必要があります。

ゲートウェイを導入しても残る、アプリ側の責任

ミニプログラムの業務バックエンドでは、少なくとも次の点を別途管理します。

• リクエストをユーザーやタスクに結びつけ、他のユーザーのデータと混ざらないようにする
• ユーザーごとの試用枠と、Agentタスクごとのモデル呼び出し・ツール利用の上限を設ける
• タイムアウト、キャンセル、再試行、緊急停止の動作を決める
• 個人の経験やプロフィール情報を必要最小限にし、ログ上の情報を適切にマスキングする

業務バックエンドが共通のサービスキー一つでゲートウェイを利用する場合、サービス全体の上限を設定しても、それだけでユーザーごとの独立した利用枠ができるわけではありません。

どう選ぶ？

• 開発環境が少数で、管理画面も不要なら、既存バックエンドへの統合から始める
• キーやモデル権限、利用枠を管理画面で扱いたいなら、New APIを一つの候補として検証する
• PostgreSQLがあり、プログラム中心の設定や複数モデル管理を重視するなら、LiteLLM Proxyを評価する
• New APIとLiteLLMを同時に重ねず、必要な機能を満たす構成を一つ選ぶ

接続層を追加しても、遅延が必ずゼロとは限りません。また、管理画面やAuroraへの直接接続が制限を迂回する経路にならないよう確認します。外部からHTTPSで接続する場合は、既存の信頼できる入口を利用できるか確認し、利用できない場合はTLSを用意してください。空の鍵での内部接続は、厳密に管理されたプライベートな通信に限り、信頼できないクライアントには公開しません。

今回の検討範囲は接続方法とサービス選定です。ミニプログラムや既存Agentの作り直し、Auroraの上流コアの変更、負荷分散基盤の構築は前提に含めません。また、ここで挙げた構成の実装・デプロイや、Auroraとの動作互換性の検証が完了したという意味でもありません。

開発用ツールからのモデル呼び出しと、ミニプログラムの機能からの呼び出し。どちらも同じプライベートなAuroraゲートウェイにつなぐなら、用途ごとに接続サービスを二つ作る必要はありません。

大切なのは、接続先を共有しても、権限と認証情報は分けることです。とくにミニプログラムのクライアントにゲートウェイの秘密鍵を埋め込むのは避け、既存の業務バックエンドからモデルを呼び出します。

まずは役割を三つに分ける

層	主な役割	置き場所の目安
AIアクセス制御	開発キーやサービスキー、モデル権限、利用枠、APIの中継	既存バックエンドに統合するか、独立した接続サービスとして配置
ミニプログラムの業務処理	ユーザー認証、個人の情報を使った機能、ユーザーごとの利用枠やAgentタスクの予算	既存の業務バックエンド
Auroraゲートウェイ	上流モデルとの接続、プロトコル変換、モデル呼び出し	プライベート環境

開発環境に必要なのは、モデルや利用枠を制限した呼び出し口です。ミニプログラム側では、バックエンドからモデルを呼ぶための接続と、必要に応じたタスク予算の制御が必要になります。すでにAgentが業務バックエンドにあるなら、Agent自体を作り直す必要はありません。ただし、接続設定を追加しただけでユーザー別の利用枠やタスク分離まで実現するわけではありません。

APIの接続先と鍵はどこに置く？

利用場所	接続先	使う認証情報
信頼できない開発用VPS	信頼できる環境に置いた開発用の制限付き入口	環境ごとに分けた開発キー
ミニプログラムのクライアント	既存の業務バックエンド	ユーザーのログイン情報。ゲートウェイの秘密鍵は置かない
ミニプログラムの業務バックエンド	プライベートな接続サービス、またはAurora	専用のサービスキー、または管理された内部認証
独立した接続サービス	プライベートなAurora	内部用の接続設定。開発キーはそのまま上流に渡さない

開発キー、業務バックエンド用のサービスキー、上流側の認証情報は別々に管理します。開発用VPSが信頼できない場合、そこに置いたキーが読み取られる可能性があります。利用モデルや上限などの制約は、開発環境の運用に任せず、信頼できる側のサービスで適用する設計が必要です。

選択肢A：既存バックエンドに機能を統合する

開発ツール → 既存バックエンドの開発用入口 → Aurora
ミニプログラム → 既存バックエンドの業務用入口 → Aurora

共通のアクセス制御機能やデータベース、接続管理を使い、別のプロセスを増やさずに済みます。開発用の認証情報が少なく、キー発行の管理画面も必要ない場合に向く選択肢です。

一方、キーの失効、同時リクエスト時の利用枠の減算、ストリーミング応答の中継、キャンセルの伝播などを自前で実装することになります。単に接続先と鍵の設定を足すだけではありません。

選択肢B：独立した接続サービスを一つ置く

開発ツール → 独立した接続サービス → Aurora
ミニプログラム → 既存バックエンド → 同じ接続サービス → Aurora

接続サービスは信頼できるVPSにプロセスまたはコンテナとして配置し、開発環境用と業務バックエンド用に別々のキーを発行します。モデル呼び出しやキー管理などの共通処理は接続サービスが担い、ミニプログラムのユーザーやAgentタスクの管理は既存バックエンドに残します。

この構成でも、開発用とミニプログラム用に接続サービスを二つ用意する必要はありません。また、接続サービスをAuroraのソースコードに組み込む必要もありません。

既存機能を活用できるオープンソースの候補

New API：キー管理を画面から行いたい場合

New APIはオープンソースのAIゲートウェイです。Dockerなどによるデプロイ、モデル提供元の設定、APIトークンの作成と、OpenAI互換の呼び出し口が案内されています。34

公式資料では、APIキーの利用枠やモデル制限に加え、キーの作成・更新・削除などの管理機能が説明されています。1215 Auroraをカスタム上流の候補として接続できるかは、実際の設定と呼び出しで確認が必要です。1

開発キーの発行や制限を管理画面から行い、汎用的な管理機能を自作する手間を減らしたい場合に、まず検証する候補になります。

LiteLLM Proxy：プログラムから設定・運用したい場合

LiteLLM Proxyはセルフホスト型のAIゲートウェイで、OpenAI互換の呼び出し口、互換APIを使う上流への接続、仮想キーによる管理機能を提供しています。8105

ただし、公式のデプロイ資料では、キーやユーザー、利用記録、関連する認証・追跡機能にPostgreSQLが必要とされています。データベースを使わない軽量な中継サーバーとしてだけ考えるのではなく、運用構成に含めて検討してください。11

すでにPostgreSQLがあり、設定をプログラムから扱いたい場合や複数モデルを管理したい場合に候補になります。どちらのプロジェクトも、Auroraとの互換性やセキュリティ、応答速度が実環境で確認済みという意味ではありません。ストリーミング、ツール呼び出し、モデル名、利用量の集計などを実際に試す必要があります。

ゲートウェイを導入しても残る、アプリ側の責任

ミニプログラムの業務バックエンドでは、少なくとも次の点を別途管理します。

• リクエストをユーザーやタスクに結びつけ、他のユーザーのデータと混ざらないようにする
• ユーザーごとの試用枠と、Agentタスクごとのモデル呼び出し・ツール利用の上限を設ける
• タイムアウト、キャンセル、再試行、緊急停止の動作を決める
• 個人の経験やプロフィール情報を必要最小限にし、ログ上の情報を適切にマスキングする

業務バックエンドが共通のサービスキー一つでゲートウェイを利用する場合、サービス全体の上限を設定しても、それだけでユーザーごとの独立した利用枠ができるわけではありません。

どう選ぶ？

• 開発環境が少数で、管理画面も不要なら、既存バックエンドへの統合から始める
• キーやモデル権限、利用枠を管理画面で扱いたいなら、New APIを一つの候補として検証する
• PostgreSQLがあり、プログラム中心の設定や複数モデル管理を重視するなら、LiteLLM Proxyを評価する
• New APIとLiteLLMを同時に重ねず、必要な機能を満たす構成を一つ選ぶ

接続層を追加しても、遅延が必ずゼロとは限りません。また、管理画面やAuroraへの直接接続が制限を迂回する経路にならないよう確認します。外部からHTTPSで接続する場合は、既存の信頼できる入口を利用できるか確認し、利用できない場合はTLSを用意してください。空の鍵での内部接続は、厳密に管理されたプライベートな通信に限り、信頼できないクライアントには公開しません。

今回の検討範囲は接続方法とサービス選定です。ミニプログラムや既存Agentの作り直し、Auroraの上流コアの変更、負荷分散基盤の構築は前提に含めません。また、ここで挙げた構成の実装・デプロイや、Auroraとの動作互換性の検証が完了したという意味でもありません。