Ramp Router 登場：美國限定 AI 模型閘道，路由費免費至 2026 年底

Ramp 原本主要協助企業追蹤和管理軟件開支，今次就進一步踩入 AI 推理（inference）這個增長得好快的開支類別。新推出的 Router，讓開發者用一個 API 接入多間 AI 模型供應商，再按質素、延遲、可靠性和成本等條件，決定每個請求應該交給哪個模型處理。12

不過，這項服務目前有幾個清晰限制：暫時只在美國提供；路由費豁免至 2026 年底；用戶仍然要支付實際使用模型所產生的推理費。新用戶可獲得 26 美元模型額度，而 Ramp 尚未公布 2027 年 Router 的收費安排。2

Router 實際上做甚麼？

Router 位於應用程式和 AI 模型供應商之間。以往開發者可能要把程式寫死在某一個模型或供應商上，日後轉模型時便要重新整合。使用 Router 後，應用程式只需連接一個端點，就可以接入、比較和切換不同模型，毋須大幅改動原有程式。1

服務推出時支援來自 OpenAI、Anthropic、DeepSeek、Moonshot、Minimax、Nvidia、xAI 及 Z.ai 的模型。2 整體概念跟 OpenRouter 相近，都是將不同供應商的整合工作抽象化，方便團隊比較模型和轉移流量；但 Router 現時的模型選擇比 OpenRouter 少。25

Router 如何決定用哪個模型？

Ramp 提供幾種路由和測試方式，重點並非單純揀一個「最強」模型，而是按不同工作需要作取捨。

彈性服務層路由

部分供應商會提供折扣服務層，但延遲就未必咁穩定。當 Router 觀察到該服務層的表現與標準服務層相若時，便可以將請求分流過去；如果延遲明顯較差，請求就會留在標準服務層。1

按基準測試選模

團隊可以選擇最多三項基準測試，並為各項測試設定權重。Router 會按照這些偏好為可用模型排名，再選出最符合團隊要求的選項。1

影子模型測試

Router 可以將一部分生產環境請求複製給候選模型，但繼續由現有生產模型為用戶提供服務。團隊可以先比較兩者的質素、延遲和成本，確認效果後才把正式流量轉過去。1

按任務難度升級

Nvidia Switchyard 針對多階段代理式（agentic）任務而設。較簡單的步驟可以交給成本較低的模型；遇到較複雜的步驟時，才升級至能力較強、亦可能較昂貴的模型。1

換句話說，Router 不只是固定的模型選擇器。它的定位是讓團隊持續測試不同模型，並隨着效能、價格和工作負載複雜程度改變，動態調整流量分配。

儀表板可以睇到甚麼？

Router 的監察工具會顯示單一請求的詳細資料，包括實際選用的模型、供應商、服務層、token 用量、延遲、成本，以及曾否嘗試 fallback；同時亦會提供整體開支概覽。1

這類資訊對控制 AI 開支相當重要，因為總賬單不只取決於模型本身。Token 數量、重試、fallback、服務層選擇，以及簡單任務和複雜任務的比例，都可能推高推理成本。集中在同一個介面查看，會較容易找出開支來源；但現有資料未能證明 Router 在準確度或可靠性方面一定優於其他模型閘道。

收費和適用地區

目前公布的條款如下：

• 適用地區： 暫時只限美國。2
• 路由費： 免費至 2026 年 12 月 31 日。2
• 模型推理費： 不包括在內，用戶仍須按實際消耗的模型 token 付費。2
• 新用戶額度： 可獲 26 美元模型額度。2
• 2027 年收費： 推出時尚未公布。2

所以，「免費至 2026 年底」並不代表可以無限免費使用 AI。免費的是 Router 的服務費，實際交給模型供應商的推理費仍然存在。

資料保留和私隱要留意甚麼？

Router 預設會保留輸入、輸出及工具呼叫資料一年，用戶可以選擇退出。Ramp 表示，在利用保留內容改善產品前，會先移除個人識別資料（PII）。2

對企業而言，這是一項不能忽略的考慮。經由閘道轉送請求可以簡化供應商管理，但同時亦代表應用程式的資料流程多了一層。採用前，團隊應該仔細閱讀相關條款，並確認預設保留設定是否符合本身的資料治理要求。

Ramp 所說的 40% 節省，應該點睇？

Ramp 表示，公司過去三年一直自行建立和營運這套路由基礎設施，現時亦將自家生產環境的 AI 流量經由 Router 處理。公司稱，使用 Router 的客戶平均減少 40% 推理成本。1

這個數字應理解為 Ramp 自行公布的結果，而不是獨立機構驗證的基準測試。實際節省幅度會視乎團隊的工作負載、模型組合、流量模式、質素要求，以及是否願意使用折扣但延遲較難預測的服務層而定。

因此，Router 對模型流量夠大、任務種類夠多，而且需要持續調整模型的企業，價值可能較明顯；如果使用量很低，路由層帶來的節省未必足以抵銷整合和治理成本。

Router 對 Ramp 有何戰略意義？

Router 讓 Ramp 不再只是在 AI 開支發生後協助企業監察和管理，而是直接參與 AI 推理的交易和分流層。長遠而言，免費期結束後，服務可能帶來路由費收入；同時亦可以與 Ramp 原有的 token 用量監察和 token 開支管理產品互相配合，並讓公司與模型開發商及推理服務供應商建立更緊密的關係。

它亦可能成為由開發者主導的入口，先吸引團隊使用 Router，再接觸 Ramp 更廣泛的企業費用管理產品。不過，這只是按產品方向作出的戰略分析，並非 Ramp 已公布的業務預測。

眼前最實際的考驗，是 Router 能否令企業更容易切換模型、控制推理成本，以及持續驗證模型表現；另一個關鍵，就要看 Ramp 在 2026 年後公布的收費，會否保留這項優勢。