Snowflake 推出動態模型路由：讓簡單 AI 任務不用再付前沿模型的費用

Snowflake 宣布為 Cortex AI Gateway 加入動態模型路由，讓企業不必把每一個請求都送往同一個高階模型，而是從管理員核准的模型池中，為每項任務選出足以完成工作的方案。這項功能預計很快進入私人預覽（private preview），目前仍屬公告階段，並非一般用戶已可取得的正式版本。

Snowflake 將這套思路稱為 「智慧效率」（intelligence efficiency）：重點不是單純把每個 Token 的價格壓到最低，而是以可接受品質完成一項業務成果所需的總成本為優化目標。換句話說，簡單工作不必動用最昂貴的模型，真正需要更強推理能力的任務才使用前沿模型。

Snowflake 這次宣布了什麼？

動態模型路由將透過 Cortex AI Gateway 提供，並整合至 Snowflake 的 CoCo 與 CoWork 產品；連接到該 Gateway 的第三方 AI 代理也可使用這項能力。企業可以自行決定哪些模型具備使用資格，以及應優先考量成本、品質或延遲等取捨。

在自動模式下，路由器的目標是選出「在有信心完成任務的前提下，價格最低」的管理員核准模型。例行、重複或低複雜度的請求，可能交由較高效的開放模型；需要複雜推理的工作，則可導向 Anthropic、OpenAI 和 Google 等供應商的前沿模型。

企業仍可保留人工控制權，例如固定（pin）某個模型，或縮小可選模型範圍，而不是完全交給自動路由。Snowflake 也表示，路由能配合資料駐留要求與治理政策，並記錄每次請求所選用的模型，讓模型選擇流程具備稽核可能性。

動態路由預計如何運作？

Snowflake 描述了兩種判斷任務所需模型能力的機制。

「顧問模式」：先小後大

在所謂的 advisor pattern（顧問模式） 中，較小的模型會先嘗試完成任務。如果無法充分處理，就能把較大型模型當作工具呼叫，繼續完成工作。

這種做法的理想效果，是避免為原本小模型就能處理的請求支付前沿模型費用，同時保留遇到難題時的升級路徑。但若第一次嘗試失敗，後續升級、重試或工具呼叫都可能增加 Token 用量、延遲與系統複雜度。

分類器：先判斷再分流

另一條路徑是使用分類器，從歷史查詢的模式中辨識較直接的請求，再把它們交給較簡單的模型。實務上，這代表系統可以先讓小模型處理並在必要時升級，也可以在一開始先分類，再選擇適合的模型。

因此，評估路由器時不能只看它是否選中了便宜模型，更要看整項任務是否一次完成、品質是否達標，以及額外的升級與重試是否抵銷了節省的成本。

Snowflake 公布的效率數據，應如何解讀？

Snowflake 表示，在一項內部 dbt 資料管道工作負載測試中，動態路由在維持與只使用前沿模型相近品質的情況下，Token 使用效率最高達到 3 倍。另一項程式設計工作負載測試則顯示，工程團隊在維持拉取請求（pull request）產出量時，約少使用 25% Token。

這些數字是 Snowflake 自行公布的內部評估，並非經獨立驗證的客戶成果；而且結果可能因工作負載而有很大差異。對重複性高的資料工程或程式設計任務有效的路由策略，未必同樣適合長上下文研究、複雜工具使用或高風險決策。

對客戶而言，更有意義的指標不是孤立的「節省多少 Token」，而是：在品質、延遲、可靠度與人工返工成本都納入後，一項成功完成並獲得接受的任務，實際花費多少錢。

DeepSeek 與 GLM 擴大可選模型池

Snowflake 將把 DeepSeek-V4-Flash 0731 與 Z.ai 的 GLM-5.3 納入 Cortex AI 可使用的模型範圍。DeepSeek-V4-Flash 0731 已宣布進入私人預覽，並涵蓋 CoCo；GLM-5.3 則預計在模型可用性允許的情況下，很快進入私人預覽。

Snowflake 表示，DeepSeek-V4-Flash 在以 CoCo 作為 AI 代理測試框架的內部評估中，於 ADE-bench 取得 74.4%。公司另引用較早針對 GLM-5.2 的測試，稱其得分為 66%，且在該基準測試中使用的 Token 最少。

需要特別注意的是，GLM-5.2 的結果不是 GLM-5.3 的公開評估，不能將兩者混為一談。整體而言，更多開放模型加入模型池，能讓路由器有更大的選擇空間，依照任務需求在成本與效能之間尋找較合適的組合，也降低企業只能在少數知名前沿供應商中選擇的限制。

Snowflake 強調的「受治理資料邊界」

Snowflake 最主要的差異化主張，不是市場上只有它能做模型路由，而是模型存取與路由決策能連結到 Snowflake 既有的受治理資料環境。公司表示，新加入的開放模型由 Snowflake 自行提供服務，而不是單純代理第三方 API；資料、推論運算、模型權重與 AI 代理編排，均在 Snowflake 的安全邊界內運作，並可使用既有的角色型存取控制（RBAC）與稽核機制。

這是 Snowflake 對其架構提出的主張，並不代表所有部署情境都自動符合企業要求。客戶仍需逐項確認部署地區、資料駐留規範、合約條款、日誌行為，以及特定工作負載實際可使用哪些模型。

對已將受治理分析資料與 AI 應用集中在 Snowflake 的組織來說，這項設計的價值不只是挑選較便宜的模型，也包括把模型選擇納入既有的資料存取、權限與稽核框架。

它與其他模型路由方案有何不同？

模型路由並非 Snowflake 獨有。以 Amazon Bedrock 為例，其 Intelligent Prompt Routing 提供單一無伺服器端點，會在同一模型家族的基礎模型之間分流，根據預測的回應品質與成本選擇模型。

真正值得比較的問題，是路由決策、治理政策、模型執行、資料存取與帳務可視性究竟集中在哪一層。Snowflake 強調的是與受治理資料平台緊密整合的安全邊界；其他 Gateway 則可能更重視跨供應商選擇、流量管理、故障轉移或可攜性。這些是不同的架構取向，不只是「誰有沒有模型路由」的問題。

對採購者而言，可從以下方向判斷：

• 適合整合式方案： 受治理資料、存取控制、AI 代理編排與模型用量，原本就集中在同一個資料平台。
• 適合較中立的 Gateway： 跨供應商可攜性、獨立路由邏輯或多雲彈性，比平台內的深度整合更重要。
• 先確認模型池： 不要假設每個 Gateway 都能在相同的供應商、模型家族、地區或部署類型之間進行路由。

接受「省錢」之前，企業應測量什麼？

最可靠的做法，是以具代表性的生產工作負載，將自動路由與固定使用前沿模型的基準方案進行比較。至少應追蹤以下指標：

• 每項成功完成任務的總成本，而不只是所選模型的 Token 價格。
• 路由器或分類器本身可能產生的費用。
• 顧問模式升級、備援、重試或工具執行失敗所增加的額外呼叫。
• 包含路由、檢索、上下文組裝與第二輪模型呼叫在內的端到端延遲。
• 不同任務類別的成功率與品質。
• 小型模型可能引入的幻覺、政策違規與品質退化。
• 人工審查、修正、升級處理與返工成本。
• 資料駐留、可觀測性、資料輸出與供應商綁定限制。

Snowflake 表示不會另外收取路由決策費用，而是按照 Token 用量計費；但升級與重試仍可能推高總用量和延遲。 因此，正確的驗收標準應是：在維持應用程式所需品質與治理要求的前提下，路由是否降低了「成功完成且被接受的成果」之成本，而不是只看 Token 是否減少。

結論：Snowflake 賣的不只是便宜模型

Snowflake 這次公告其實包含兩項動作：一是讓 Cortex AI Gateway 在核准模型之間進行動態選擇，二是擴大 Cortex AI 可使用的模型陣容。功能預計很快進入私人預覽；DeepSeek-V4-Flash 0731 已宣布進入私人預覽，GLM-5.3 則將視可用性推出。

把簡單請求交給便宜模型、把複雜工作交給強大模型，本身並不是全新的概念。Snowflake 更具策略性的切入點，是試圖把這個決策放進自身的資料治理與安全邊界中。

Snowflake 報告的 3 倍 Token 使用效率值得關注，但企業仍應以自己的工作負載進行測試，並用端到端成本、品質、延遲、可靠度與人工修正量判斷成效，而不是只追逐 Token 削減幅度。