Akamai Valkey Managed Database：企業 AI 需要的不只是模型，還要有即時記憶

Akamai 於 2026 年 8 月 18 日推出 Valkey Managed Database，將開源 Valkey 生態系統與 Akamai 的分散式雲端整合，為企業 AI 應用提供一層低延遲、記憶體內運作的「即時記憶」。這層資料可保存對話上下文、向量嵌入、快取回應，以及 AI 工作流程狀態，並盡量放近使用它的應用程式和推理資源。Akamai 文件目前將產品列為有限度供應，地點為洛杉磯。

AI 應用為何需要即時記憶

大型語言模型（LLM）本身只是 AI 應用其中一個環節。實際投入生產環境的智能助手、檢索增強生成（RAG）系統及自主 AI 代理，還要即時取得對話背景、過往互動、相關文件、向量搜尋結果，並在多個步驟之間保存狀態。Akamai 的技術文件特別把 Valkey Managed Database 對準向量搜尋結果、助手對話上下文、嵌入快取、代理工作階段狀態及檢索流程等工作負載；這類場景對資料庫延遲相當敏感。

在集中式架構中，模型推理可能在較接近用戶的位置執行，但應用程式每次取得上下文時，仍要向遠端資料庫發出請求。來回網絡傳輸越多，回應路徑自然越長。Akamai 的 Inference Cloud 策略，是把 AI 推理推近用戶及裝置；將經常存取的運作資料放在同一套分散式架構內，便成為相應的資料層配套。

Valkey 如何協助降低延遲及成本

1. Prompt 及 Embedding 快取

快取的基本作用，是避免應用程式不斷重複相同而昂貴的工作。精確 Prompt 快取會儲存完全相同請求的結果；語義快取則利用向量相似度，判斷兩個問題是否相近到可以重用舊有答案。

典型的語義快取流程，是先把新問題轉換成 embedding，再搜尋相似的已快取請求；只有找不到有效匹配時，才再次呼叫模型。

對於重複或高度相似的請求，這可以縮短回應時間，亦減少模型呼叫次數。不過實際收益取決於快取命中率、資料新鮮度要求及模型工作流程。快取並不是所有檢索或推理工作的替代品。

2. 以原生向量搜尋支援 RAG

RAG 應用會把文件及用戶查詢轉換成向量，先找出語義上最接近的資料，再把相關上下文交給模型生成答案。Valkey 支援向量搜尋工作流程，讓同一個記憶體資料層同時處理鍵值資料、快取內容及向量提取。

對部分應用而言，這可簡化檢索路徑，亦可能免卻另行營運專用向量資料庫的需要。但這不代表所有 RAG 系統都應該放棄專門資料庫。資料量、持久性、篩選條件、索引方式及一致性要求，仍然會決定最合適的架構。

3. 保存 AI 代理的狀態

AI 代理通常不是一次模型呼叫就完成工作。它可能要記住對話、保留工具輸出、追蹤任務進度，並在中斷後從檢查點繼續執行。Valkey 的記憶體內資料結構及向量儲存能力，可以作為這些操作的快速工作記憶；Valkey 亦適用於工作階段儲存及其他即時工作負載。

這裡的關鍵分別，在於「無狀態的模型請求」與模型周邊的「有狀態應用程式」。Valkey 不會代替 AI 代理進行推理，也不會保證代理行為正確；它提供的是容易快速存取的狀態，協助應用程式協調多次模型及工具呼叫。

「託管」對企業團隊有甚麼改變？

自行營運 Valkey，團隊仍要負責配置伺服器、設定複製及故障轉移、監察效能、套用更新、擴充容量，以及規劃可用性。Akamai 的託管方案，則把這些資料庫營運工作交由平台處理，讓開發者可以直接以服務形式使用 Valkey，而不必自行建立整套營運層。Akamai 將產品描述為全託管、高效能平台，目標是減少營運複雜度及縮短實現價值所需時間。

對企業 AI 團隊而言，這是一項重要取捨。託管資料庫可以減少基礎設施工作，但企業仍然需要自行制定資料保留、快取失效、存取控制、持久性、可觀察性及災難恢復政策。

它如何配合 Akamai Inference Cloud？

Akamai Inference Cloud 是公司分散式 AI 策略中的運算及路由一環。平台於 2025 年 10 月推出，目標是把代理式 AI 推理帶到邊緣，放近用戶及裝置。 Valkey Managed Database 則補上推理所需的應用狀態、記憶及檢索層。

理想中的架構，不只是把模型搬到邊緣，而是由幾個部分共同運作：

1. 推理資源：在更接近用戶及資料的位置執行模型工作負載。
2. Valkey：以記憶體儲存經常存取的上下文、embedding、快取結果及工作階段狀態。
3. 向量搜尋：為 RAG 及語義快取找出語義相關資料。
4. 託管營運：減少維持資料層可用所需的日常工作。

Akamai 亦持續擴充支援這套策略的基礎設施。公司宣布部署數以千計的 NVIDIA Blackwell GPU，並表示會利用網絡上的智能路由，減少集中式資料中心常見的延遲及資料流出問題。 Valkey 並不取代這個運算層，而是改善低延遲推理周邊的資料路徑。

對 Akamai 雲端策略有何意義？

這項產品令 Akamai 的定位，由內容傳送及安全服務，進一步延伸至結合運算、資料服務、邊緣執行及防護的分散式雲端方案。公司雲端基礎設施業務亦正增長：2026 年第二季 Cloud Infrastructure Services 收入為 9,900 萬美元，按年增長 39%。

Akamai 在 2026 年第一季業績中另提到，一家領先的前沿模型供應商承諾在七年內投入 18 億美元於 Cloud Infrastructure Services。 這反映公司的基礎設施野心正在擴大，但不能把這項承諾視為專門針對 Valkey 的合約，也不能因此推論 Akamai 分散式 AI 路線的每一部分已經廣泛部署。

為何選擇 Valkey？

Valkey 是一個由社群主導的開源記憶體內鍵值資料庫，源自 Redis 的分支。項目目標包括維持開源模式、兼容 Redis 協定及資料結構，以及支援快取和其他即時工作負載。

對 Akamai 來說，Valkey 提供一套熟悉的高效能資料模型，方便已經了解 Redis 式快取及工作階段儲存的開發者使用；同時，產品亦可接入開源生態系統。這個選擇讓 Akamai 可以進一步發展語義快取及向量檢索等 AI 用途，但 Valkey 並不是所有資料庫類別的通用替代方案。

總結：AI 的「記憶」可能與運算同樣重要

Valkey Managed Database 最適合被理解為 Akamai 分散式 AI 架構中的記憶及檢索層。它的核心賣點很直接：把熱門 AI 資料放在記憶體內、放近用戶及推理資源，在可行時重用既有結果，支援向量檢索，並把資料庫營運工作交給託管服務。

較具潛力的場景包括對延遲敏感的智能助手、RAG 流程、語義快取及有狀態 AI 代理。這次推出的策略意義，在於把 Akamai 的邊緣推理野心，連接到這些應用實際需要的資料基礎設施。

不過，產品目前仍被描述為有限度供應。至於確切的全球覆蓋範圍、渠道合作夥伴供應情況，以及未來會否加入特定地點，仍需額外的產品或合作夥伴文件確認，才可視為已證實。