Trong quy trình điển hình, ứng dụng chuyển truy vấn mới thành embedding, tìm một yêu cầu tương tự trong bộ nhớ đệm và chỉ gọi mô hình khi không có kết quả phù hợp. Với các tác vụ có nhiều câu hỏi trùng lặp hoặc gần giống nhau, cách này có thể rút ngắn thời gian phản hồi và giảm số lần gọi mô hình.
Tuy nhiên, mức tiết kiệm phụ thuộc vào tỷ lệ truy cập trúng bộ nhớ đệm, yêu cầu về độ mới của dữ liệu và quy trình cụ thể của mô hình. Bộ nhớ đệm không phải giải pháp thay thế cho mọi hệ thống truy xuất hoặc suy luận.
Các ứng dụng RAG thường chuyển tài liệu và truy vấn thành embedding, sau đó tìm những vector gần nhất trước khi gửi phần ngữ cảnh phù hợp cho mô hình. Valkey hỗ trợ quy trình tìm kiếm vector, cho phép cùng một lớp dữ liệu trong bộ nhớ xử lý dữ liệu dạng khóa-giá trị, nội dung được lưu đệm và truy xuất vector.
Với một số ứng dụng, điều này có thể đơn giản hóa đường dẫn truy xuất và giảm nhu cầu vận hành thêm một cơ sở dữ liệu vector chuyên biệt. Dù vậy, không phải hệ thống RAG nào cũng nên từ bỏ cơ sở dữ liệu chuyên dụng; khối lượng dữ liệu, độ bền, khả năng lọc, cơ chế lập chỉ mục và yêu cầu nhất quán vẫn quyết định kiến trúc phù hợp.
Tác tử AI thường hoạt động qua nhiều bước. Chúng có thể cần ghi nhớ cuộc hội thoại, giữ lại kết quả từ công cụ, theo dõi tiến độ nhiệm vụ và khôi phục một điểm kiểm tra trước khi tiếp tục.
Các cấu trúc dữ liệu trong bộ nhớ và khả năng làm kho vector của Valkey có thể cung cấp lớp “bộ nhớ làm việc” nhanh cho những hoạt động này. Valkey cũng được sử dụng cho lưu trữ phiên và các tác vụ thời gian thực khác.
Điểm cần phân biệt là giữa một yêu cầu mô hình không trạng thái và ứng dụng có trạng thái bao quanh mô hình. Valkey không cung cấp năng lực suy luận cho tác tử và cũng không bảo đảm tác tử hoạt động chính xác; nó chỉ cung cấp trạng thái vận hành có thể truy cập nhanh để ứng dụng điều phối nhiều lần gọi mô hình và công cụ.
Nếu tự vận hành Valkey, đội ngũ kỹ thuật phải cấp phát máy chủ, thiết lập sao chép và chuyển đổi dự phòng, giám sát hiệu năng, cập nhật phần mềm, mở rộng dung lượng và lập kế hoạch bảo đảm tính sẵn sàng. Dịch vụ của Akamai được thiết kế để chuyển phần công việc vận hành cơ sở dữ liệu đó sang nền tảng, giúp nhà phát triển sử dụng Valkey như một dịch vụ thay vì tự xây dựng lớp vận hành. Akamai mô tả đây là nền tảng trong bộ nhớ hiệu năng cao, được quản lý hoàn toàn, nhằm giảm độ phức tạp và rút ngắn thời gian đưa sản phẩm vào sử dụng.
Đây là sự đánh đổi đáng chú ý với các đội ngũ AI doanh nghiệp. Dịch vụ được quản lý có thể giảm công việc hạ tầng, nhưng doanh nghiệp vẫn phải tự thiết kế chính sách lưu giữ dữ liệu, vô hiệu hóa bộ nhớ đệm, kiểm soát truy cập, độ bền, khả năng quan sát và khôi phục.
Akamai Inference Cloud là lớp tính toán và định tuyến trong chiến lược AI phân tán của công ty. Ra mắt tháng 10/2025, nền tảng này được thiết kế để đưa năng lực suy luận AI có tính tác tử đến biên mạng, gần người dùng và thiết bị.
Valkey Managed Database bổ sung lớp bộ nhớ và truy xuất liền kề cho trạng thái mà hoạt động suy luận cần đến. Kiến trúc mà Akamai hướng tới gồm:
Akamai cũng đang mở rộng hạ tầng phía sau hướng tiếp cận này. Công ty công bố kế hoạch triển khai hàng nghìn GPU NVIDIA Blackwell cho các workload AI phân tán và mô tả việc định tuyến thông minh trên mạng lưới của mình như một cách giảm độ trễ cũng như các vấn đề về phí và lưu lượng dữ liệu ra khỏi trung tâm dữ liệu tập trung.
Valkey không thay thế lớp tính toán đó. Vai trò của nó là cải thiện đường dẫn dữ liệu bao quanh năng lực suy luận độ trễ thấp.
Valkey Managed Database cho thấy Akamai muốn mở rộng vị thế từ phân phối nội dung và bảo mật sang một hệ thống đám mây phân tán tích hợp hơn, gồm tính toán, dịch vụ dữ liệu, thực thi tại biên và bảo vệ hạ tầng.
Động thái này xuất hiện trong bối cảnh mảng hạ tầng của công ty tăng trưởng nhanh. Doanh thu Cloud Infrastructure Services đạt 99 triệu USD trong quý II/2026, tăng 39% so với cùng kỳ năm trước.
Trong kết quả quý I, Akamai cũng cho biết một nhà cung cấp mô hình nền tảng hàng đầu đã cam kết 1,8 tỷ USD trong bảy năm cho Cloud Infrastructure Services. Tuy nhiên, con số này không phải hợp đồng riêng cho Valkey và cũng chưa chứng minh rằng mọi thành phần trong lộ trình AI phân tán của Akamai đã được triển khai rộng rãi.
Valkey là cơ sở dữ liệu khóa-giá trị trong bộ nhớ mã nguồn mở, do cộng đồng phát triển và bắt nguồn từ một nhánh tách ra của Redis. Dự án hướng tới việc duy trì mô hình mã nguồn mở, khả năng tương thích với giao thức và cấu trúc dữ liệu Redis, đồng thời hỗ trợ bộ nhớ đệm cùng nhiều workload thời gian thực.
Với Akamai, Valkey cung cấp mô hình dữ liệu hiệu năng cao quen thuộc với các nhà phát triển đã sử dụng bộ nhớ đệm và lưu trữ phiên theo kiểu Redis. Lựa chọn này cũng tạo nền tảng cho các trường hợp sử dụng AI như bộ nhớ đệm ngữ nghĩa và truy xuất vector, mà không biến Valkey thành sự thay thế cho mọi loại cơ sở dữ liệu.
Có thể hiểu Valkey Managed Database là lớp bộ nhớ và truy xuất trong kiến trúc AI phân tán của Akamai. Giá trị cốt lõi của dịch vụ khá rõ ràng: giữ dữ liệu AI “nóng” trong bộ nhớ, đặt dữ liệu gần người dùng và năng lực suy luận hơn, tái sử dụng kết quả khi có thể, hỗ trợ truy xuất dựa trên vector và chuyển phần vận hành cơ sở dữ liệu cho một dịch vụ được quản lý.
Những trường hợp phù hợp nhất gồm trợ lý AI nhạy cảm với độ trễ, đường ống RAG, bộ nhớ đệm ngữ nghĩa và các tác tử AI có trạng thái. Dù vậy, sản phẩm hiện vẫn được mô tả là mới ở giai đoạn cung cấp giới hạn. Các tuyên bố về phạm vi phủ sóng toàn cầu, khả năng cung cấp qua đối tác kênh hoặc những địa điểm triển khai trong tương lai cần thêm tài liệu sản phẩm hay tài liệu từ đối tác trước khi được xem là đã xác nhận.