NVIDIA đẩy mạnh AI cục bộ tại IFA 2026: PAIR và RTX Spark thay đổi điều gì?

NVIDIA đang ghép những mảnh rời rạc vốn khiến AI chạy tại chỗ (local AI) trở nên khó tiếp cận: môi trường suy luận mô hình, phần mềm tác tử AI, nhiều máy tính trong nhà và PC có dung lượng bộ nhớ lớn. Tại IFA 2026, mục tiêu của hãng không chỉ là chạy mô hình không cần Internet, mà là giúp các quy trình tác tử riêng tư hoạt động ngay trên thiết bị dễ triển khai hơn và xử lý tốt hơn các tác vụ song song. 1021

PAIR biến mạng nội bộ thành một “bể” suy luận

Điểm đáng chú ý nhất là NVIDIA Personal AI Router (PAIR), phần mềm beta miễn phí và mã nguồn mở dành cho suy luận cục bộ. PAIR cung cấp cho ứng dụng hoặc tác tử một địa chỉ cục bộ duy nhất, sau đó điều phối từng yêu cầu suy luận độc lập đến máy đã ghép nối phù hợp trong mạng nội bộ. Các điểm cuối proxy tương thích với giao diện kiểu Ollama và OpenAI, nên quy trình đang có không cần viết lại theo một framework tác tử mới. 13

PAIR nhắm đến nút thắt thường xuất hiện khi một tác tử chia việc thành nhiều phần chạy đồng thời hoặc giao việc cho các tác tử con. Thay vì tất cả yêu cầu phải xếp hàng chờ cùng một GPU, PAIR có thể chuyển các yêu cầu tách biệt sang máy đang có sẵn mô hình và công cụ suy luận cần thiết, đồng thời xét tải hiện tại. PAIR hỗ trợ các quy trình dùng Ollama và LM Studio. 11011

PAIR làm được gì — và không làm được gì

Cần phân biệt rõ: PAIR là bộ định tuyến yêu cầu, không phải công nghệ hợp nhất GPU trong nhà thành một bộ tăng tốc duy nhất. Tài liệu của NVIDIA mô tả PAIR là công cụ chọn máy phục vụ từng yêu cầu độc lập. Vì vậy, lợi ích thực tế là tăng năng lực chạy đồng thời và giảm thời gian xếp hàng với các tác vụ có thể tách riêng; nó không cho phép một yêu cầu suy luận duy nhất dùng tổng VRAM của nhiều PC để nạp một mô hình vốn không vừa trên bất kỳ máy nào. 123

NVIDIA liệt kê hỗ trợ cho hệ thống Windows có RTX tương thích, hệ thống DGX Spark và thiết bị macOS. Yêu cầu công bố gồm GPU GeForce RTX dòng 20 trở lên, DGX Spark/GB10 và máy Mac dùng M4 hoặc mới hơn, đi kèm các điều kiện hệ điều hành tương ứng. 8

Với người dùng có máy bàn, laptop và một máy Mac tương thích hoặc DGX Spark cùng kết nối một mạng, phần cứng nhàn rỗi có thể trở nên hữu ích cho các tác vụ AI cục bộ chạy song song. Yếu tố riêng tư cũng là trọng tâm: NVIDIA cho biết prompt, tệp và ngữ cảnh của tác tử vẫn nằm trong mạng tại nhà của người dùng. 48

Bớt rào cản cài đặt tác tử AI cục bộ

NVIDIA cũng đưa Hermes Agent, OpenClaw và Perplexity Portable Computer vào nhóm trải nghiệm được đơn giản hóa để chạy tác tử trên phần cứng NVIDIA tại chỗ. Các trải nghiệm Windows được công bố dựa trên llama.cpp và tích hợp tối ưu suy luận của NVIDIA, giảm nhu cầu tự chọn mô hình, tìm dịch vụ suy luận tương thích rồi tinh chỉnh cấu hình thủ công. 1521

Điều này quan trọng bởi AI cục bộ thường bị cản trở bởi độ phức tạp khi thiết lập, không chỉ bởi sức mạnh phần cứng. Cài đặt một chạm hoặc quy trình có hướng dẫn, tự nhận diện phần cứng tương thích và chọn cấu hình phù hợp, có thể khiến tác tử cục bộ gần gũi hơn đáng kể so với việc tự lắp ghép cả một bộ công cụ. NVIDIA cho biết Hermes sẽ có triển khai một chạm trên hệ thống RTX và DGX chạy Windows lẫn Linux; OpenClaw cũng đang đơn giản hóa thiết lập trên PC Windows dùng RTX được hỗ trợ. 21

Tăng tốc suy luận là động lực ở lớp phần mềm

Hãng còn công bố các tối ưu mới cho llama.cpp và vLLM, với tuyên bố cải thiện suy luận cục bộ lên tới 1,9 lần. Theo NVIDIA, phần mềm cập nhật đã có thể dùng trực tiếp hoặc qua LM Studio; bản cập nhật hiệu năng cho Ollama đang được lên kế hoạch. 1021

Con số này là mức tối đa do nhà cung cấp công bố và phụ thuộc vào khối lượng công việc, không phải cam kết cho mọi mô hình hay GPU. Mức cải thiện thực tế sẽ thay đổi theo kiến trúc mô hình, mức lượng tử hóa, độ dài prompt, phần cứng và việc tác vụ có tách thành các yêu cầu độc lập hay không. Dù vậy, động thái này có ý nghĩa vì NVIDIA tối ưu ngay trong những công cụ mã nguồn mở quen thuộc, thay vì buộc người dùng chuyển sang một giao diện mô hình riêng của hãng. 1017

RTX Spark mở ra phân khúc PC AI cục bộ nhiều bộ nhớ hơn

Ở phía phần cứng, NVIDIA cho biết PC Windows RTX Spark dựa trên nền tảng N1X kiến trúc Arm dự kiến ra mắt vào tháng 10. Cấu hình cao nhất kết hợp CPU Grace 20 nhân với GPU Blackwell RTX, có thể trang bị tối đa 128 GB bộ nhớ hợp nhất và đạt tối đa 1 petaflop hiệu năng AI. 3440

Bộ nhớ hợp nhất đặc biệt liên quan đến AI cục bộ, vì kích thước mô hình và cửa sổ ngữ cảnh có thể bị giới hạn bởi dung lượng bộ nhớ chứ không chỉ tốc độ GPU. RTX Spark hướng tới một phân khúc thiết bị Windows cao cấp hơn cho tác tử cục bộ và khối lượng công việc riêng tư lớn, đồng thời vẫn giữ các năng lực đồ họa thông thường. NVIDIA cho biết các đối tác gồm Lenovo và Acer sẽ đưa thiết kế RTX Spark ra thị trường. 253242

Chiến lược lớn hơn: biến AI cục bộ thành một hệ sinh thái tiêu dùng

Gộp lại, các công bố tại IFA 2026 xử lý bốn rào cản chính đối với việc phổ biến AI cục bộ:

• Triển khai: Ứng dụng tác tử giảm thao tác chọn và cấu hình một bộ công cụ cục bộ. 1521
• Hiệu năng: Các tối ưu cho llama.cpp và vLLM hướng tới suy luận nhanh hơn trên một thiết bị. 1017
• Mở rộng theo chiều ngang cho việc chạy đồng thời: PAIR tận dụng các thiết bị tương thích vốn đang nhàn rỗi để xử lý những yêu cầu cục bộ riêng biệt. 13
• Mở rộng theo chiều dọc cho tác vụ lớn: RTX Spark đưa lên Windows một nền tảng có bộ nhớ hợp nhất lớn hơn nhiều so với cấu hình GPU tiêu dùng thông thường. 4042

Điểm cần lưu ý là mỗi thành phần giải quyết một vấn đề khác nhau. PAIR hữu ích với suy luận có thể song song hóa, nhưng không thể làm một mô hình trở nên nhỏ hơn để vừa với từng máy tham gia. RTX Spark có thể giải quyết phần nào giới hạn đó nhờ cấu hình bộ nhớ hợp nhất lớn, nhưng đây là phần cứng mới chứ không phải bản nâng cấp miễn phí cho PC hiện có. Còn các tuyên bố về hiệu năng của NVIDIA vẫn cần được kiểm chứng trên những khối lượng công việc thực tế. 1240

Dù vậy, gói công bố tại IFA 2026 cho thấy một hướng đi nhất quán: NVIDIA muốn AI cục bộ bớt giống một tập hợp ngách gồm mô hình và công cụ dòng lệnh, để trở thành một lựa chọn điện toán cá nhân tích hợp hơn cho người dùng tác tử AI, nhà sáng tạo và lập trình viên muốn kiểm soát tốt hơn nơi công việc AI của mình được xử lý. 1014