Câu trả lờiĐã xuất bản16 nguồn
Nvidia PAIR biến các PC trong nhà thành cụm AI cục bộ — nhưng không gộp VRAM
PAIR beta miễn phí và mã nguồn mở định tuyến các yêu cầu suy luận AI độc lập đến PC tương thích đang rảnh trong mạng nội bộ; nó tăng thông lượng chạy song song, nhưng không gộp VRAM hoặc chia một yêu cầu cho nhiều máy. Nvidia cũng công bố tối ưu hóa llama.cpp và vLLM với tuyên bố suy luận cục bộ nhanh hơn tới 1,9 lầ...
Đăng bởiBiên tập bằng GPT-5.6 TerraHình ảnh được tạo bằng GPT Image 2
Câu trả lời nghiên cứu
Bài học chính
- PAIR beta miễn phí và mã nguồn mở định tuyến các yêu cầu suy luận AI độc lập đến PC tương thích đang rảnh trong mạng nội bộ; nó tăng thông lượng chạy song song, nhưng không gộp VRAM hoặc chia một yêu cầu cho nhiều máy.
- Nvidia cũng công bố tối ưu hóa llama.cpp và vLLM với tuyên bố suy luận cục bộ nhanh hơn tới 1,9 lần, cùng các PC Windows RTX Spark cỡ nhỏ dự kiến ra mắt vào tháng 10/2026.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at IFA 2026 about its local-AI strategy, including how its free open-source Personal AI Router (PAIR) pools compati. Article summary: At IFA 2026, Nvidia positioned local AI as a private, multi-device “home cluster” strategy: simplify agent setup, speed inference, and let agents use otherwise idle PCs on a local network. The central new software is PAI. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Nvidia đã dùng IFA 2026 để trình bày chiến lược AI cục bộ xoay quanh một ý tưởng dễ hiểu: những PC sẵn có trong mạng gia đình có thể trở thành một nguồn năng lực suy luận riêng tư. Công bố phần mềm đáng chú ý nhất là NVIDIA Personal AI Router (PAIR), bản beta miễn phí, mã nguồn mở, dùng để chuyển các yêu cầu từ ứng dụng và AI agent đến những máy tương thích đang sẵn sàng trong mạng nội bộ. Nvidia cũng công bố các cải tiến cho việc thiết lập agent cục bộ, tối ưu suy luận và các hệ thống Windows RTX Spark cỡ nhỏ dự kiến xuất hiện vào tháng 10/2026. 3
8
PAIR hoạt động thế nào?
PAIR cung cấp cho ứng dụng và agent một điểm kết nối cục bộ duy nhất, tương thích với các endpoint proxy của Ollama và OpenAI. Phần mềm tự tìm các máy phù hợp trong mạng nội bộ, rồi định tuyến từng yêu cầu suy luận độc lập dựa trên mức sẵn sàng của engine, mô hình và tải hiện tại. 1
7
Cách làm này phù hợp với các quy trình agent tạo ra nhiều tác vụ tách biệt cùng lúc. Thay vì mọi tác vụ đều xếp hàng chờ một GPU, PAIR có thể gửi các yêu cầu riêng lẻ đến những máy khác còn năng lực. Nvidia mô tả đây là một cụm suy luận AI cá nhân tại nhà, không cần phần cứng cụm chuyên dụng, tủ rack hay quy trình thiết lập phức tạp. 7
16
Điểm cần hiểu rõ: PAIR phân phối việc, không hợp nhất phần cứng
Giới hạn quan trọng nhất của PAIR là: đây không phải suy luận mô hình phân tán.
- PAIR không gộp VRAM của nhiều PC thành một vùng bộ nhớ lớn hơn.
- Nó không chia nhỏ một mô hình để chạy trên nhiều máy.
- Nó không tách một yêu cầu suy luận sang nhiều GPU.
- Mỗi yêu cầu từ Ollama hoặc LM Studio vẫn được thực thi trên một hệ thống đủ điều kiện; lợi ích nằm ở thông lượng tốt hơn khi có nhiều yêu cầu độc lập.
1
Nói ngắn gọn, PAIR giúp một gia đình hoặc home lab chạy đồng thời nhiều tác vụ agent hơn. Nhưng nó không thể khiến một mô hình vốn vượt quá dung lượng bộ nhớ của từng máy riêng lẻ chạy được nhờ cộng dồn tài nguyên của các máy đó.
Những hệ thống nào có thể tham gia cụm PAIR?
Theo Nvidia, PAIR kết nối các hệ thống Windows, Linux và macOS tương thích trên cùng một mạng nội bộ đáng tin cậy. Phần cứng được hỗ trợ gồm PC GeForce RTX từ dòng 20 trở lên, hệ thống RTX PRO dựa trên Turing hoặc mới hơn, DGX Spark và máy Mac dùng Apple M4 hoặc mới hơn. Hỗ trợ Windows on Arm hiện ở trạng thái thử nghiệm. 1
6
PAIR có thể vận hành bằng giao diện đồ họa hoặc dòng lệnh, kể cả trong thiết lập không màn hình và qua SSH. Hướng dẫn cài đặt của Nvidia nêu rằng PAIR cần được cài trên máy đang chạy ứng dụng; máy khách này có thể chuyển việc đến engine suy luận trên một máy đã ghép nối khác, vì vậy bản thân nó không nhất thiết phải có GPU hay engine suy luận cục bộ. 1
Với các quy trình nhạy cảm về quyền riêng tư, Nvidia cho biết PAIR giữ prompt, tệp và ngữ cảnh agent trong mạng tại nhà. Trong cấu hình hoàn toàn cục bộ, phản hồi cũng ở lại trong mạng này. Tuy nhiên, điều đó còn phụ thuộc vào mô hình, ứng dụng và việc người dùng có chọn dùng dịch vụ đám mây hay không. 6
7
Thiết lập agent AI cục bộ được đơn giản hóa
Nvidia cho biết họ sẽ bổ sung hỗ trợ mô hình cục bộ đơn giản hơn trên GPU Nvidia cho Hermes Agent, OpenClaw và Perplexity Portable Computer trên Windows. Công việc này dùng llama.cpp cùng các tối ưu suy luận của Nvidia nhằm giảm bớt khâu thiết lập thủ công khi chọn mô hình, máy chủ và cấu hình lượng tử hóa. 8
Theo Nvidia, Perplexity Portable Computer hiện đã có trên các hệ thống Linux dùng GPU Nvidia RTX với ít nhất 24 GB VRAM; hỗ trợ Windows sẽ được bổ sung sau. Công cụ này có thể chạy quy trình cục bộ không cần credit, đồng thời cho phép — khi người dùng cấp quyền — chuyển tác vụ lên hơn 15 mô hình AI tiên tiến trên đám mây. 8
Nvidia tuyên bố suy luận cục bộ nhanh hơn tới 1,9 lần
Nvidia cho biết các tối ưu mới cho llama.cpp và vLLM có thể mang lại tốc độ suy luận cục bộ nhanh hơn tới 1,9 lần. Các tối ưu này hiện có trực tiếp, đồng thời được cung cấp thông qua LM Studio và Ollama. 8
Cụm từ “tới 1,9 lần” là tuyên bố hiệu năng từ nhà cung cấp, không phải mức tăng được đảm bảo cho mọi mô hình hay mọi PC. Kết quả thực tế sẽ phụ thuộc vào mô hình, mức lượng tử hóa, GPU, dung lượng bộ nhớ, cấu hình phần mềm và kiểu tải công việc.
PC Windows RTX Spark dự kiến ra mắt tháng 10/2026
Nvidia cho biết các PC Windows RTX Spark cỡ nhỏ do Lenovo và Acer sản xuất dự kiến xuất hiện vào tháng 10/2026. Hãng định vị các hệ thống này cho người đam mê AI, nhà phát triển và nhà sáng tạo muốn chạy agent tại chỗ, trong môi trường bảo mật. 8
Nvidia nhấn mạnh mức tối đa 128 GB bộ nhớ hợp nhất phục vụ tạo mẫu, tinh chỉnh và suy luận cục bộ. Bên cạnh đó là các tính năng chơi game RTX như ray tracing, DLSS, Reflex và G-SYNC. Hãng cũng nêu tên Electronic Arts, Embark và Ubisoft là các nhà phát triển đưa game bom tấn lên RTX Spark. 8
Các thông báo được cung cấp chưa xác nhận thông số chi tiết của CPU/GPU N1X, tên model cụ thể của Lenovo hay Acer, hoặc danh mục game đầy đủ. Vì vậy, những chi tiết đó chưa nên được xem là thông tin đã được xác thực từ tài liệu hiện có.
Các mô hình và phần mềm Nvidia nêu bật cho RTX Spark
Trong thông báo về RTX Spark, Nvidia đề cập các mô hình, công cụ và quy trình AI cục bộ sau:
- Nemotron 3.5 Lightning
- Qwen3.8-27B
- LTX 2.5
- FastH3 recipes, sắp ra mắt
- Meta Muse Glimmer với lượng tử hóa NVFP4
- CyberLink PhotoDirector AI PC Mode, được tối ưu cho RTX Spark ngay khi ra mắt
8
Điều quan trọng nhất với người dùng
Nên xem PAIR như một bộ điều phối cho home lab có nhiều loại máy, thay vì công cụ “hợp thể” nhiều PC tiêu dùng thành một GPU khổng lồ. Khi một agent AI cục bộ có thể tách công việc thành các yêu cầu độc lập, PAIR có thể tận dụng phần năng lực nhàn rỗi của thiết bị RTX, DGX Spark và phần cứng Apple được hỗ trợ để xử lý nhiều yêu cầu đồng thời hơn, trong khi vẫn giữ ranh giới mạng nội bộ. 1
6
Kết hợp với việc cài đặt agent đơn giản hơn và các tối ưu llama.cpp, vLLM mà Nvidia công bố, PAIR là bước đẩy hướng tới AI đa thiết bị tại chỗ dễ tiếp cận hơn. Đổi lại, nguyên tắc cốt lõi không thay đổi: mỗi yêu cầu riêng lẻ vẫn phải vừa bộ nhớ và chạy được trên một máy đủ điều kiện. 1
8
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Nvidia PAIR biến các PC trong nhà thành cụm AI cục bộ — nhưng không gộp VRAM" là gì?
PAIR beta miễn phí và mã nguồn mở định tuyến các yêu cầu suy luận AI độc lập đến PC tương thích đang rảnh trong mạng nội bộ; nó tăng thông lượng chạy song song, nhưng không gộp VRAM hoặc chia một yêu cầu cho nhiều máy.
Những điểm chính cần xác nhận đầu tiên là gì?
PAIR beta miễn phí và mã nguồn mở định tuyến các yêu cầu suy luận AI độc lập đến PC tương thích đang rảnh trong mạng nội bộ; nó tăng thông lượng chạy song song, nhưng không gộp VRAM hoặc chia một yêu cầu cho nhiều máy. Nvidia cũng công bố tối ưu hóa llama.cpp và vLLM với tuyên bố suy luận cục bộ nhanh hơn tới 1,9 lần, cùng các PC Windows RTX Spark cỡ nhỏ dự kiến ra mắt vào tháng 10/2026.