Desktop 192 GB của Framework: bước tiến lớn cho AI chạy ngay trên máy tính

Framework đang chuẩn bị một phiên bản Desktop hướng đến đúng “nút thắt cổ chai” của AI chạy cục bộ: làm sao đưa các mô hình ngôn ngữ lớn vào bộ nhớ của một chiếc máy nhỏ mà không cần GPU rời.

Cấu hình cao cấp này dùng AMD Ryzen AI Max+ PRO 495, đi kèm tối đa 192 GB bộ nhớ hợp nhất LPDDR5X-8533 và băng thông 273 GB/s. Trong khi đó, Microsoft được cho là đang thử nghiệm một tính năng Windows 11 giúp người dùng dành riêng một phần bộ nhớ hợp nhất cho GPU và các tác vụ AI. Tính năng này vẫn chưa hoàn thiện và chưa được Microsoft công bố chính thức.

Hai diễn biến trên cùng cho thấy một thay đổi đáng chú ý trong thiết kế PC: với AI chạy tại chỗ, dung lượng và băng thông bộ nhớ quan trọng không kém sức mạnh bộ xử lý. Tuy nhiên, điều đó không có nghĩa AI đám mây sẽ biến mất.

Framework Desktop 192 GB có gì đặc biệt?

Cấu hình sắp ra mắt sử dụng Ryzen AI Max+ PRO 495, bộ xử lý 16 nhân, 32 luồng dựa trên kiến trúc Zen 5, kết hợp đồ họa Radeon tích hợp và NPU XDNA 2. Framework công bố máy có 192 GB bộ nhớ LPDDR5X hợp nhất, băng thông 273 GB/s — tăng 50% dung lượng so với cấu hình Ryzen AI Max+ 395 trước đây và tăng 6,6% băng thông so với nền tảng 256 GB/s. 12316

“Bộ nhớ hợp nhất” nghĩa là CPU và GPU tích hợp cùng sử dụng một vùng bộ nhớ vật lý, thay vì tách thành RAM hệ thống và VRAM riêng. Framework cho biết tối đa 160 GB trong tổng số 192 GB có thể được phân bổ cho iGPU. Đây là điểm hấp dẫn nhất đối với người dùng LLM cục bộ: nhiều trọng số của mô hình có thể nằm trên cùng một máy, thay vì phải chia giữa VRAM hạn chế của GPU rời và RAM hệ thống chậm hơn. 110

Đổi lại, 273 GB/s là con số đáng kể đối với một máy tính nhỏ nhưng vẫn thấp hơn nhiều hệ thống bộ nhớ hợp nhất cao cấp. Một mô hình “có thể tải vào bộ nhớ” chưa chắc đã tạo văn bản nhanh. Độ dài ngữ cảnh, ứng dụng chạy nền và số lượng người dùng cùng truy cập đều có thể cạnh tranh băng thông bộ nhớ.

Máy có thể chạy những mô hình nào?

Framework đã trình diễn hệ thống chạy cục bộ phiên bản DeepSeek V4-Flash được lượng tử hóa ở mức Q8, đồng thời vẫn còn chỗ cho ngữ cảnh bổ sung, theo các bài viết về bản xem trước của công ty. 714 Một báo cáo khác cho rằng cấu hình 192 GB có thể chứa trong bộ nhớ một mô hình khoảng 284 tỷ tham số. Tuy nhiên, đây nên được hiểu là tuyên bố về sức chứa bộ nhớ, không phải kết quả benchmark độc lập về tốc độ sinh văn bản. 4

Lượng tử hóa đóng vai trò then chốt. Việc biểu diễn trọng số bằng số bit thấp hơn giúp giảm dung lượng cần thiết, nhưng yêu cầu thực tế còn phụ thuộc vào kiến trúc mô hình, phần bộ nhớ dành cho runtime, cửa sổ ngữ cảnh và các ứng dụng khác đang chạy.

Nói cách khác:

• Dung lượng bộ nhớ quyết định mô hình có khả năng được tải hay không.
• Băng thông bộ nhớ ảnh hưởng lớn đến tốc độ di chuyển dữ liệu trong quá trình suy luận.
• Phần mềm và bộ tăng tốc quyết định mô hình có chạy ổn định, nhanh và hiệu quả hay không.

Vì vậy, 192 GB không đồng nghĩa với việc mọi mô hình 192 GB đều vận hành mượt mà.

IntelligentCarveout của Windows 11 có thể thay đổi điều gì?

Microsoft được cho là đang thử nghiệm một tính năng nội bộ mang tên “IntelligentCarveout” trong bản Windows 11 thử nghiệm 29648.1000. Các chuỗi văn bản được phát hiện trong bản dựng này đề cập đến “Reserved memory for accelerators” và “Memory for graphics and AI acceleration”. Mục tiêu dường như là cho phép Windows dành riêng một phần bộ nhớ hợp nhất cho đồ họa và các ứng dụng AI chuyên sâu, thay vì để toàn bộ bộ nhớ được phân bổ động. 333435

Điều này có thể hữu ích trên những hệ thống mà Windows, ứng dụng thông thường và runtime AI cùng tranh giành một vùng bộ nhớ. Một vùng bộ nhớ được dành riêng có thể giúp tác vụ phục vụ mô hình có quyền truy cập ổn định hơn, đồng thời hạn chế lỗi cấp phát khi các chương trình khác đang hoạt động.

Nhưng IntelligentCarveout không tạo thêm RAM, không làm bộ nhớ nhanh hơn và cũng không bổ sung bộ tăng tốc AI mới. Phần bộ nhớ đã dành riêng cho AI sẽ không còn sẵn sàng cho các ứng dụng Windows thông thường. Nếu dành quá nhiều cho AI, người dùng sẽ còn ít bộ nhớ hơn cho trình duyệt, phần mềm văn phòng hoặc các tác vụ khác. 3640

Microsoft chưa xác nhận giao diện cuối cùng, phần cứng được hỗ trợ, thời điểm phát hành hay việc tính năng này có xuất hiện trong bản Windows chính thức hay không. Nó vẫn có thể bị thay đổi, giới hạn hoặc hủy bỏ. 364044

Khả năng nâng cấp: có tính mô-đun nhưng RAM không thể thay

Framework định vị Desktop là một mẫu máy tính nhỏ gọn có tính mô-đun và dễ sửa chữa hơn nhiều đối thủ. Cấu hình mới dự kiến vẫn giữ khe mở rộng PCIe x4, cho phép người dùng bổ sung phần cứng tương thích trong tương lai. 13

Tuy nhiên, bộ nhớ 192 GB LPDDR5X lại được hàn trực tiếp trên bo mạch, không phải các thanh DIMM có thể tháo lắp. Người mua nên xem dung lượng đã chọn là cố định. Nếu sau này cần nhiều bộ nhớ hơn, phương án thực tế thường sẽ là thay bo mạch chủ, thay vì nâng RAM theo cách truyền thống. 13

Framework liệt kê các nhu cầu sử dụng với Windows và Linux, đồng thời có tùy chọn cài sẵn Linux. 2 Dù vậy, khả năng chạy LLM cục bộ vẫn phụ thuộc vào runtime và phương thức tăng tốc được chọn.

Trên hệ thống AMD, người dùng có thể dựa vào các stack phần mềm như ROCm hoặc Vulkan. Trong khi đó, các nền tảng bộ nhớ hợp nhất khác thường nhấn mạnh hệ sinh thái Metal/MLX của Apple hoặc CUDA của NVIDIA. Những hệ sinh thái này không hoàn toàn thay thế cho nhau: một mô hình chạy tốt trên nền tảng này có thể cần runtime khác, thiếu kernel tối ưu hoặc không đạt hiệu năng tương đương trên nền tảng kia. 1924

Giá bán và thời điểm lên kệ vẫn là dấu hỏi

Tính đến ngày 31/8/2026, Framework vẫn liệt kê Desktop Ryzen AI Max+ PRO 495 bản 192 GB là “coming soon”. Công ty chưa công bố giá, ngày đặt trước, ngày giao hàng hay cam kết phân phối rộng rãi. 21011

Vì vậy, còn quá sớm để kết luận sản phẩm có đáng tiền hay không. Đây mới là cấu hình được giới thiệu trước, còn các màn trình diễn của hãng không thể thay thế bài kiểm tra độc lập về tốc độ token, nhiệt độ, mức tiêu thụ điện, khả năng tương thích mô hình và hiệu năng duy trì trong thời gian dài. 6

Đặt cạnh Apple, AMD và NVIDIA thì sao?

Framework không phải công ty đầu tiên theo đuổi thiết kế này. Apple Silicon đã phổ biến mô hình bộ nhớ dùng chung giữa CPU và GPU. Một số cấu hình Apple được báo cáo có băng thông cao hơn đáng kể, chẳng hạn Mac Studio dùng M4 Max với 128 GB bộ nhớ hợp nhất và băng thông 546 GB/s. 1720

Ở phân khúc PC nhỏ gọn, các hệ thống dùng Ryzen AI Max+ 395 của GMKtec, Beelink và một số nhà sản xuất khác cung cấp lựa chọn bộ nhớ hợp nhất 128 GB. NVIDIA DGX Spark lại ưu tiên khả năng tương thích với CUDA trong một thiết kế nhỏ gọn, dung lượng bộ nhớ cao. 1924

Sự khác biệt giữa các hệ thống nằm ở năm yếu tố chính:

• Dung lượng: quyết định mô hình lượng tử hóa có thể nằm trọn trong máy hay phải chuyển bớt dữ liệu sang vùng bộ nhớ khác.
• Băng thông: ảnh hưởng trực tiếp đến tốc độ xử lý dữ liệu trong lúc suy luận.
• Phần mềm: quyết định runtime, kernel và công cụ phục vụ mô hình nào hoạt động hiệu quả.
• Khả năng nâng cấp: đặc biệt quan trọng vì LPDDR5X hợp nhất thường được cố định ngay từ lúc mua.
• Giá và nguồn hàng: biến một sản phẩm xem trước thành lựa chọn mua sắm thực tế — hoặc ngược lại.

Bài học lớn hơn cho thị trường AI cục bộ

Thông số đáng chú ý nhất của Framework Desktop không phải chỉ số TOPS của NPU, mà là vùng bộ nhớ hợp nhất có dung lượng bất thường. Thử nghiệm IntelligentCarveout của Microsoft cũng củng cố cùng một thông điệp: khi PC bắt đầu chạy các mô hình lớn tại chỗ, cách hệ điều hành quản lý bộ nhớ sẽ trở thành một phần quan trọng của trải nghiệm AI.

Điều này không có nghĩa máy tính cá nhân sẽ thay thế hạ tầng AI đám mây. Các hệ thống bộ nhớ hợp nhất nhỏ gọn phù hợp khi người dùng muốn chạy mô hình trên một thiết bị duy nhất, làm việc ngoại tuyến hoặc giữ dữ liệu trong phạm vi kiểm soát. Ngược lại, đám mây vẫn có lợi thế với các mô hình tiên phong, năng lực mở rộng linh hoạt, làm việc cộng tác và những tác vụ cần thông lượng đa GPU rất cao.

Kết luận thực tế hơn là khái niệm “PC AI” đang vượt ra ngoài một trợ lý chạy trên NPU. Với đủ bộ nhớ hợp nhất, một chiếc desktop nhỏ có thể trở thành máy chủ mô hình cá nhân. Nhưng trước khi xuống tiền, người dùng vẫn cần chờ benchmark độc lập, kiểm tra băng thông thực tế, khả năng hỗ trợ phần mềm, giới hạn bộ nhớ cố định và thời điểm Framework chính thức bán sản phẩm.