OpenAI được cho là mua hàng chục nghìn máy Mac: Không phải để thay thế các cụm GPU Nvidia

Việc OpenAI được cho là mua hàng chục nghìn máy Mac nghe có vẻ đi ngược với hình dung quen thuộc về hạ tầng AI: những trung tâm dữ liệu khổng lồ với hàng nghìn GPU Nvidia. Tuy nhiên, các báo cáo hiện có cho thấy đây có thể là một bài toán khác.

OpenAI nhiều khả năng cần một số lượng lớn môi trường macOS độc lập để huấn luyện và đánh giá AI agent có khả năng thao tác máy tính — không phải dùng Mac để thay thế các cụm GPU phục vụ huấn luyện mô hình nền tảng quy mô lớn. Số lượng máy được mua và cách triển khai cụ thể vẫn chưa được OpenAI xác nhận độc lập. 111

AI agent cần những chiếc máy tính “thật”

Một AI agent thao tác máy tính không chỉ trả lời bằng văn bản. Nó có thể phải mở trình duyệt, nhấp vào các nút trên giao diện, quản lý tệp, chỉnh sửa mã nguồn, xử lý quyền truy cập và phản ứng trước những thay đổi bất ngờ trên màn hình.

Để cải thiện khả năng này, các phòng thí nghiệm AI cần cho agent thực hiện rất nhiều lần thử trong môi trường gần với máy tính thực tế. Mỗi lần thử — chẳng hạn mở một ứng dụng, tìm tài liệu hoặc hoàn thành một chuỗi thao tác — có thể tạo ra dữ liệu để đánh giá và huấn luyện tiếp.

Một đội máy Mac nhỏ gọn có thể cung cấp hàng nghìn “nhân công” macOS độc lập cho các phiên chạy như vậy. Mac mini và Mac Studio vì thế có thể đóng vai trò là:

• môi trường sandbox cho AI agent;
• máy đánh giá và kiểm thử;
• điểm cuối phục vụ suy luận;
• máy điều phối agent; và
• tác nhân thực hiện các lượt chạy trong học tăng cường.

Trong học tăng cường, hệ thống AI tạo ra nhiều lần thử hoặc “quỹ đạo” tương tác trong một môi trường, sau đó dùng kết quả để điều chỉnh chính sách hoạt động. Khi môi trường đó là một desktop thực, việc có sẵn hệ điều hành và ứng dụng thật có thể đơn giản hơn so với mô phỏng mọi hành vi bằng máy ảo hoặc trình giả lập.

Các báo cáo cũng cho biết Anthropic đang thuê năng lực Mac thông qua Amazon Web Services cho những công việc tương tự. 126

Lợi thế lớn nhất của Apple là bộ nhớ hợp nhất

Apple Silicon tích hợp CPU, GPU và các tài nguyên xử lý AI quanh một vùng bộ nhớ hợp nhất. Thay vì luôn phải sao chép dữ liệu giữa RAM hệ thống và bộ nhớ đồ họa riêng như trong mô hình CPU kết hợp GPU rời truyền thống, các thành phần này có thể truy cập chung một vùng nhớ. 5

Với AI chạy cục bộ, dung lượng bộ nhớ đôi khi quan trọng hơn con số hiệu năng tăng tốc AI trên lý thuyết. Một vùng nhớ lớn có thể chứa trọng số mô hình, trạng thái ứng dụng, dữ liệu đầu vào, bộ nhớ đệm ngữ cảnh và phần mềm suy luận trên cùng một máy.

Kiến trúc này đặc biệt hữu ích cho:

• phục vụ mô hình ngay trên thiết bị;
• chạy mô hình ngôn ngữ lớn đã lượng tử hóa;
• đánh giá và điều phối AI agent;
• chuẩn bị, tiền xử lý dữ liệu; và
• các hệ thống riêng tư hoặc hoạt động ngoại tuyến.

Tuy vậy, bộ nhớ hợp nhất không biến Mac thành lựa chọn nhanh nhất cho mọi loại AI. Apple Silicon không có cùng hệ sinh thái phần mềm, công cụ huấn luyện phân tán và kết nối liên máy quy mô lớn như các cụm GPU trung tâm dữ liệu.

Kịch bản thực tế hơn là hạ tầng lai: GPU vẫn đảm nhiệm huấn luyện phân tán với thông lượng cao, trong khi Mac hoặc các máy cục bộ khác phụ trách nhiều lượt chạy song song, kiểm thử, đánh giá agent và suy luận tại điểm cuối.

Mac mini và Mac Studio mới phù hợp với hai vai trò khác nhau

Dòng máy để bàn mới của Apple tạo ra hai tầng phần cứng khá rõ ràng. Mac mini mới có giá khởi điểm 899 USD, với lựa chọn chip M6 hoặc M5 Pro. Mac Studio bắt đầu từ 2.499 USD với M5 Max và 5.499 USD với M5 Ultra. Apple cho biết các máy sẽ bắt đầu được cung cấp từ ngày 22 tháng 9. 171826

M6 là chip Mac đầu tiên của Apple được sản xuất trên tiến trình 2 nanomet, trong khi M5 Ultra là lựa chọn hướng đến các cấu hình bộ nhớ lớn. Apple cho biết M5 Ultra có thể được trang bị tối đa 512 GB bộ nhớ hợp nhất và băng thông bộ nhớ 1,2 TB/giây, đủ để chạy cục bộ các mô hình ngôn ngữ có hàng trăm tỷ tham số. 2133

Nếu đặt trong một hệ thống AI quy mô lớn, hai dòng máy có thể được phân công như sau:

• Mac mini: các nút nhỏ gọn, chi phí thấp hơn để mở rộng số lượng môi trường agent, kiểm thử và chạy suy luận nhẹ.
• Mac Studio: máy trạm có bộ nhớ lớn cho nhà phát triển, nhà nghiên cứu, chạy mô hình cục bộ và những tác vụ khó vừa trên GPU phổ thông.

Vì vậy, nếu thông tin về các thương vụ mua máy là chính xác, chiến lược này có thể là xây dựng một đội máy nhiều tầng: nhiều Mac mini cho các môi trường độc lập, kết hợp Mac Studio mạnh hơn cho mô hình lớn và công việc phát triển.

Mac Studio M5 Ultra 256 GB chạy được mô hình nào?

Phiên bản 256 GB là cấu hình đáng kể nhưng chưa phải mức bộ nhớ cao nhất của M5 Ultra. Về cơ bản, máy có thể chạy khá thoải mái các mô hình khoảng 70 tỷ tham số, đặc biệt là những phiên bản đã lượng tử hóa, đồng thời vẫn chừa chỗ cho hệ điều hành, cửa sổ ngữ cảnh và bộ máy suy luận.

Một mô hình 70 tỷ tham số ở mức lượng tử hóa 4-bit thường cần khoảng 40–48 GB bộ nhớ có thể truy cập, tùy phương pháp lượng tử hóa và cách triển khai. 54

Dung lượng 256 GB cũng có thể chứa một số mô hình lớn hơn nhiều nếu chúng có kiến trúc hỗn hợp chuyên gia (mixture-of-experts) và được lượng tử hóa mạnh. Các ước tính dành cho nền tảng này cho rằng một số mô hình khoảng 235–284 tỷ tham số có thể nằm trong giới hạn 256 GB. Tuy nhiên, đây là ước tính từ bên thứ ba chứ không phải kết quả điểm chuẩn do nhà sản xuất công bố. 405051

Không thể chỉ nhìn vào số tham số để biết một mô hình chạy có tốt hay không. Kết quả còn phụ thuộc vào:

• mô hình là dạng dense hay mixture-of-experts;
• mức lượng tử hóa;
• độ dài ngữ cảnh và dung lượng KV cache;
• phần bộ nhớ mà framework cần thêm; và
• tốc độ phản hồi mà người dùng chấp nhận.

Một mô hình có thể “vừa” về mặt dung lượng nhưng vẫn quá chậm cho các agent tương tác liên tục. Ngược lại, một mô hình nhỏ hơn nhưng phản hồi nhanh và xử lý được nhiều tác vụ đồng thời có thể hữu ích hơn trong thực tế.

Điều câu chuyện mua Mac chứng minh — và chưa chứng minh

Kết luận chắc chắn nhất là hạ tầng AI đang mở rộng ra ngoài một loại máy duy nhất: các cụm GPU khổng lồ. Việc phát triển agent và chạy suy luận cục bộ tạo ra nhu cầu đối với nhiều máy nhỏ, dễ kiểm soát — đặc biệt khi tác vụ có thể chia thành nhiều lượt chạy song song, cần một hệ điều hành desktop thực hoặc nhạy cảm với độ trễ và quyền riêng tư.

Tuy nhiên, các bằng chứng hiện có chưa đủ để khẳng định mọi nhận định rộng hơn đi kèm câu chuyện này. Những tuyên bố về tình trạng thiếu nguồn cung cụ thể, mức tăng 29% của doanh thu Mac hay việc Nvidia xem Apple là đối thủ chính trong xử lý AI cục bộ chưa được các tài liệu được cung cấp corroborate đầy đủ. Vì vậy, chúng nên được xem là thông tin còn cần kiểm chứng, thay vì kết quả đã được xác lập.

Cơ hội của Apple hiện rõ nhất ở hai lớp thị trường: suy luận cục bộ với bộ nhớ lớn, và các đội máy phục vụ phát triển, đánh giá AI agent. Nvidia cùng các bộ tăng tốc trung tâm dữ liệu khác vẫn giữ vai trò quan trọng với những tác vụ đòi hỏi thông lượng huấn luyện tối đa và hệ thống phân tán quy mô rất lớn.

Tương lai nhiều khả năng không phải là cuộc đối đầu đơn giản kiểu “Mac hay Nvidia”. Kịch bản hợp lý hơn là phân công lao động: GPU trung tâm dữ liệu lo huấn luyện nền tảng, còn Mac và các hệ thống cục bộ đảm nhiệm những công việc mà bộ nhớ hợp nhất, mức tiêu thụ điện, khả năng triển khai và quyền kiểm soát thiết bị đầu cuối đem lại lợi thế.