NVIDIA đưa AI có chủ quyền vào chuỗi cung ứng 1,3 triệu linh kiện cùng Palantir

NVIDIA và Palantir đã giới thiệu một bộ giải pháp AI có chủ quyền dành cho các chuỗi cung ứng phức tạp, mang tính trọng yếu. NVIDIA sẽ triển khai hệ thống này trước trong hoạt động của chính mình, tức đóng vai trò khách hàng đầu tiên của sản phẩm, trước khi kiến trúc được cung cấp cho các tổ chức khác. 11

Điểm cốt lõi không phải là gắn một chatbot vào dữ liệu chuỗi cung ứng. Mục tiêu là đưa dữ liệu vận hành, phần mềm tối ưu hóa, mô hình AI và kinh nghiệm của chuyên viên lập kế hoạch vào một môi trường được quản trị và do tổ chức tự kiểm soát.

NVIDIA và Palantir đã công bố gì?

Bộ giải pháp tích hợp các mô hình mở Nemotron của NVIDIA vào Palantir Foundry và Palantir Artificial Intelligence Platform (AIP). Bên dưới là Palantir Ontology — lớp mô hình hóa các thực thể và mối quan hệ vận hành. Theo hai công ty, hệ thống được thiết kế để giúp doanh nghiệp nhận diện các ràng buộc, chuẩn hóa kinh nghiệm vận hành và hỗ trợ quyết định trong chuỗi cung ứng. 11

Với NVIDIA, trọng tâm ban đầu là rút ngắn hành trình từ wafer đến token đầu tiên: từ giai đoạn wafer bán dẫn cho đến khi hệ thống AI được triển khai và bắt đầu tạo đầu ra. NVIDIA cho biết đây là cách đưa tri thức vận hành vào quy trình chuỗi cung ứng của họ. 11

Vì sao chuỗi cung ứng của NVIDIA là bài kiểm tra đầu tiên?

Quy mô của hệ thống NVIDIA Vera Rubin cho thấy độ khó của bài toán. Mỗi rack cần khoảng 1,3 triệu linh kiện, trải trên các nhóm phần cứng như năng lực tính toán, bộ nhớ, mạng, nguồn điện, làm mát và kết cấu cơ khí. 37

Ở mức độ phụ thuộc lẫn nhau như vậy, phân bổ vật tư không còn là bài toán bảng tính đơn thuần. Kế hoạch có thể bị giới hạn bởi công suất sản xuất, mức sẵn có của linh kiện, lịch hàng về hoặc các cam kết đã ký với khách hàng. NVIDIA đang dùng Ontology cùng Supply Chain Command Center của Palantir và NVIDIA cuOpt để đánh giá các kịch bản, rồi phân bổ vật tư khan hiếm giữa các địa điểm. 16

Mục tiêu mà NVIDIA đặt tên là giảm Time of Ownership — khoảng thời gian vật tư còn nằm trong quyền kiểm soát của NVIDIA trước khi có thể đóng góp vào các hệ thống được bàn giao. Trên thực tế, hệ thống hướng tới việc chỉ ra ràng buộc nào đang làm giảm thông lượng và lựa chọn phân bổ nào phù hợp nhất để xử lý điểm nghẽn đó. 1

Các thành phần trong bộ giải pháp hoạt động ra sao?

Mỗi thành phần đảm nhận một vai trò riêng:

• Mô hình mở Nemotron cung cấp lớp suy luận, có thể được chuyên biệt hóa cho các quyết định về chuỗi cung ứng.
• Palantir Foundry và AIP là môi trường dữ liệu và ứng dụng để các nhóm làm việc với mô hình và quy trình vận hành.
• Palantir Ontology mô tả các thực thể và mối quan hệ trong thế giới thực, như vật tư, địa điểm, công suất, phân bổ, cam kết và kết quả sản xuất. 116
• NVIDIA cuOpt hỗ trợ tối ưu hóa và phân tích kịch bản cho những quyết định như phân bổ vật tư. 1

Theo cách định vị của hai công ty, đây là một môi trường vận hành có quản trị, thay vì một mô hình AI đa dụng chỉ kết nối với các tập dữ liệu rời rạc. NVIDIA nhấn mạnh dữ liệu chuỗi cung ứng độc quyền, trọng số mô hình và hoạt động suy luận đều được giữ trong một môi trường quản trị thống nhất. 1

Vì sao dữ liệu từ chuyên viên lập kế hoạch được dùng để huấn luyện mô hình?

NVIDIA nhận thấy tối ưu hóa thuần toán học chưa phản ánh đầy đủ bối cảnh mà các chuyên viên giàu kinh nghiệm sử dụng. Quyết định thực tế có thể dựa trên thông tin phi cấu trúc và biến động nhanh, chẳng hạn email, dự báo thời tiết, diễn biến địa chính trị, trao đổi với nhà cung cấp và tri thức tích lũy trong tổ chức. 1

NVIDIA đã sử dụng các lựa chọn phân bổ của chuyên viên, lý do đằng sau lựa chọn đó và kết quả sau này làm dữ liệu hậu huấn luyện cho mô hình chuyên biệt Nemotron 3.5 Lightning. Mô hình có tổng cộng 30 tỷ tham số, dùng kiến trúc mixture-of-experts, với khoảng 3 tỷ tham số hoạt động trong mỗi lượt suy luận. 1

Trên bộ đánh giá quyết định phân bổ trong quá trình phát triển của NVIDIA, công ty báo cáo kết quả sau:

Mô hình	Độ chính xác quyết định phân bổ được báo cáo
Nemotron 3.5 Lightning sau hậu huấn luyện	86,7%
Nemotron 3 Ultra	55,5%
Nemotron 3.5 Lightning bản nền	17,5%

Đây là kết quả do NVIDIA báo cáo trên bộ đánh giá phát triển của riêng công ty, không phải phép đo độc lập về hiệu năng trong mọi chuỗi cung ứng hoặc mọi môi trường triển khai. 1

Con người vẫn giữ vai trò ra quyết định

Hai công ty không giới thiệu hệ thống như một phương án thay thế tự động cho chuyên viên lập kế hoạch chuỗi cung ứng. Các quyết định phân bổ có thể kéo theo những đánh đổi quan trọng, đồng thời thông tin mới đôi khi chưa xuất hiện trong dữ liệu huấn luyện.

Vì vậy, chuyên viên vẫn chịu trách nhiệm rà soát, điều chỉnh và cải thiện khuyến nghị. Những can thiệp này có thể trở thành các bản ghi quyết định mới trong môi trường được quản trị, tạo vòng phản hồi cho việc hậu huấn luyện và tinh chỉnh vận hành liên tục. 1

Cách triển khai cho các tổ chức khác

NVIDIA và Palantir cho biết các tổ chức khác có thể áp dụng kiến trúc này cho chuỗi cung ứng của mình thông qua Palantir Sovereign AI Operating System Reference Architecture, triển khai trên hạ tầng đám mây hoặc tại chỗ. Trọng tâm là những ngành phức tạp và môi trường chính phủ, nơi đơn vị sử dụng muốn giữ quyền kiểm soát dữ liệu độc quyền. 11

Kiến trúc tham chiếu liên quan được xây dựng trên NVIDIA Enterprise Reference Architectures và được thiết kế để vận hành bộ phần mềm Palantir, gồm AIP, Foundry, Apollo, Rubix và AIP Hub. 29

Dell là một phần của hệ sinh thái hạ tầng xung quanh kiến trúc này. Kiến trúc liên quan của Dell kết hợp hạ tầng Dell AI Factory — gồm PowerEdge, ObjectScale và PowerFlex — với công nghệ của Palantir và NVIDIA. 17 Các bài viết về thông báo tháng 9 cũng nêu Cisco, Rackspace và Nebius là các đối tác cho lựa chọn triển khai phần cứng hoặc đám mây. 25

Được giới thiệu tại AIPCon 11

Việc triển khai cho chuỗi cung ứng và các ứng dụng AI có chủ quyền rộng hơn đã được giới thiệu tại sự kiện AIPCon 11 của Palantir. 6

Ý nghĩa đáng chú ý nhất của thông báo là NVIDIA đang tự dùng bộ giải pháp kết hợp này trên chuỗi cung ứng có ràng buộc rất cao của mình. Đây sẽ là phép thử thực tế cho việc liệu mô hình theo từng lĩnh vực, tối ưu hóa và dữ liệu vận hành có quản trị có thể cải thiện quyết định trong một trong những môi trường lập kế hoạch công nghiệp phức tạp nhất hay không. 111