Bên trong thỏa thuận Palantir - NVIDIA Nemotron: AI Agent thực sự vận hành hoạt động của bạn

Các thông số kỹ thuật then chốt

• Kiến trúc: Hỗn hợp chuyên gia (MoE) lai Mamba-Transformer, kết hợp hiệu quả ngữ cảnh dài của mô hình không gian trạng thái với sức mạnh suy luận của kiến trúc Transformer .
• Tham số: Tổng cộng 550 tỷ, với ~55 tỷ hoạt động trên mỗi token .
• Cửa sổ ngữ cảnh: 1 triệu token gốc (native), cho phép mô hình suy luận trên lượng dữ liệu tương đương với vài cuốn tiểu thuyết dài hay các kho mã nguồn doanh nghiệp đồ sộ chỉ trong một lần xử lý .
• Cải tiến then chốt 1: LatentMoE. Kỹ thuật này nén các biểu diễn token vào một không gian hạng thấp (low-rank space) trước khi định tuyến chúng đến các chuyên gia. NVIDIA cho biết điều này cho phép tăng gấp 4 lần số lượng chuyên gia với cùng một chi phí suy luận, qua đó tăng độ chính xác trên mỗi phép tính (FLOP) .
• Cải tiến then chốt 2: Dự đoán Đa token (Multi-Token Prediction - MTP). Mô hình dự đoán đồng thời nhiều token tương lai trong một lần truyền xuôi duy nhất. Điều này cải thiện tính mạch lạc của chuỗi suy nghĩ và hoạt động như một dạng giải mã suy đoán (speculative decoding) tích hợp, giúp tăng tốc độ sinh văn bản .
• Độ chính xác khi huấn luyện: Được huấn luyện trước bằng định dạng NVFP4 4-bit siêu hiệu quả của NVIDIA trên kiến trúc Blackwell .
• Hiệu năng: NVIDIA tuyên bố tốc độ suy luận nhanh gấp 5 lần so với thế hệ mô hình trước đó .

Những thông số này được thiết kế có chủ đích cho 'AI tác nhân' (agentic AI). Cửa sổ ngữ cảnh 1 triệu token và khả năng dự đoán đa token gốc không dành cho các cuộc trò chuyện thông thường; chúng được tạo ra để một mô hình có thể duy trì bộ nhớ trong về một quy trình làm việc phức tạp, suy luận về mã nguồn, giám sát một đường ống dữ liệu và lập kế hoạch cho các hành động nhiều bước trong một khoảng thời gian dài . NVIDIA đã định vị biến thể Ultra này như một 'cỗ máy suy luận lớn cho các ứng dụng AI phức tạp', đòi hỏi nghiên cứu chuyên sâu và hoạch định chiến lược . Trọng số mã nguồn mở của mô hình dự kiến được phát hành công khai vào ngày 4 tháng 6 năm 2026, thông qua Hugging Face, OpenRouter và các nền tảng khác . Nói một cách dễ hình dung, nếu ví các mô hình AI thông thường như những trợ lý biết trả lời từng câu hỏi đơn lẻ, thì Nemotron 3 Ultra giống như một 'kỹ sư trưởng' có thể ghi nhớ toàn bộ bản vẽ kỹ thuật của một tòa nhà chọc trời, tự tìm ra điểm yếu và lên kế hoạch sửa chữa mà không cần ai nhắc nhở từng bước.

Nền tảng tác nhân của Palantir: AI FDE kết hợp Ontology

Palantir không chỉ đơn giản là cắm một chatbot vào hệ thống của họ. Họ đang tích hợp các mô hình Nemotron vào AI FDE (Kỹ sư Triển khai Tiền phương - Forward Deployed Engineer), một tác nhân tương tác hoạt động bên trong nền tảng Palantir Foundry . AI FDE được thiết kế để dịch các mệnh lệnh bằng ngôn ngữ tự nhiên thành các hành động vận hành cụ thể: thực hiện chuyển đổi dữ liệu, quản lý kho mã nguồn, cũng như xây dựng và bảo trì ontology trung tâm của tổ chức .

Mục tiêu của sự tích hợp này là biến các tác nhân này thành 'tác nhân dài hạn' (long-running agent). Đây là thuật ngữ mà NVIDIA và Palantir sử dụng để phân biệt làn sóng mới này với các truy vấn LLM đơn lẻ thông thường . Một 'tác nhân dài hạn' trong bối cảnh này có thể tự động thực thi một tác vụ phức tạp, gồm nhiều bước – ví dụ như tiếp nhận một luồng dữ liệu mới, chuyển đổi nó, cập nhật ontology, và xây dựng một ứng dụng vận hành mới bên trên nó – mà không cần con người phải 'cầm tay chỉ việc' ở từng bước . Tác nhân được thiết kế để liên tục học hỏi từ những tương tác này, cho phép xây dựng các hệ thống doanh nghiệp chuyên biệt theo từng lĩnh vực, hoạt động trên các mạng biệt lập (air-gapped), và ngày càng chuyên sâu hơn theo thời gian .

Khả năng này được neo giữ bởi yếu tố khác biệt cốt lõi của Palantir: Ontology. Ontology là một biểu diễn kỹ thuật số, ánh xạ tất cả dữ liệu, logic và hành động của một tổ chức. Nó cho phép một tác nhân AI hiểu không chỉ dữ liệu, mà còn cả cách thức doanh nghiệp thực sự vận hành . Bằng cách kết hợp mô hình Nemotron của NVIDIA với 'bản đồ ngữ nghĩa' này, hai công ty đang xây dựng một hệ thống công nghệ được thiết kế cho việc ra quyết định vận hành theo thời gian thực, nơi AI thấu hiểu hiệu ứng dây chuyền của một hành động lên toàn bộ chuỗi cung ứng, mạng lưới hậu cần quân sự hay thế trận an ninh mạng . Nói một cách nôm na, Ontology giống như 'bộ não số' của doanh nghiệp, còn Nemotron là 'cỗ máy suy nghĩ' tốc độ cao được cắm trực tiếp vào đó.

Tập khách hàng: Doanh nghiệp và Chính phủ

Công nghệ này không còn là giả thuyết. Nó đang nhắm đến một số môi trường phức tạp và có yêu cầu nhiệm vụ quan trọng bậc nhất thế giới. Tập khách hàng của Palantir trải dài trên hai lĩnh vực rộng lớn và đan xen sâu sắc:

• Doanh nghiệp: Những đơn vị tiên phong áp dụng cơ sở hạ tầng AI chung của NVIDIA-Palantir bao gồm các 'ông lớn' thương mại như Lowe's (bán lẻ đồ gia dụng), Booz Allen Hamilton (tư vấn công nghệ và an ninh mạng), và T-Mobile (viễn thông) . Nền tảng này được thiết kế để ra quyết định vận hành trên khắp các lĩnh vực chuỗi cung ứng, bán lẻ, y tế và dịch vụ tài chính .
• Chính phủ và Quốc phòng: Thông qua các nền tảng như Gotham và AIP, Palantir phục vụ một bộ máy quốc phòng và tình báo rộng lớn. Công ty đã thiết lập các quan hệ đối tác chiến lược để thúc đẩy nỗ lực AI này, bao gồm hợp tác với Accenture Federal Services (công bố tháng 6 năm 2025) để triển khai AI cho các quy trình làm việc quan trọng của liên bang, và liên minh năm 2026 với Deloitte để xây dựng một 'Hệ điều hành Doanh nghiệp' giúp khai phá dữ liệu đang bị 'mắc kẹt' trong các 'silo' (kho dữ liệu cô lập) của các cơ quan chính phủ .

Tầm nhìn cuối cùng, đã được trình diễn tại các hội nghị DevCon của Palantir, là về một tác nhân AI có thể quản lý toàn bộ vòng đời kỹ thuật trong một môi trường an toàn – từ việc viết các hàm, tạo ra các bài đánh giá, đến việc dò lỗi (debug) mã nguồn một cách an toàn trong một vòng lặp có nhận thức về nhánh (branch-aware loop) – tất cả diễn ra bên trong các hệ thống thường là hoàn toàn ngắt kết nối khỏi internet công cộng . Đây giống như việc có một đội ngũ kỹ sư AI làm việc không mệt mỏi bên trong một 'phòng kín' bảo mật tuyệt đối, có thể tự viết code, tự kiểm tra và tự sửa lỗi.

Một chiến lược được ấp ủ từ nhiều tháng

Thông báo hôm thứ Hai là một cột mốc sản phẩm quan trọng, không phải là sự khởi đầu của mối quan hệ. Khuôn khổ chiến lược cho sự tích hợp này đã được đặt nền móng tại hội nghị GTC Washington D.C. vào tháng 10 năm 2025, khi NVIDIA và Palantir lần đầu công bố họ đang cùng xây dựng một 'hệ thống công nghệ tích hợp đầu tiên của loại hình này dành cho AI vận hành' . Thỏa thuận ban đầu đó đã cam kết kết hợp kiến trúc Blackwell, các thư viện CUDA-X và các mô hình Nemotron của NVIDIA với nền tảng Ontology của Palantir .

Cùng với tin tức về Palantir, sự kiện GTC Taipei vào ngày 1 tháng 6 đóng vai trò như một bệ phóng rộng lớn hơn cho chiến lược tác nhân doanh nghiệp của NVIDIA. Công ty đã giới thiệu NVIDIA Agent Toolkit, một nền tảng đóng gói các gói giải pháp có sẵn (blueprints) NemoClaw, các mô hình Nemotron, môi trường thực thi an toàn OpenShell và các thư viện CUDA-X để giúp các doanh nghiệp triển khai tác nhân AI tự chủ. Palantir và SAP được nêu tên là các đối tác khởi động chính . 'Ông lớn' an ninh mạng CrowdStrike cũng công bố một tích hợp song song, sử dụng mô hình Nemotron để cung cấp sức mạnh cho các tác nhân xác định lỗ hổng bảo mật mới, xác nhận rằng mô hình 'tác nhân dài hạn' là một cú hích trên toàn hệ sinh thái, chứ không phải một sự hợp tác đơn lẻ .

Điều này có ý nghĩa gì

Sự tích hợp Palantir-NVIDIA báo hiệu sự trưởng thành của AI doanh nghiệp, từ những công cụ đồng hành (copilot) thử nghiệm sang những 'nhà vận hành' tự chủ được nhúng sâu vào hệ thống. Bằng cách ghép đôi một mô hình mở tiên tiến, được tối ưu hóa cho suy luận dài hạn với một nền tảng đã biết cách mô tả một tổ chức vận hành ra sao, hai công ty đang đặt cược rằng môi trường sống tự nhiên của tác nhân AI không phải là một cửa sổ chat – mà chính là 'bộ máy' vận hành của doanh nghiệp. Tính chất mã nguồn mở của Nemotron 3 Ultra cũng mang đến cho các khách hàng chính phủ và doanh nghiệp vốn nhạy cảm về bảo mật một lộ trình để triển khai khả năng suy luận tiên tiến trên hạ tầng riêng, biệt lập (air-gapped) mà không cần gửi dữ liệu đến các API của bên thứ ba – một yêu cầu bắt buộc không thể thương lượng đối với thị trường cốt lõi của Palantir .