CoreWeave đưa Vera Rubin NVL72 vào vận hành sản xuất, Cognition là khách hàng tiên phong

Tại hội nghị Fully Connected ngày 30/9, CoreWeave thông báo hệ thống Nvidia Vera Rubin NVL72 đã có mặt trên nền tảng đám mây của hãng. Cognition là khách hàng đầu tiên, theo công bố của CoreWeave, chạy tác vụ sản xuất trên hệ thống này. Công ty cũng cho biết sẽ cung cấp CPU Vera và ra mắt CoreWeave Forge, nền tảng hỗ trợ phát triển, đánh giá và cải tiến mô hình cùng tác nhân AI. 21733

Điểm hiệu năng đáng chú ý cần được đặt đúng ngữ cảnh: Nvidia cho biết benchmark DeepSeek-R1 do CoreWeave thực hiện đạt thông lượng trên mỗi megawatt cao gấp 10 lần so với GB200 NVL72. Đây là kết quả của một phép thử với một tác vụ và một chỉ số cụ thể, không có nghĩa mọi ứng dụng đều chạy nhanh gấp 10 lần. 10

Vera Rubin NVL72 lên đám mây, Cognition chạy tác vụ sản xuất

CoreWeave cho biết Cognition là khách hàng đầu tiên trên thế giới chạy tác vụ sản xuất trên Vera Rubin NVL72. Theo công ty, khách hàng có thể vận hành hệ thống bằng quy trình và công cụ tương tự các cụm GB200 NVL72 và GB300 NVL72 hiện có, với sự hỗ trợ từ đội ngũ kỹ thuật hiệu năng của CoreWeave. 2

Con số benchmark là thông tin riêng, không nên đánh đồng với thông báo về mức độ sẵn sàng của dịch vụ. Nvidia mô tả kết quả DeepSeek-R1 của CoreWeave là mức cải thiện 10 lần về số token xử lý mỗi giây trên mỗi megawatt, so với Grace Blackwell NVL72. Vì kết quả gắn với DeepSeek-R1 và được tính theo mức tiêu thụ điện, đây không phải phép so sánh hiệu năng áp dụng cho mọi mô hình hay khối lượng công việc. 10

CPU Vera và Sandboxes: chưa có số liệu về năng lực

CoreWeave cho biết sẽ bổ sung Nvidia Vera vào danh mục điện toán của mình. Đây là CPU được thiết kế cho các tác vụ liên quan đến tác nhân AI. Tuy nhiên, thông tin được cung cấp không nêu con số về số lượng tác nhân mà CPU có thể hỗ trợ, cũng không có kết quả benchmark hiệu năng độc lập cho sản phẩm này. 17

CoreWeave mô tả Sandboxes là các môi trường an toàn, tách biệt, phục vụ học tăng cường, việc tác nhân sử dụng công cụ và đánh giá mô hình. Nhưng nguồn công bố hiện có không đưa ra số liệu hiệu năng cho Sandboxes, nên chưa có cơ sở để so sánh tốc độ hay năng lực xử lý. 35

Forge kết nối các khâu phát triển mô hình và tác nhân

CoreWeave ra mắt Forge như một lớp phát triển dành cho các nhóm xây dựng và cải tiến mô hình, tác nhân AI. Theo công ty, nền tảng đưa huấn luyện, suy luận, đánh giá và phát triển tác nhân vào cùng một môi trường; đồng thời hỗ trợ nhiều mô hình, framework và cả các đám mây khác. 33

Thông báo về Forge mô tả mục đích và phạm vi của nền tảng nhưng không nêu tên khách hàng tiên phong. Vì vậy, cần phân biệt hai thông tin: Cognition được xác nhận là khách hàng chạy Vera Rubin trong môi trường sản xuất, nhưng các nguồn hiện có không cho biết Cognition hay một khách hàng cụ thể nào đã sử dụng Forge ngay khi ra mắt. 233

CEO nói đơn hàng không giảm, kỳ vọng kinh tế hạ tầng AI tiếp tục cải thiện

CEO Mike Intrator cho biết CoreWeave “không ghi nhận bất kỳ mức giảm nào về đơn hàng”. Ông nhận định các hạn chế đối với việc phát triển trung tâm dữ liệu có thể làm thay đổi địa điểm xây dựng hạ tầng, chứ không làm mất đi nhu cầu. Đây là phát biểu của lãnh đạo về đơn hàng của công ty và đánh giá của ông về thị trường, không phải số liệu độc lập đại diện cho toàn ngành. 446

Về triển vọng, Intrator bày tỏ tin tưởng rằng hiệu quả kinh tế của các khoản đầu tư bổ sung vào hạ tầng AI sẽ tiếp tục cải thiện trong năm 2027 và đầu năm 2028. Ông cũng cho rằng hiệu quả kinh tế của hạ tầng có thể cải thiện nhanh hơn những lo ngại liên quan đến lãi suất. Đây là kỳ vọng của ban lãnh đạo, không phải cam kết về nhu cầu, biên lợi nhuận hay mức sinh lời trong tương lai. 447