Trainium của Amazon vs Nvidia: Vì sao lập trình viên AI bắt đầu đặt cược vào chip của AWS

Những thỏa thuận lớn đang thúc đẩy Trainium

Dấu hiệu rõ ràng nhất cho thấy Trainium đang gaining traction là quy mô các cam kết dài hạn từ khách hàng.

AWS đã công bố các thỏa thuận tính toán nhiều năm với công suất lên đến hàng gigawatt dành cho việc triển khai Trainium cùng một số công ty AI lớn nhất thế giới.

Một vài ví dụ nổi bật:

• Anthropic: Công ty AI này dự kiến chi hơn 100 tỷ USD trong 10 năm cho công nghệ AWS, bao gồm lượng lớn tài nguyên Trainium để huấn luyện và vận hành mô hình Claude.
• OpenAI: AWS đã giành được cam kết khoảng 2 gigawatt công suất Trainium trong khuôn khổ hợp tác hạ tầng với công ty.
• Uber: Nền tảng gọi xe mở rộng hợp đồng với AWS và bắt đầu thử nghiệm huấn luyện mô hình AI trên Trainium3, đồng thời chạy hệ thống sản xuất trên CPU Graviton của Amazon.

Những thỏa thuận này đặc biệt quan trọng vì chúng cho thấy sự chấp nhận từ cả các phòng thí nghiệm AI hàng đầu lẫn các nền tảng doanh nghiệp lớn, chứ không chỉ là khối lượng công việc nội bộ của Amazon.

Vì sao một số công ty bắt đầu đa dạng hóa ngoài Nvidia

Nvidia vẫn là người dẫn đầu trong phần cứng AI. Ước tính hãng nắm khoảng 81% thị trường chip AI cho trung tâm dữ liệu, chủ yếu nhờ GPU mạnh và hệ sinh thái phần mềm CUDA trưởng thành.

Tuy vậy, một số áp lực cấu trúc đang khiến các công ty tìm thêm lựa chọn khác.

Thiếu nguồn cung
Huấn luyện các mô hình AI hiện đại cần cụm tăng tốc khổng lồ. Phụ thuộc vào một nhà cung cấp duy nhất có thể gây tắc nghẽn khi nhu cầu tăng đột biến.

Áp lực chi phí
Chi phí tính toán đã trở thành một trong những khoản lớn nhất trong phát triển AI. Chip thiết kế riêng cho một loại tác vụ có thể giúp giảm tổng chi phí huấn luyện.

Tích hợp dọc của nhà cung cấp đám mây
Khi tự thiết kế chip, các công ty như Amazon có thể kiểm soát giá, nguồn cung phần cứng và tối ưu toàn bộ hệ thống từ trung tâm dữ liệu đến phần mềm.

Trong thực tế, đa số doanh nghiệp không bỏ Nvidia hoàn toàn. Thay vào đó, họ áp dụng chiến lược đa kiến trúc — kết hợp GPU Nvidia với các chip chuyên dụng như Trainium hoặc TPU của Google.

Trainium3 cải thiện điều gì

AWS đã giới thiệu thế hệ mới nhất của kiến trúc này — Trainium3 — nhằm tăng hiệu năng và hiệu quả năng lượng cho các khối lượng công việc AI lớn.

Theo thông báo từ AWS, hệ thống Trainium3 mang lại một số cải tiến lớn so với Trainium2:

• Tối đa 4,4× hiệu năng tính toán
• Khoảng 4× hiệu quả năng lượng
• Gần 4× băng thông bộ nhớ cao hơn
• Cụm hệ thống có thể mở rộng đến 144 chip với 362 petaflop FP8

AWS cho biết một số khách hàng đã đạt giảm tới 50% chi phí huấn luyện và suy luận, dù kết quả thực tế còn phụ thuộc vào kiến trúc mô hình và tối ưu phần mềm.

Ngoài ra, Amazon cho biết Trainium2 đã mang lại giá trên hiệu năng tốt hơn khoảng 30% so với GPU tương đương, và Trainium3 cải thiện thêm 30–40% nữa.

Tuy vậy, các benchmark độc lập trên nhiều loại khối lượng công việc vẫn còn hạn chế, và Nvidia vẫn có lợi thế lớn về công cụ phần mềm cũng như cộng đồng phát triển.

Bức tranh cạnh tranh: Amazon vs Nvidia vs Google

Thị trường phần cứng AI đang hình thành ba hướng tiếp cận chính:

Nvidia
Nhà cung cấp phần cứng AI thống trị, với GPU được sử dụng rộng rãi để huấn luyện các mô hình tiên tiến và hệ sinh thái phần mềm mạnh.

Google
Người tiên phong về silicon AI tùy chỉnh với Tensor Processing Units (TPU), được sử dụng rộng rãi trong hệ thống nội bộ và ngày càng cung cấp cho khách hàng Google Cloud.

Amazon
AWS đang xây dựng một hệ sinh thái tích hợp dọc gồm CPU Graviton, chip AI Trainium và phần cứng mạng riêng, tất cả vận hành bên trong nền tảng đám mây của mình.

Thay vì chỉ cạnh tranh bằng hiệu năng chip thuần túy, chiến lược của Amazon tập trung vào tích hợp sâu giữa phần cứng, dịch vụ đám mây và các hợp đồng hạ tầng dài hạn.

Kết luận

Chip Trainium của Amazon đang thu hút sự chú ý vì AWS đang biến silicon tự thiết kế thành một nền tảng hạ tầng AI quy mô lớn với các cam kết doanh thu rõ ràng. Các thỏa thuận khổng lồ với Anthropic và OpenAI, sự tham gia của doanh nghiệp như Uber, cùng cải thiện về giá/hiệu năng khiến Trainium trở thành một lựa chọn đáng cân nhắc cho khối lượng công việc AI lớn.

Dù vậy, Nvidia vẫn là thế lực thống trị trong phần cứng AI và lợi thế hệ sinh thái của hãng vẫn rất lớn. Điều có vẻ rõ ràng là tương lai của hạ tầng AI nhiều khả năng sẽ không dựa vào một loại chip duy nhất, mà là sự kết hợp của nhiều kiến trúc phần cứng khác nhau.