Dưới đây là lý do vì sao ngày càng nhiều nhà phát triển và công ty AI bắt đầu thử nghiệm chip của Amazon — và cách chúng so sánh với hệ sinh thái của Nvidia.
Trainium là nền tảng chip tăng tốc AI do AWS tự thiết kế dành cho các khối lượng công việc học máy. Gia đình chip này gồm Trainium1, Trainium2 và Trainium3, cung cấp sức mạnh cho các loại máy chủ EC2 chuyên dụng để huấn luyện và chạy mô hình AI.
Khác với GPU đa mục đích, Trainium được thiết kế đặc biệt cho các phép toán toán học phía sau mô hình AI hiện đại. Bằng cách tối ưu phần cứng cho những tác vụ này và tích hợp chặt với hạ tầng đám mây của mình, AWS kỳ vọng cải thiện hiệu suất và giảm chi phí cho các dự án AI quy mô lớn.
Chiến lược này phản ánh xu hướng rộng hơn của ngành: các “hyperscaler” (những nhà cung cấp đám mây khổng lồ như Amazon, Google hay Microsoft) ngày càng phát triển silicon riêng thay vì phụ thuộc hoàn toàn vào nhà cung cấp bên ngoài.
Dấu hiệu rõ ràng nhất cho thấy Trainium đang gaining traction là quy mô các cam kết dài hạn từ khách hàng.
AWS đã công bố các thỏa thuận tính toán nhiều năm với công suất lên đến hàng gigawatt dành cho việc triển khai Trainium cùng một số công ty AI lớn nhất thế giới.
Một vài ví dụ nổi bật:
Những thỏa thuận này đặc biệt quan trọng vì chúng cho thấy sự chấp nhận từ cả các phòng thí nghiệm AI hàng đầu lẫn các nền tảng doanh nghiệp lớn, chứ không chỉ là khối lượng công việc nội bộ của Amazon.
Nvidia vẫn là người dẫn đầu trong phần cứng AI. Ước tính hãng nắm khoảng 81% thị trường chip AI cho trung tâm dữ liệu, chủ yếu nhờ GPU mạnh và hệ sinh thái phần mềm CUDA trưởng thành.
Tuy vậy, một số áp lực cấu trúc đang khiến các công ty tìm thêm lựa chọn khác.
Thiếu nguồn cung
Huấn luyện các mô hình AI hiện đại cần cụm tăng tốc khổng lồ. Phụ thuộc vào một nhà cung cấp duy nhất có thể gây tắc nghẽn khi nhu cầu tăng đột biến.
Áp lực chi phí
Chi phí tính toán đã trở thành một trong những khoản lớn nhất trong phát triển AI. Chip thiết kế riêng cho một loại tác vụ có thể giúp giảm tổng chi phí huấn luyện.
Tích hợp dọc của nhà cung cấp đám mây
Khi tự thiết kế chip, các công ty như Amazon có thể kiểm soát giá, nguồn cung phần cứng và tối ưu toàn bộ hệ thống từ trung tâm dữ liệu đến phần mềm.
Trong thực tế, đa số doanh nghiệp không bỏ Nvidia hoàn toàn. Thay vào đó, họ áp dụng chiến lược đa kiến trúc — kết hợp GPU Nvidia với các chip chuyên dụng như Trainium hoặc TPU của Google.
AWS đã giới thiệu thế hệ mới nhất của kiến trúc này — Trainium3 — nhằm tăng hiệu năng và hiệu quả năng lượng cho các khối lượng công việc AI lớn.
Theo thông báo từ AWS, hệ thống Trainium3 mang lại một số cải tiến lớn so với Trainium2:
AWS cho biết một số khách hàng đã đạt giảm tới 50% chi phí huấn luyện và suy luận, dù kết quả thực tế còn phụ thuộc vào kiến trúc mô hình và tối ưu phần mềm.
Ngoài ra, Amazon cho biết Trainium2 đã mang lại giá trên hiệu năng tốt hơn khoảng 30% so với GPU tương đương, và Trainium3 cải thiện thêm 30–40% nữa.
Tuy vậy, các benchmark độc lập trên nhiều loại khối lượng công việc vẫn còn hạn chế, và Nvidia vẫn có lợi thế lớn về công cụ phần mềm cũng như cộng đồng phát triển.
Thị trường phần cứng AI đang hình thành ba hướng tiếp cận chính:
Nvidia
Nhà cung cấp phần cứng AI thống trị, với GPU được sử dụng rộng rãi để huấn luyện các mô hình tiên tiến và hệ sinh thái phần mềm mạnh.
Google
Người tiên phong về silicon AI tùy chỉnh với Tensor Processing Units (TPU), được sử dụng rộng rãi trong hệ thống nội bộ và ngày càng cung cấp cho khách hàng Google Cloud.
Amazon
AWS đang xây dựng một hệ sinh thái tích hợp dọc gồm CPU Graviton, chip AI Trainium và phần cứng mạng riêng, tất cả vận hành bên trong nền tảng đám mây của mình.
Thay vì chỉ cạnh tranh bằng hiệu năng chip thuần túy, chiến lược của Amazon tập trung vào tích hợp sâu giữa phần cứng, dịch vụ đám mây và các hợp đồng hạ tầng dài hạn.
Chip Trainium của Amazon đang thu hút sự chú ý vì AWS đang biến silicon tự thiết kế thành một nền tảng hạ tầng AI quy mô lớn với các cam kết doanh thu rõ ràng. Các thỏa thuận khổng lồ với Anthropic và OpenAI, sự tham gia của doanh nghiệp như Uber, cùng cải thiện về giá/hiệu năng khiến Trainium trở thành một lựa chọn đáng cân nhắc cho khối lượng công việc AI lớn.
Dù vậy, Nvidia vẫn là thế lực thống trị trong phần cứng AI và lợi thế hệ sinh thái của hãng vẫn rất lớn. Điều có vẻ rõ ràng là tương lai của hạ tầng AI nhiều khả năng sẽ không dựa vào một loại chip duy nhất, mà là sự kết hợp của nhiều kiến trúc phần cứng khác nhau.