Suxian Micro đưa GPU từ hiển thị biên sang AI vật lý bằng TUCA và TH1100

Suxian Micro đang chuyển từ mảng bộ xử lý đồ họa và hiển thị cho IoT, ô tô sang phần cứng phục vụ AI hiện thân — tức các hệ thống AI tương tác với thế giới vật lý như robot, xe thông minh và thiết bị công nghiệp. Tại sự kiện ra mắt trụ sở ở Thiên Tân, công ty giới thiệu hai mảnh ghép chủ đạo: TUCA, kiến trúc tính toán hợp nhất cho môi trường dị thể, và Tianheng TH1100, SoC GPGPU được định vị là chip suy luận AI tại biên đầu tiên của hãng. 4

Điểm đáng chú ý hiện nay nằm ở định hướng nền tảng và lộ trình sản phẩm. Dữ liệu benchmark độc lập cho TH1100 vẫn còn hạn chế.

Từ chip hiển thị biên đến năng lực tính toán AI

Các chip trước đây cho thấy điểm xuất phát của Suxian Micro. Công ty cho biết GC9002 và GC9005 đã hoàn tất xác minh chức năng vào năm 2023, lần lượt hướng đến các nhu cầu hiển thị IoT tiết kiệm điện và hiệu năng cao hơn. Theo tài liệu của hãng, GC9005 tích hợp hai lõi RISC-V 32-bit, nhân đồ họa, NPU và hỗ trợ đầu ra hiển thị tối đa 3.840 × 2.160 pixel. 7

Một thông báo từ đối tác mô tả GC9005 là MPU định hướng đồ họa, tích hợp bộ nhớ, tăng tốc đồ họa 2.5D, chức năng đa phương tiện và bộ tăng tốc học sâu cho các tác vụ biên như nhận dạng giọng nói cục bộ và phát hiện khuôn mặt. 16

Từ nền tảng đó, Suxian Micro không xem tăng tốc AI là một lĩnh vực hoàn toàn tách biệt. Hướng đi của hãng là mở rộng từ đồ họa, tương tác thị giác và năng lực tích hợp hệ thống biên sang AI.

“Render trước, AI sau” nghĩa là gì?

Suxian Micro gọi chiến lược của mình là “render-first-then-AI” — tạm hiểu là “kết xuất trước, AI sau”. Lập luận của hãng là các sản phẩm AI vật lý, từ robot và xe thông minh đến thiết bị công nghiệp ở biên, cần đồng thời năng lực xử lý hình ảnh thời gian thực và một hệ thống dị thể phản hồi nhanh, chứ không chỉ cần chạy suy luận mô hình.

Theo cách diễn giải này, đồ họa cung cấp nền móng về tính toán song song có thể lập trình và bộ công cụ phát triển; sau đó, các tải công việc AI được bổ sung lên trên. Suxian Micro so sánh hành trình này với quá trình NVIDIA phát triển từ đồ họa sang tính toán GPU mục đích chung và AI. 4

Đây không phải tuyên bố rằng riêng kết xuất đồ họa có thể giải quyết bài toán AI hiện thân. Đúng hơn, đó là lập trường định vị sản phẩm: người triển khai hệ thống vật lý cần một ngăn xếp vận hành được, bao gồm nhận thức, trực quan hóa, điều khiển, triển khai mô hình và tích hợp thiết bị — thay vì chỉ nhìn vào một chỉ số TOPS cao nhất.

Ba trụ cột công nghệ mà hãng đang quảng bá

Suxian Micro nêu ba công nghệ liên kết với nhau trong định vị AI vật lý. Các lợi ích dưới đây hiện nên được xem là tuyên bố của nhà cung cấp, cho đến khi có tài liệu kỹ thuật chi tiết và thử nghiệm lặp lại được.

GPU IP toàn ngăn xếp

Công ty mô tả một ngăn xếp tự phát triển theo chiều dọc, trải từ GPU IP, phần mềm hệ thống đến công cụ. Trang web hiện tại của hãng có thông tin lựa chọn sản phẩm, SDK, gói hỗ trợ chip, datasheet và công cụ phát triển cho dòng GC9000, cho thấy hỗ trợ phần mềm vốn đã là một phần trong cách tiếp cận sản phẩm trước đây. 3

Với nền tảng AI mới, mục tiêu được nêu ra là phối hợp phần cứng, trình biên dịch, runtime, driver, hỗ trợ hệ điều hành, thuật toán và giải pháp theo kịch bản. Lợi ích tiềm năng là giảm công sức tích hợp và chuyển đổi nền tảng cho khách hàng xây dựng các hệ thống có tải đồ họa, thị giác máy tính và suy luận. 4

Hợp nhất tính toán và lưu trữ ngay trong chip

Suxian Micro cũng nhấn mạnh công nghệ hợp nhất tính toán - lưu trữ trong chip. Mục tiêu là giảm lượng dữ liệu phải di chuyển giữa các khối tính toán và bộ nhớ ngoài. Với suy luận tại biên, lưu lượng truy cập bộ nhớ là ràng buộc thực tế vì ảnh hưởng trực tiếp đến độ trễ, mức tiêu thụ điện và thiết kế toàn hệ thống. Hãng cho biết cách tiếp cận này làm tăng tính cục bộ giữa nơi lưu trữ và nơi tính toán. 4

AI ROM

AI ROM được giới thiệu như một phương thức đặt một số tham số hoặc trọng số mô hình đã chọn vào bộ nhớ bất biến trên chip. Suxian Micro cho rằng điều này có thể giảm chi phí lưu trữ và điện năng, đồng thời cải thiện đầu ra token. 4

Đánh đổi ở đây khá rõ: giữ trọng số trong bộ nhớ cố định trên chip có thể hữu ích cho triển khai chuyên biệt, nhưng kém linh hoạt hơn so với giữ toàn bộ mô hình trong bộ nhớ ngoài dễ thay thế. Công ty chưa công bố đủ chi tiết để đánh giá độc lập về dung lượng, cơ chế cập nhật, định dạng mô hình hỗ trợ hay mức cải thiện hiệu năng.

TUCA: lớp phần mềm phía sau phần cứng

TUCA là viết tắt của Thorsianway Unified Computing Architecture, kiến trúc tính toán hợp nhất mà Suxian Micro đề xuất cho GPGPU, bộ tăng tốc AI và phần cứng tính toán dị thể. Theo công ty, kiến trúc này bao phủ chuỗi từ phát triển ứng dụng và biên dịch toán tử, đến lập lịch runtime và thực thi trên phần cứng. 4

Mục tiêu thực tế là tạo một lộ trình thống nhất hơn để nhà phát triển triển khai mô hình và tải tính toán, thay vì phải ghép nhiều bộ công cụ cấp thấp riêng biệt cho từng loại bộ tăng tốc. Điều này đặc biệt quan trọng trong môi trường công nghiệp, nơi khách hàng có thể hiểu rõ nghiệp vụ nhưng thiếu kinh nghiệm nội bộ về trình biên dịch, runtime, tối ưu mô hình hoặc tích hợp hệ thống dị thể.

Suxian Micro cũng mô tả TUCA Playground là môi trường dành cho nhà phát triển để sử dụng ngăn xếp này. Vai trò dự kiến gồm đưa ứng dụng và mô hình lên nền tảng, biên dịch - triển khai, quan sát khi chạy và quản lý tài nguyên. 4

TH1100: những gì đã công bố và những gì vẫn thiếu

Tianheng TH1100 là chip đầu tiên trong dòng sản phẩm mới, được định vị cho suy luận AI tại biên trong các ứng dụng AI hiện thân. Thông số nổi bật được công bố là 100 TOPS năng lực AI. Suxian Micro cũng gắn chip này với hỗ trợ FP16, thiết kế hợp nhất tính toán - lưu trữ và khả năng triển khai mô hình ngôn ngữ MoE thưa 35B-A3B. 4

Ký hiệu 35B-A3B thường chỉ một mô hình có khoảng 35 tỷ tham số tổng cộng, trong đó khoảng 3 tỷ tham số được kích hoạt cho mỗi token. Điều này có thể giảm lượng tính toán đang hoạt động so với mô hình dense có cùng số tham số tổng. Tuy nhiên, riêng đặc điểm đó không cho biết chính xác thông lượng, độ trễ, nhu cầu bộ nhớ hay điện năng của một thiết bị cụ thể. 4

Các thông tin chưa công bố cũng quan trọng không kém con số tiêu đề. Báo cáo ra mắt công khai chưa đưa ra bảng cấu hình đầy đủ, đáng tin cậy cho số lõi, thông lượng FP16, dung lượng và băng thông bộ nhớ, mức điện năng, phương pháp lượng tử hóa, độ dài ngữ cảnh, batch size hoặc số token mỗi giây được đo thực tế. Trước khi Suxian Micro phát hành datasheet chi tiết và cấu hình benchmark có thể tái lập, con số 100 TOPS không nên được dùng để so sánh trực tiếp TH1100 với các bộ tăng tốc khác trong tải công việc thực tế. 4

Lộ trình TH1800 và TH24K0

Suxian Micro vạch kế hoạch cho TH1800 vào cuối năm 2027 và TH24K0 vào năm 2028; cả hai đều nhắm đến những tầng nhu cầu cao hơn của AI hiện thân và tính toán mô hình ngôn ngữ. Hãng xem đây là các bước tiến tới cạnh tranh ở phân khúc GPU cao cấp hơn và triển khai AI vật lý quy mô lớn hơn. 4

Dù vậy, đây là biểu hiện của tham vọng và định hướng phát triển, chưa phải hiệu năng của phần cứng thương mại đã được đo độc lập. Khi đánh giá lộ trình, cần phân biệt rõ mục tiêu cạnh tranh trong tương lai với dữ liệu của sản phẩm đang bán ra.

Vì sao là Thiên Tân và vì sao cách tiếp cận toàn ngăn xếp quan trọng?

Sự kiện ra mắt trụ sở tại Thiên Tân được định vị không chỉ là thay đổi địa chỉ doanh nghiệp. Theo luận điểm của Suxian Micro, thương mại hóa phụ thuộc vào sự gần gũi với các đối tác sản xuất, ô tô, robot, nghiên cứu và triển khai ở khu vực Bắc Kinh - Thiên Tân - Hà Bắc. 4

Do đó, đề xuất thương mại của công ty không chỉ là bán một bộ xử lý. Hãng nhấn mạnh phần cứng chip, thuật toán, công cụ, thiết kế tham chiếu và giải pháp theo từng kịch bản dành cho khách hàng muốn đưa AI vào sản phẩm nhưng chưa có năng lực sâu về hệ thống AI. Công ty cũng đặt công nghệ và nguồn cung do trong nước kiểm soát trong bối cảnh rủi ro về khả năng cung ứng chip nhập khẩu và chuỗi cung ứng. 4

Kết luận

Điểm khác biệt mạnh nhất của Suxian Micro ở thời điểm này chưa phải là một lợi thế hiệu năng đã được chứng minh đầy đủ. Đó là nỗ lực kết hợp kinh nghiệm đồ họa tại biên, phần mềm dị thể, thiết kế chú trọng bộ nhớ và dịch vụ triển khai thành một nền tảng cho AI vật lý.

TH1100 với tuyên bố 100 TOPS và sự ra mắt TUCA đã biến định hướng đó thành sản phẩm cụ thể; lộ trình Tianheng cho thấy nơi công ty muốn tiến tới. Nhưng những câu hỏi quan trọng nhất — tốc độ suy luận thực tế, cấu hình bộ nhớ, hiệu quả điện năng, khả năng tương thích mô hình, độ trưởng thành của công cụ phát triển và thời điểm sẵn sàng sản xuất — vẫn cần tài liệu sản phẩm cùng thử nghiệm độc lập để có câu trả lời. 4