AMD và Intel dự định hợp nhất các tối ưu CPU x86 dành cho PyTorch trong oneDNN, thư viện học sâu mã nguồn mở do Quỹ Unified Acceleration (UXL) quản lý. AMD sẽ đưa các tối ưu từ dự án ZenDNN vào thư viện chung, hướng tới một lối phần mềm thống nhất cho CPU của cả hai hãng. Đây mới là kế hoạch tích hợp: thông báo chưa đưa ra thời hạn hoàn tất hay kết quả đo hiệu năng.
2
3
18
Kế hoạch chung nhằm giảm việc phải duy trì nhiều lối phần mềm
Sau khuyến nghị của Nhóm cố vấn hệ sinh thái x86, AMD và Intel chọn oneDNN làm thư viện mã nguồn mở mặc định cho tăng tốc x86 trong PyTorch. AMD dự kiến tích hợp các tối ưu ZenDNN vào oneDNN, đồng thời vẫn tiếp tục tối ưu cho bộ xử lý của riêng mình.
2
18
Với lập trình viên, mục tiêu là phát triển và tối ưu các tác vụ PyTorch trên CPU AMD lẫn Intel thuận tiện hơn, thay vì phải xử lý những lối phần mềm riêng theo từng nhà sản xuất. Jeff McVeigh của Intel mô tả định hướng này là giúp nhà phát triển khai thác hiệu năng CPU x86 mà không phải bận tâm đến các lối triển khai tách biệt.
1
Thông tin được công bố chưa nêu chi tiết các tiêu chí kỹ thuật khiến nhóm cố vấn đề xuất oneDNN. Các hãng trình bày thư viện chung như một cách đơn giản hóa phát triển và giảm phân mảnh phần mềm.
1
2
ZenDNN sẽ được tích hợp như thế nào?
Intel khởi đầu phát triển oneDNN; hiện thư viện này do UXL quản lý. ZenDNN là thư viện chứa các tối ưu cho kiến trúc Zen của AMD. Việc đưa những tối ưu đó vào oneDNN gom phần việc của AMD vào dự án chung, nhưng không đồng nghĩa các tối ưu riêng cho từng loại bộ xử lý sẽ chấm dứt.
2
6
13
18
AMD cũng tham gia UXL với tư cách thành viên ban chỉ đạo. Điều này đưa AMD vào vai trò trong hoạt động quản trị của quỹ, nhưng các nguồn hiện có không nêu quyền biểu quyết cụ thể hay mức độ ảnh hưởng của hãng tới các quyết định của dự án.
2
9
Chưa rõ thời điểm hỗ trợ ACE trong PyTorch
AMD và Intel chưa công bố ngày hoàn tất tích hợp ZenDNN, phiên bản PyTorch mục tiêu hay phiên bản oneDNN dự kiến áp dụng. Hai hãng cũng chưa đưa ra số liệu hiệu năng đo được.
3
4
Hai công ty cho biết dự kiến hỗ trợ AI Compute Extensions (ACE) trong các bản cập nhật oneDNN tương lai. ACE được thiết kế để tăng tốc phép nhân ma trận. Bản phát hành ứng viên oneDNN 3.14 đã có hỗ trợ ban đầu cho các lệnh ACE, nhưng tính năng này không được bật mặc định. Người dùng cần tự chọn bằng biến môi trường ONEDNN_MAX_CPU_ISA=AVX10_2_ACE. Hỗ trợ trong bản ứng viên chưa xác nhận khi nào ACE sẽ có thể sử dụng qua PyTorch.
7
10
Tóm lại, điều đã được công bố là kế hoạch xây dựng một thư viện chung và tích hợp tối ưu ZenDNN. Thời điểm triển khai rộng rãi trong PyTorch cũng như lợi ích hiệu năng thực tế vẫn chưa được xác định.