AMD und Intel wollen ihre Optimierungen für PyTorch auf x86-Prozessoren in der Open-Source-Bibliothek oneDNN zusammenführen. AMD plant, dafür Optimierungen aus dem eigenen ZenDNN-Projekt in oneDNN zu integrieren und weiterhin Prozessoren von AMD gezielt zu optimieren. Die Ankündigung beschreibt einen geplanten gemeinsamen Softwarepfad – keinen bereits abgeschlossenen Rollout. Einen Zeitplan oder Leistungsbenchmarks nannten die Unternehmen nicht.
2
3
18
Was die Vereinbarung für PyTorch bedeutet
Auf Empfehlung der x86 Ecosystem Advisory Group haben sich AMD und Intel auf oneDNN als Standardbibliothek für x86-Beschleunigung innerhalb von PyTorch verständigt. PyTorch ist ein Framework für die Entwicklung von KI-Anwendungen; oneDNN stellt optimierte Rechenfunktionen bereit, damit solche Arbeitslasten auf Prozessoren effizient laufen können.
2
18
Das erklärte Ziel: Entwicklerinnen und Entwickler sollen ihre PyTorch-Anwendungen leichter für CPUs beider Hersteller entwickeln und optimieren können, statt getrennte Softwarepfade pflegen zu müssen. Intel-Manager Jeff McVeigh formulierte es so, dass man für die Leistung von x86-CPUs keine separaten Softwarepfade verwalten müssen sollte.
1
Warum die Advisory Group oneDNN empfohlen hat, erläutert die vorliegende Ankündigung nicht im Detail. Sie stellt die gemeinsame Bibliothek jedoch als Möglichkeit dar, Entwicklung zu vereinfachen und eine Zersplitterung der Softwarelandschaft zu verringern.
1
2
Welche Rolle ZenDNN künftig spielt
oneDNN wurde ursprünglich von Intel entwickelt und wird inzwischen von der Unified Acceleration Foundation (UXL) verwaltet. ZenDNN enthält Optimierungen für AMDs Zen-Architektur. Mit der geplanten Integration soll diese AMD-spezifische Arbeit in das gemeinsame oneDNN-Projekt einfließen. Das bedeutet nicht, dass herstellerspezifische Optimierungen enden: AMD will seine Prozessoren weiterhin gezielt optimieren.
2
6
13
18
AMD ist außerdem der UXL als Steering Member beigetreten. Damit erhält das Unternehmen eine Rolle in der Governance der Stiftung. Welche konkreten Stimmrechte damit verbunden sind oder wie sich der Beitritt im Einzelnen auf Entscheidungen auswirkt, geht aus den verfügbaren Informationen nicht hervor.
2
9
Zeitplan und AI Compute Extensions bleiben offen
Die Unternehmen haben weder ein Fertigstellungsdatum noch eine konkrete PyTorch-Version oder oneDNN-Version für die Integration von ZenDNN genannt. Auch gemessene Leistungsgewinne wurden nicht veröffentlicht.
3
4
Für künftige oneDNN-Updates planen AMD und Intel Unterstützung für AI Compute Extensions (ACE), die Matrixmultiplikationen beschleunigen sollen. Ein Release Candidate von oneDNN 3.14 enthält bereits eine erste Unterstützung für ACE-Befehle. Sie ist standardmäßig nicht aktiviert; dafür muss die Umgebungsvariable ONEDNN_MAX_CPU_ISA=AVX10_2_ACE gesetzt werden. Daraus lässt sich jedoch nicht ableiten, wann ACE über PyTorch verfügbar sein wird.
7
10
Für Entwicklerinnen und Entwickler ist die wichtigste Einordnung daher: Geplant ist eine gemeinsame Bibliothek als Grundlage für PyTorch auf x86-CPUs. Wann die Integration abgeschlossen ist und welche messbaren Leistungsvorteile sie bringt, bleibt vorerst offen.