Ein kompakter PC für ein konkretes KI-Problem
Framework zielt mit der kommenden Desktop-Konfiguration auf eine der größten Hürden bei lokaler KI: Große Sprachmodelle müssen vollständig oder weitgehend in den Speicher passen – und das möglichst ohne separate Grafikkarte mit begrenztem VRAM.
Dafür kombiniert das Unternehmen AMDs 16-Kern-Prozessor Ryzen AI Max+ PRO 495 mit bis zu 192 GB gemeinsam genutztem LPDDR5X-8533-Speicher. Die angegebene Speicherbandbreite beträgt 273 GB/s. Microsoft arbeitet derweil offenbar an einer Windows-11-Funktion, die auf solchen Unified-Memory-Systemen eine gezieltere Speicheraufteilung ermöglichen könnte. Sie ist allerdings weder fertig noch offiziell angekündigt.
Zusammen zeigen beide Entwicklungen, wohin sich der PC-Markt bewegt: Lokale KI wird immer stärker zu einer Frage von Speicherkapazität und Speicherbandbreite – nicht nur von Prozessor- oder NPU-Leistung. Die Cloud bleibt für viele Aufgaben trotzdem unverzichtbar.
Das steckt in Frameworks 192-GB-Desktop
Die Spitzenkonfiguration setzt auf AMDs Ryzen AI Max+ PRO 495 mit 16 Zen-5-Kernen und 32 Threads. Hinzu kommen integrierte Radeon-Grafik und eine XDNA-2-NPU. Framework nennt 192 GB Unified Memory vom Typ LPDDR5X-8533 bei 273 GB/s. Damit steigt die Kapazität gegenüber der bisherigen Ryzen-AI-Max+-395-Konfiguration mit 128 GB um 50 Prozent; die Bandbreite legt gegenüber deren 256 GB/s um 6,6 Prozent zu.
1
2
3
16
CPU und integrierte GPU greifen auf denselben physischen Speicherpool zu. Laut Framework lassen sich bis zu 160 GB davon der iGPU zuweisen. Genau darin liegt der wichtigste Vorteil für lokale LLMs: Ein größerer Teil der Modellgewichte kann in einem gemeinsamen Speicherbereich bleiben, statt zwischen knappem Grafikspeicher und deutlich langsamerem Arbeitsspeicher aufgeteilt zu werden.
1
10
Die Kehrseite: 273 GB/s sind für einen kompakten PC beachtlich, liegen aber deutlich unter der Bandbreite mancher High-End-Systeme mit Unified Memory. Dass ein Modell in den Speicher passt, bedeutet daher nicht automatisch, dass es schnell läuft. Lange Kontextfenster, Desktop-Anwendungen oder mehrere Nutzer können zusätzlich um Kapazität und Bandbreite konkurrieren.
Welche Modelle sind realistisch?
Framework hat nach Berichten zur Vorschau einen lokal ausgeführten, auf Q8 quantisierten Build von DeepSeek V4-Flash gezeigt. Dabei blieb noch Platz für den Kontext.
7
14 Ein weiterer Bericht beschreibt die 192-GB-Konfiguration als fähig, ein Modell mit ungefähr 284 Milliarden Parametern im Speicher zu halten. Das ist jedoch vor allem eine Aussage über die Speicherkapazität – kein unabhängiger Beleg für eine bestimmte Generierungsgeschwindigkeit.
4
Entscheidend ist die Quantisierung. Modelle mit weniger Bits benötigen weniger Speicher für ihre Gewichte. Der tatsächliche Bedarf hängt aber zusätzlich von Architektur, Laufzeit-Overhead, Kontextfenster und parallel ausgeführten Anwendungen ab.
Kurz gesagt:
- Kapazität entscheidet, ob ein Modell grundsätzlich geladen werden kann.
- Bandbreite beeinflusst, wie schnell Modelldaten während der Inferenz bewegt werden.
- Rechenleistung und Software bestimmen, wie praktisch die Nutzung im Alltag ist.
Was Microsofts Windows-11-Experiment ändern könnte
In der experimentellen Windows-11-Version 29648.1000 wurden Hinweise auf eine interne Funktion namens „IntelligentCarveout“ gefunden. Zu den Texten im System gehören „Reserved memory for accelerators“ sowie „Memory for graphics and AI acceleration“. Offenbar soll Windows damit einen festgelegten Teil des Unified Memory für Grafik- und KI-Anwendungen reservieren können, anstatt den gesamten Pool dynamisch zu verwalten.
33
34
35
Das könnte auf Systemen hilfreich sein, bei denen Windows-Anwendungen und eine KI-Laufzeit um denselben Speicher konkurrieren. Ein reservierter Bereich könnte einem Modellserver einen besser vorhersehbaren Zugriff geben und Fehlschläge vermeiden, die entstehen, wenn andere Programme den Speicher bereits beanspruchen.
Wichtig ist aber, was die Funktion nicht leistet: „IntelligentCarveout“ wäre weder zusätzlicher Arbeitsspeicher noch ein schnellerer Speicherbus oder ein neuer KI-Beschleuniger. Reservierter Speicher steht normalen Anwendungen außerdem nicht mehr zur Verfügung. Wer also mehr Speicher für KI abzweigt, lässt Windows entsprechend weniger übrig. Microsoft hat weder die endgültige Benutzeroberfläche noch unterstützte Hardware oder einen Veröffentlichungstermin bestätigt. Auch ist offen, ob die Funktion überhaupt veröffentlicht wird.
36
40
44
Aufrüstbarkeit und Kompatibilität
Framework positioniert den Desktop als modulareren und besser reparierbaren Kompakt-PC als viele Konkurrenzprodukte. Die kommende Konfiguration soll außerdem einen offenen PCIe-x4-Erweiterungssteckplatz behalten. Damit können Nutzer kompatible Erweiterungskarten oder andere Hardware nachrüsten.
13
Beim Speicher sieht es anders aus: Die 192 GB LPDDR5X sind direkt auf dem Mainboard verlötet und keine austauschbaren DIMMs. Käufer sollten die gewählte Kapazität deshalb als dauerhaft festgelegt betrachten. Für mehr Speicher wäre voraussichtlich ein künftiger Mainboard-Tausch nötig – kein herkömmliches RAM-Upgrade.
13
Framework nennt Windows- und Linux-Anwendungsfälle, darunter auch eine Option mit vorinstalliertem Linux.
2 Ob lokale Inferenz gut funktioniert, hängt dennoch von der verwendeten Laufzeit und dem Beschleunigungspfad ab. AMD-Systeme können je nach Software ROCm oder Vulkan nutzen. Andere Unified-Memory-Plattformen setzen stärker auf Apples Metal/MLX-Ökosystem oder auf NVIDIAs CUDA.
Diese Softwarewelten sind nicht austauschbar. Ein Modell, das auf einer Plattform problemlos läuft, benötigt auf einer anderen möglicherweise eine andere Laufzeit oder bietet dort nicht dieselbe Optimierung.
19
24
Preis und Verfügbarkeit sind noch offen
Stand 31. August 2026 führt Framework den Desktop mit 192 GB und Ryzen AI Max+ PRO 495 als „coming soon“ beziehungsweise „in Kürze verfügbar“. Ein Preis, ein Vorbestelltermin, ein Lieferdatum oder eine Zusage zur breiten Verfügbarkeit wurden nicht veröffentlicht.
2
10
11
Deshalb sind Aussagen zu Preis-Leistung derzeit verfrüht. Die 192-GB-Version ist eine Vorschau. Gezeigte Demonstrationen ersetzen keine unabhängigen Tests zu Token-Raten, Temperaturentwicklung, Stromverbrauch, Modellkompatibilität und Leistung unter längerer Dauerlast.
6
Vergleich mit anderen Unified-Memory-Systemen
Framework erfindet dieses Konzept nicht neu. Apple nutzt bei seinen Silicon-Systemen bereits seit Jahren einen gemeinsamen Speicher für CPU und GPU. Für eine M4-Max-Konfiguration werden beispielsweise 128 GB bei 546 GB/s genannt.
17
20
Kompakte AMD-Systeme mit Ryzen AI Max+ 395, etwa von GMKtec oder Beelink, bieten Alternativen mit 128 GB gemeinsamem Speicher. NVIDIAs Systeme der DGX-Spark-Klasse setzen dagegen vor allem auf die Kompatibilität mit dem CUDA-Ökosystem – bei ähnlicher kompakter Bauform und hoher Speicherkapazität.
19
24
Für Käufer ergeben sich daraus fünf zentrale Kriterien:
- Kapazität: Sie entscheidet, ob ein quantisiertes Modell ohne umfangreiches Auslagern geladen werden kann.
- Bandbreite: Sie beeinflusst maßgeblich die Geschwindigkeit der Inferenz.
- Software: Laufzeiten, Kernel und Modellserver bestimmen, wie gut die Hardware tatsächlich genutzt wird.
- Aufrüstbarkeit: Verlöteter Unified Memory ist meist bereits beim Kauf festgelegt.
- Preis und Verfügbarkeit: Sie entscheiden, ob ein angekündigtes System überhaupt eine realistische Kaufoption ist.
Die größere Bedeutung für lokale KI
Die auffälligste Spezifikation des Framework Desktop ist nicht die NPU-Leistung, sondern der ungewöhnlich große gemeinsame Speicherpool. Microsofts geplanter Speicherregler weist in dieselbe Richtung: Wenn PCs größere Modelle lokal ausführen sollen, wird die Speicherverwaltung des Betriebssystems selbst zu einem Teil des KI-Erlebnisses.
Das bedeutet jedoch nicht, dass lokale PCs die Cloud-Inferenz ersetzen. Kompakte Unified-Memory-Systeme sind attraktiv, wenn ein Modell auf einem einzigen Rechner, offline oder mit besserer Datenkontrolle laufen soll. Cloud-Infrastruktur bleibt bei Spitzenmodellen, elastischer Kapazität, Zusammenarbeit und Aufgaben mit sehr hohem Multi-GPU-Durchsatz im Vorteil.
Die realistischere Schlussfolgerung lautet daher: Der „KI-PC“ entwickelt sich über den NPU-beschleunigten Assistenten hinaus. Mit genügend Unified Memory kann ein kleiner Desktop zu einer lokalen Modellbox werden. Vor dem Kauf müssen Nutzer aber weiterhin Bandbreite, Softwareunterstützung, die nicht aufrüstbare Speicherkapazität, unabhängige Benchmarks und die tatsächlich bestätigte Verfügbarkeit prüfen.