Vier GEEKOM-A9-Mega-Mini-PCs führen DeepSeek V4 Flash lokal aus – doch Benchmarks fehlen
GEEKOM hat DeepSeek V4 Flash auf vier A9 Mega Mini PCs verteilt. Zusammen kommen sie auf 64 CPU Kerne, 128 Threads, 160 Radeon 8060S Compute Units und 512 GB LPDDR5X 8000 Unified Memory.
GEEKOM hat DeepSeek V4 Flash auf vier A9 Mega Mini PCs verteilt. Zusammen kommen sie auf 64 CPU Kerne, 128 Threads, 160 Radeon 8060S Compute Units und 512 GB LPDDR5X 8000 Unified Memory.
Die Knoten kommunizieren laut GEEKOM über USB4. Ubuntu, AMD ROCm und DwarfStar verteilen das Modell und stellen es über eine OpenAI kompatible Schnittstelle für lokale Anwendungen bereit.
Beim Listenpreis von 3.999 US Dollar pro A9 Mega kosten vier Systeme rund 15.996 US Dollar – noch ohne zusätzliche Speicher, Verkabelung, Installation und Support.
How did GEEKOM demonstrate running the roughly 284-billion-parameter DeepSeek V4 Flash Mixture-of-Experts model locally and without cloud inAn editorial visualization of GEEKOM’s four-node A9 Mega local AI cluster.
KI-Prompt
Create a landscape editorial hero image for this Studio Global article: How did GEEKOM demonstrate running the roughly 284-billion-parameter DeepSeek V4 Flash Mixture-of-Experts model locally and without cloud in. Article summary: GEEKOM’s demonstration was a four-node, local distributed-inference setup: it linked four A9 Mega mini PCs over USB4, then used Ubuntu, AMD ROCm, and DwarfStar software to partition an optimized DeepSeek V4 Flash model a. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
openai.com
GEEKOM hat vier A9-Mega-Mini-PCs zu einem verteilten, lokal betriebenen Inferenz-Cluster zusammengeschaltet. Auf diesem System soll DeepSeek V4 Flash ohne Cloud-Infrastruktur laufen. Die Rechner sind über USB4 verbunden; Ubuntu, AMD ROCm und die Software DwarfStar übernehmen laut GEEKOM die lokale Bereitstellung und stellen das Ergebnis über eine OpenAI-kompatible API bereit.
Das ist vor allem deshalb interessant, weil DeepSeek V4 Flash als Mixture-of-Experts-Modell mit rund 284 Milliarden Parametern beschrieben wird. Pro Token sind davon etwa 13 Milliarden Parameter aktiv. Außerdem unterstützt das Modell Kontextfenster von bis zu einer Million Tokens.
Das steckt im Vier-Knoten-Cluster
Jeder A9 Mega basiert auf AMDs Ryzen AI Max+ 395 mit 16 Kernen und 32 Threads sowie Radeon-8060S-Grafik. Zusammengenommen ergibt das für vier Systeme folgende Eckdaten:
64 CPU-Kerne und 128 Threads
160 Radeon-8060S-Compute-Units auf Basis von RDNA 3.5
512 GB LPDDR5X-8000-Unified-Memory, also 128 GB pro Rechner
Vier eigenständige Mini-PCs, die als verteilte Inferenzplattform arbeiten
Der gemeinsame Speicher ist der Kern des Konzepts. Statt das Modell auf einem einzelnen Beschleuniger mit ausreichend großem Speicher unterzubringen, verteilt der Cluster die Last über die Speicher- und Grafikressourcen mehrerer Rechner. Die Summe von 512 GB darf allerdings nicht mit der tatsächlich für das Modell nutzbaren Kapazität gleichgesetzt werden. Wie viel Speicher für Modellgewichte, Laufzeit, Caches und Betriebssystem übrig bleibt, hängt unter anderem von Präzision, Quantisierung und Softwarekonfiguration ab.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Wie lautet die kurze Antwort auf „Vier GEEKOM-A9-Mega-Mini-PCs führen DeepSeek V4 Flash lokal aus – doch Benchmarks fehlen“?
GEEKOM hat DeepSeek V4 Flash auf vier A9 Mega Mini PCs verteilt. Zusammen kommen sie auf 64 CPU Kerne, 128 Threads, 160 Radeon 8060S Compute Units und 512 GB LPDDR5X 8000 Unified Memory.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
GEEKOM hat DeepSeek V4 Flash auf vier A9 Mega Mini PCs verteilt. Zusammen kommen sie auf 64 CPU Kerne, 128 Threads, 160 Radeon 8060S Compute Units und 512 GB LPDDR5X 8000 Unified Memory. Die Knoten kommunizieren laut GEEKOM über USB4. Ubuntu, AMD ROCm und DwarfStar verteilen das Modell und stellen es über eine OpenAI kompatible Schnittstelle für lokale Anwendungen bereit.
Was soll ich als nächstes in der Praxis tun?
Beim Listenpreis von 3.999 US Dollar pro A9 Mega kosten vier Systeme rund 15.996 US Dollar – noch ohne zusätzliche Speicher, Verkabelung, Installation und Support.
Nach Angaben von GEEKOM kommunizieren die vier Maschinen über USB4. Der Software-Stack besteht aus Ubuntu, AMDs ROCm-Plattform und DwarfStar. Eine optimierte Version von DeepSeek V4 Flash wird auf die Knoten aufgeteilt; anschließend nimmt der Cluster Anfragen über einen OpenAI-kompatiblen Endpunkt entgegen.
Diese API-Kompatibilität kann die Integration erleichtern. Interne Anwendungen, KI-Agenten und Entwicklerwerkzeuge, die bereits OpenAI-kompatible Endpunkte unterstützen, könnten sich dadurch mit dem lokalen Modell verbinden, ohne dass die gesamte Integrationsschicht neu entwickelt werden muss. Der Anwendungsfall ist somit weniger ein Chatbot auf einem einzelnen Desktop als vielmehr ein privater KI-Dienst innerhalb der eigenen IT-Umgebung.
Die Demonstration ist jedoch nicht automatisch mit einem klassischen Server aus dem Rechenzentrum gleichzusetzen. In der veröffentlichten Ankündigung fehlen Angaben zur Topologie, zur tatsächlich verfügbaren Bandbreite und Latenz, zur Sharding-Strategie, zur Modellpräzision, zum Quantisierungsformat, zur Orchestrierung und zum Verhalten bei Ausfällen. Gerade bei verteilter Inferenz können diese Faktoren die Leistung deutlich beeinflussen, wenn regelmäßig Daten zwischen den Knoten ausgetauscht werden müssen.
Speicher und Verbindungstechnik
Jeder A9 Mega besitzt zwei M.2-Steckplätze für PCIe 4.0 und soll bis zu 8 TB SSD-Speicher unterstützen. Bei vier vollständig ausgestatteten Rechnern ergäbe sich daraus theoretisch ein Maximum von 32 TB. Diese Rechnung setzt voraus, dass jeder Knoten bis zur angegebenen Kapazität bestückt wird.
Der SSD-Speicher ist vom 512 GB großen Unified Memory getrennt und sagt allein nichts darüber aus, wie viel Speicherplatz die DeepSeek-Installation tatsächlich benötigt.
Für die Verbindung zwischen den Knoten nennt GEEKOM USB4. Die Produktunterlagen führen USB4-Anschlüsse mit bis zu 40 Gbit/s auf. Dieser Maximalwert entspricht jedoch nicht automatisch der Leistung des Clusters. Protokoll-Overhead, Verkabelung, Topologie und das Kommunikationsmuster der Software bestimmen, welche Bandbreite und Latenz für die verteilte Inferenz tatsächlich zur Verfügung stehen.
Der Business-Case: private KI vor Ort
GEEKOM positioniert die Konfiguration als On-Premises-Lösung für private KI. Unternehmen könnten Prompts, interne Dokumente und erzeugte Antworten grundsätzlich im eigenen Netzwerk halten und Geschäftsanwendungen oder Agenten über die lokale API mit dem Modell verbinden. Für die GPU-Software kommt ROCm zum Einsatz; in dieser Konfiguration ist damit kein NVIDIA-System mit CUDA erforderlich.
Das kann für Organisationen mit Anforderungen an Datenschutz, Datenstandort oder Netzwerktrennung interessant sein. Gleichzeitig wandert die Verantwortung zum Betreiber. Er müsste sich selbst um Hardwareverfügbarkeit, Updates, Modell-Dateien, Zugriffskontrollen, Monitoring, Kühlung, Stromverbrauch und die Zuverlässigkeit der Software kümmern.
Vier Mini-PCs kosten knapp 16.000 US-Dollar
GEEKOM listet den A9 Mega mit einem Preis von 3.999 US-Dollar. Vier Knoten kommen damit auf rund 15.996 US-Dollar – bevor zusätzliche SSDs, Kabel, Netzwerkkomponenten, Installation, Strom, Wartung oder Support eingerechnet sind.
Das ist eine beträchtliche Investition für ein System, dessen Eigenschaften im produktiven Betrieb bislang nicht unabhängig bestätigt wurden. Entscheidend ist daher nicht nur der Kaufpreis von vier Mini-PCs, sondern die Gesamtkosten für den Betrieb eines verteilten Inferenzdienstes und die Frage, welche Arbeitslast dieser zuverlässig bewältigen kann.
Die größte offene Frage: die Geschwindigkeit
GEEKOM belegt mit seiner Ankündigung, dass DeepSeek V4 Flash auf vier A9-Mega-Systemen eingesetzt wurde. Unabhängige, standardisierte Ergebnisse für genau diese Konfiguration liefert das Unternehmen jedoch nicht.
Es fehlen unter anderem Angaben zu dauerhaft erzielten Tokens pro Sekunde, der Zeit bis zum ersten Token, der Zahl paralleler Nutzer, der Latenz bei langen Kontexten, dem Stromverbrauch und dem Verhalten bei Ausfällen.
Die Vorstellung sollte deshalb eher als Nachweis einer möglichen Bereitstellung denn als validierter Produktionsbenchmark verstanden werden. Die Fähigkeit des Modells, Kontextfenster mit bis zu einer Million Tokens zu verarbeiten, ist eine wichtige Spezifikation. Sie zeigt aber nicht, dass der Vier-Knoten-Cluster Millionen-Token-Anfragen schnell oder wirtschaftlich bearbeiten kann. Die reale Leistung hängt vom Modell-Build, der Präzision, der Speicheraufteilung, der Prompt-Länge, der Zahl gleichzeitiger Anfragen und dem Kommunikationsaufwand zwischen den Rechnern ab.
Ist die Hardware von GEEKOM einzigartig?
Die Plattform Ryzen AI Max+ 395 ist nicht exklusiv für GEEKOM. Auch andere Hersteller bieten Mini-PCs mit demselben Prozessor und teilweise 128 GB Unified Memory an. Minisforum hat mit dem N5 Max ein vergleichbares Design im Angebot. ServeTheHome berichtete allerdings, dass die Verkaufsversion mit 64 GB verlötetem LPDDR5X-Unified-Memory ausgeliefert wurde – und nicht mit der 128-GB-Konfiguration eines früheren Prototyps.
Der wichtigere Unterschied bei GEEKOM ist damit die behauptete Software-Demonstration mit vier Knoten, nicht der Prozessor allein. Ob daraus mehr als ein technisches Schaufenster wird, hängt von bisher unveröffentlichten Details ab: reproduzierbaren Installationsanweisungen, standardisierten Benchmarks, Messungen der Netzwerkleistung, Stromverbrauchsdaten und Nachweisen für einen stabilen Betrieb unter realistischen Arbeitslasten.
Fazit
GEEKOM zeigt einen kompakten Weg, aus vier Mini-PCs eine AMD-Inferenzplattform mit viel gemeinsam nutzbarem Speicher aufzubauen: 64 CPU-Kerne, 128 Threads, 160 Radeon-8060S-Compute-Units und 512 GB Unified Memory, verbunden über USB4 und betrieben mit Ubuntu, ROCm und DwarfStar.
Das Versprechen lautet: lokaler und privater Zugriff auf ein sehr großes Mixture-of-Experts-Modell über eine vertraute API. Die bisherige Beweislage bestätigt jedoch die Existenz der Bereitstellung – nicht ihre Geschwindigkeit, Effizienz oder Produktionsreife. Solange GEEKOM keine reproduzierbaren Benchmarks und genaueren Implementierungsdaten veröffentlicht, bleibt der Cluster eine spannende On-Premises-Demonstration und ist noch kein nachgewiesener Ersatz für dedizierte KI-Infrastruktur.
