Cztery mini-PC GEEKOM A9 Mega uruchomiły lokalnie DeepSeek V4 Flash. Brakuje jednak benchmarków
Cztery komputery GEEKOM A9 Mega tworzą klaster dla lokalnego DeepSeek V4 Flash: łącznie oferują 64 rdzenie CPU, 128 wątków, 160 jednostek obliczeniowych Radeon 8060S i 512 GB współdzielonej pamięci LPDDR5X 8000. Węzły połączono przez USB4, a do wdrożenia wykorzystano Ubuntu, AMD ROCm i oprogramowanie DwarfStar.
Cztery komputery GEEKOM A9 Mega tworzą klaster dla lokalnego DeepSeek V4 Flash: łącznie oferują 64 rdzenie CPU, 128 wątków, 160 jednostek obliczeniowych Radeon 8060S i 512 GB współdzielonej pamięci LPDDR5X 8000.
Węzły połączono przez USB4, a do wdrożenia wykorzystano Ubuntu, AMD ROCm i oprogramowanie DwarfStar.
Przy cenie 3999 dolarów za jeden A9 Mega cztery urządzenia kosztują około 15 996 dolarów, bez dodatkowych wydatków na pamięć masową, okablowanie, wdrożenie i utrzymanie.
GEEKOM nie podał jednak niezależnych wyników dla tej konkretnej konfiguracji: nie znamy m.in.
How did GEEKOM demonstrate running the roughly 284-billion-parameter DeepSeek V4 Flash Mixture-of-Experts model locally and without cloud inAn editorial visualization of GEEKOM’s four-node A9 Mega local AI cluster.
AI Prompt
Create a landscape editorial hero image for this Studio Global article: How did GEEKOM demonstrate running the roughly 284-billion-parameter DeepSeek V4 Flash Mixture-of-Experts model locally and without cloud in. Article summary: GEEKOM’s demonstration was a four-node, local distributed-inference setup: it linked four A9 Mega mini PCs over USB4, then used Ubuntu, AMD ROCm, and DwarfStar software to partition an optimized DeepSeek V4 Flash model a. Topic tags: general, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
openai.com
GEEKOM zaprezentował czterowęzłowy klaster lokalnego wnioskowania AI, w którym cztery mini-PC A9 Mega wspólnie uruchamiają DeepSeek V4 Flash. Maszyny połączono przez USB4, a za lokalne wdrożenie odpowiadają Ubuntu, platforma AMD ROCm oraz oprogramowanie DwarfStar. Wynik udostępniono przez interfejs API zgodny z OpenAI, dzięki czemu mogą z niego korzystać istniejące aplikacje, agenci i narzędzia deweloperskie.
To rozwiązanie ma być alternatywą dla przesyłania promptów i dokumentów do infrastruktury chmurowej. GEEKOM przedstawia je jako kompaktową, lokalną platformę AI dla firm, a nie po prostu sposób na uruchomienie chatbota na pojedynczym komputerze.
Dlaczego potrzebne są aż cztery komputery?
DeepSeek V4 Flash jest opisywany jako model typu mixture of experts (MoE) o około 284 miliardach parametrów. W przypadku pojedynczego tokena aktywnych jest około 13 miliardów parametrów, co ogranicza bieżący koszt obliczeń, ale nie eliminuje wymagań dotyczących pamięci i infrastruktury. Model ma również obsługiwać kontekst o długości do miliona tokenów.
Cztery systemy pozwalają rozłożyć model i obciążenie pomiędzy kilka urządzeń zamiast próbować zmieścić całość w jednym akceleratorze. Trzeba jednak pamiętać, że łączna pojemność pamięci nie jest równoznaczna z ilością miejsca dostępnego na wagi modelu. Część zasobów zajmują system operacyjny, środowisko uruchomieniowe, pamięć podręczna oraz narzut wynikający z wybranej precyzji, kwantyzacji i konfiguracji oprogramowania.
Co oferuje klaster A9 Mega?
Każdy GEEKOM A9 Mega korzysta z układu AMD Ryzen AI Max+ 395, wyposażonego w 16 rdzeni i 32 wątki, oraz zintegrowanej grafiki Radeon 8060S. Po zsumowaniu parametrów czterech urządzeń otrzymujemy:
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
What is the short answer to "Cztery mini-PC GEEKOM A9 Mega uruchomiły lokalnie DeepSeek V4 Flash. Brakuje jednak benchmarków"?
Cztery komputery GEEKOM A9 Mega tworzą klaster dla lokalnego DeepSeek V4 Flash: łącznie oferują 64 rdzenie CPU, 128 wątków, 160 jednostek obliczeniowych Radeon 8060S i 512 GB współdzielonej pamięci LPDDR5X 8000.
What are the key points to validate first?
Cztery komputery GEEKOM A9 Mega tworzą klaster dla lokalnego DeepSeek V4 Flash: łącznie oferują 64 rdzenie CPU, 128 wątków, 160 jednostek obliczeniowych Radeon 8060S i 512 GB współdzielonej pamięci LPDDR5X 8000. Węzły połączono przez USB4, a do wdrożenia wykorzystano Ubuntu, AMD ROCm i oprogramowanie DwarfStar.
What should I do next in practice?
Przy cenie 3999 dolarów za jeden A9 Mega cztery urządzenia kosztują około 15 996 dolarów, bez dodatkowych wydatków na pamięć masową, okablowanie, wdrożenie i utrzymanie.
160 jednostek obliczeniowych Radeon 8060S w architekturze RDNA 3.5;
512 GB współdzielonej pamięci LPDDR5X-8000, czyli 128 GB na każdy węzeł;
cztery osobne mini-PC, działające jako jedna rozproszona platforma wnioskowania.
Kluczowa jest tutaj konstrukcja z pamięcią zunifikowaną. CPU i GPU korzystają z tej samej puli pamięci, co upraszcza dostęp do dużych modeli w porównaniu z konfiguracją, w której model musi zmieścić się wyłącznie w pamięci pojedynczej karty graficznej.
Jak działa lokalne wdrożenie?
Według GEEKOM cztery maszyny komunikują się przez USB4. Ubuntu, ROCm i DwarfStar dzielą zoptymalizowaną wersję DeepSeek V4 Flash pomiędzy poszczególne węzły, a następnie udostępniają model za pośrednictwem zgodnego z OpenAI punktu końcowego API.
Zgodność z API OpenAI może ułatwić wdrożenie w firmie. Aplikacje wewnętrzne, systemy automatyzacji i agenci, które już obsługują tego typu interfejs, potencjalnie nie wymagają całkowitego przeprojektowania integracji.
Nie oznacza to jednak, że klaster działa tak samo jak serwer z centrum danych. W komunikacie nie podano topologii połączeń, rzeczywistej przepustowości i opóźnień, strategii dzielenia modelu, precyzji obliczeń, formatu kwantyzacji, ustawień orkiestracji ani sposobu reagowania na awarię jednego z węzłów. Każdy z tych elementów może wyraźnie wpłynąć na wydajność, zwłaszcza gdy model wymaga częstej wymiany danych pomiędzy komputerami.
USB4 i potencjalnie do 32 TB pamięci masowej
Każdy A9 Mega ma dwa gniazda M.2 PCIe 4.0 i według specyfikacji obsługuje do 8 TB pamięci SSD. Jeśli każdy z czterech komputerów zostanie wyposażony w nośniki o maksymalnej pojemności, cała instalacja może teoretycznie oferować do 32 TB przestrzeni dyskowej.
To osobna kwestia względem 512 GB pamięci zunifikowanej. Pojemność SSD nie mówi sama w sobie, ile miejsca wymaga konkretne wdrożenie DeepSeek ani ile pamięci pozostanie na pliki modelu po uwzględnieniu systemu i danych pomocniczych.
Raportowane połączenie między węzłami wykorzystuje USB4. Materiały produktowe GEEKOM wymieniają porty USB4 o przepustowości do 40 Gb/s. Wartość ta jest jednak parametrem interfejsu, a nie wynikiem testu całego klastra. Rzeczywista wydajność zależy m.in. od narzutu protokołu, topologii oraz sposobu, w jaki oprogramowanie wymienia dane między węzłami.
Prywatna sztuczna inteligencja bez chmury
Najważniejszy argument biznesowy GEEKOM to lokalna, prywatna infrastruktura AI. Firma może w takim modelu przechowywać prompty, dokumenty i wygenerowane odpowiedzi we własnej sieci, a aplikacje biznesowe oraz agenci mogą korzystać z modelu przez lokalne API.
ROCm zapewnia warstwę programową dla sprzętu graficznego AMD, więc ta konkretna konfiguracja nie wymaga systemu opartego na NVIDIA CUDA. Może to zainteresować organizacje, które mają wymagania dotyczące prywatności, miejsca przetwarzania danych lub izolacji sieciowej.
Lokalny model oznacza jednak także więcej obowiązków po stronie operatora. Firma musi samodzielnie zadbać o dostępność sprzętu, aktualizacje, kontrolę dostępu, monitoring, chłodzenie, zużycie energii, pliki modelu i stabilność oprogramowania.
Ile kosztuje taki klaster?
GEEKOM wycenia A9 Mega na 3999 dolarów. Cztery urządzenia kosztują więc około 15 996 dolarów, zanim doliczymy ewentualne rozszerzenie pamięci masowej, okablowanie, sprzęt sieciowy, instalację, energię, konserwację i wsparcie.
To znacząca kwota jak na rozwiązanie, którego parametry produkcyjne nie zostały jeszcze niezależnie potwierdzone. Sensowna kalkulacja powinna uwzględniać nie tylko cenę czterech mini-PC, lecz także pełny koszt utrzymania rozproszonej usługi wnioskowania oraz rodzaj obciążenia, które system ma niezawodnie obsługiwać.
Największa niewiadoma: wydajność
GEEKOM pokazał, że DeepSeek V4 Flash został wdrożony na czterech systemach A9 Mega. Nie przedstawił jednak niezależnych, ustandaryzowanych rezultatów dla tej konkretnej konfiguracji.
Brakuje danych dotyczących między innymi:
liczby tokenów generowanych na sekundę w długim obciążeniu;
czasu do wygenerowania pierwszego tokena;
liczby jednoczesnych użytkowników i zapytań;
opóźnień przy bardzo długim kontekście;
poboru energii;
zachowania klastra po awarii lub odłączeniu jednego węzła.
Dlatego demonstrację należy traktować przede wszystkim jako dowód możliwości wdrożenia, a nie jako potwierdzony benchmark produkcyjny. Obsługa miliona tokenów w kontekście jest ważną cechą modelu, ale nie dowodzi, że czterowęzłowy klaster A9 Mega będzie przetwarzał tak długie zapytania szybko i ekonomicznie. Rzeczywisty wynik zależy od wersji modelu, precyzji, kwantyzacji, alokacji pamięci, długości promptu, liczby równoległych zapytań i narzutu komunikacji między komputerami.
Czy GEEKOM ma wyjątkowy sprzęt?
Sam procesor Ryzen AI Max+ 395 nie jest rozwiązaniem dostępnym wyłącznie w komputerach GEEKOM. Inni producenci również oferują mini-PC z tym układem, a niektóre modele mają 128 GB pamięci zunifikowanej.
Przykładem jest Minisforum N5 Max. Wersja detaliczna opisywana przez ServeTheHome została wyposażona w 64 GB przylutowanej pamięci LPDDR5X, choć wcześniejszy prototyp zaprezentowany na targach CES 2026 miał 128 GB.
W praktyce wyróżnikiem GEEKOM nie jest więc sam procesor, lecz deklarowana demonstracja uruchomienia dużego modelu w konfiguracji czterech połączonych węzłów. Aby ocenić użyteczność tego podejścia poza pokazem technologicznym, potrzebne byłyby powtarzalne instrukcje wdrożenia, standardowe testy, pomiary sieci, dane o poborze energii oraz dowody stabilnego działania przy realistycznym obciążeniu.
Wnioski
Konfiguracja GEEKOM pokazuje ciekawy sposób zbudowania lokalnej platformy AI z czterech kompaktowych komputerów. Wspólnie oferują one 64 rdzenie CPU, 128 wątków, 160 jednostek obliczeniowych Radeon 8060S i 512 GB pamięci zunifikowanej, a całość działa z użyciem Ubuntu, ROCm, DwarfStar i połączenia USB4.
Potencjalna korzyść jest jasna: lokalny i prywatny dostęp do bardzo dużego modelu MoE przez znajomy interfejs API. Obecne dane potwierdzają jednak przede wszystkim samo wdrożenie, a nie jego szybkość, efektywność czy gotowość do pracy produkcyjnej.
Dopóki GEEKOM nie opublikuje powtarzalnych benchmarków i szczegółów implementacji, czterowęzłowy A9 Mega pozostaje interesującą demonstracją infrastruktury on-premises, a nie udowodnionym zamiennikiem dedykowanego serwera AI.
