Quatre mini-PC GEEKOM pour exécuter DeepSeek V4 Flash en local : l’idée est prometteuse, les performances restent inconnues

• 64 cœurs CPU et 128 threads ;
• 160 unités de calcul Radeon 8060S RDNA 3.5, soit 40 par machine ;
• 512 Go de mémoire unifiée LPDDR5X-8000, soit 128 Go par nœud ;
• quatre mini-PC distincts fonctionnant comme une plate-forme d’inférence distribuée.

Ces chiffres décrivent la somme des ressources matérielles, pas nécessairement les performances obtenues par l’application. Dans un système distribué, une partie du temps de calcul peut être consacrée aux échanges entre les nœuds, à la synchronisation et à la gestion du modèle.

USB4, stockage et API locale

GEEKOM indique que les quatre A9 Mega communiquent via USB4. La fiche technique du mini-PC mentionne deux ports USB4 pouvant atteindre 40 Gbit/s. Ce débit théorique ne doit pas être assimilé aux performances effectives du cluster : la topologie, les protocoles, la latence et le schéma de communication du moteur d’inférence peuvent réduire la bande passante réellement disponible.

Chaque A9 Mega dispose par ailleurs de deux emplacements M.2 PCIe 4.0 et peut accueillir jusqu’à 8 To de SSD. Une configuration complète de quatre machines pourrait donc atteindre théoriquement 32 To de stockage, à condition que chaque nœud soit équipé à sa capacité maximale.

Le stockage ne doit pas être confondu avec les 512 Go de mémoire unifiée. Il peut servir aux fichiers du modèle, aux environnements logiciels et aux données, mais sa capacité ne renseigne pas directement sur la quantité de mémoire nécessaire à l’exécution de DeepSeek V4 Flash.

Pourquoi l’API compatible OpenAI est importante

En fournissant un point d’accès compatible avec les API OpenAI, le cluster peut potentiellement être utilisé par des applications qui savent déjà envoyer leurs requêtes à ce type de service. Pour une entreprise, l’enjeu n’est donc pas seulement de faire fonctionner un chatbot sur un ordinateur de bureau, mais de proposer un service d’IA interne à d’autres logiciels et agents.

Cette architecture peut intéresser les organisations soumises à des contraintes de confidentialité, de résidence des données ou d’isolation réseau. ROCm fournit la couche logicielle AMD nécessaire à l’exploitation des ressources graphiques, sans imposer dans cette configuration une infrastructure fondée sur NVIDIA CUDA.

En contrepartie, l’opérateur conserve toute la responsabilité de l’installation : mises à jour, contrôle des accès, supervision, refroidissement, alimentation, disponibilité du matériel, fichiers du modèle et reprise après incident restent à sa charge.

Un investissement d’environ 15 996 dollars

GEEKOM affiche l’A9 Mega à 3 999 dollars. Quatre unités représentent donc environ 15 996 dollars, avant d’ajouter le stockage éventuellement nécessaire, le câblage, les équipements réseau, l’installation, l’électricité, le support et la maintenance.

Le prix doit aussi être comparé au service réellement rendu. La question n’est pas simplement de savoir combien coûtent quatre mini-PC, mais combien coûte l’exploitation fiable d’un système d’inférence distribué et quelle charge de travail il peut absorber.

Le principal point faible : aucune mesure de performance

La communication de GEEKOM confirme le déploiement de DeepSeek V4 Flash sur quatre A9 Mega, mais elle ne fournit pas de résultats indépendants et standardisés pour cette configuration précise. Il manque notamment des données sur :

• le nombre de tokens générés par seconde ;
• le délai avant le premier token ;
• la latence avec de longs contextes ;
• le nombre de requêtes simultanées ;
• la consommation électrique ;
• le comportement en cas de panne d’un nœud.

Les détails techniques indispensables à la reproduction du test ne sont pas non plus précisés : topologie exacte, bande passante et latence effectives, précision du modèle, format de quantification, méthode de partitionnement, paramètres d’orchestration et mécanismes de reprise.

La capacité théorique d’un million de tokens ne signifie pas que le cluster peut traiter une requête de cette taille rapidement ou à un coût raisonnable. Les résultats dépendront de la version du modèle, de la précision, de l’allocation mémoire, de la longueur du prompt, du nombre de requêtes simultanées et des échanges entre les machines.

Une architecture matérielle qui n’est pas unique

Le Ryzen AI Max+ 395 n’est pas exclusif à GEEKOM. D’autres fabricants commercialisent des mini-PC équipés de cette puce, parfois avec 128 Go de mémoire unifiée. Minisforum propose notamment le N5 Max, même si la version commerciale testée par ServeTheHome était livrée avec 64 Go de LPDDR5X soudée, contre 128 Go pour un prototype antérieur.

La différence la plus intéressante de GEEKOM n’est donc pas le processeur lui-même, mais la démonstration logicielle d’un fonctionnement à quatre nœuds. Pour déterminer si cette approche dépasse le stade du prototype technique, il faudra des instructions reproductibles, des benchmarks normalisés, des mesures réseau, des données de consommation et des éléments attestant une stabilité suffisante sur des charges réalistes.

À retenir

Le montage de GEEKOM illustre une manière compacte de réunir une importante capacité mémoire AMD à partir de quatre mini-PC : 64 cœurs CPU, 128 threads, 160 unités de calcul Radeon 8060S et 512 Go de mémoire unifiée, le tout relié en USB4 et piloté par Ubuntu, ROCm et DwarfStar.

La promesse est séduisante : exécuter localement un très grand modèle MoE et le rendre accessible aux applications internes via une API familière. Mais les informations disponibles prouvent uniquement que le déploiement a été réalisé. Elles ne permettent pas encore de conclure sur sa vitesse, son efficacité énergétique ou son aptitude à remplacer une infrastructure d’IA dédiée.

Tant que GEEKOM ne publiera pas de benchmarks reproductibles et davantage de détails sur l’implémentation, ce cluster doit être considéré comme une démonstration intéressante de calcul privé sur site — et non comme une solution de production déjà validée.