ארבעה מחשבי Mini PC של GEEKOM מריצים את DeepSeek V4 Flash מקומית — אז איפה הבנצ'מרקים?

הזיכרון המאוחד הוא חלק מרכזי בתכנון: ה-CPU וה-GPU חולקים את אותו מאגר זיכרון, וכך ניתן להפיץ את המודל בין כמה מערכות במקום להסתמך על מאיץ יחיד בעל נפח זיכרון גדול במיוחד.

עם זאת, 512GB אינם שווים בהכרח ל-512GB זמינים עבור משקלי המודל. חלק מהזיכרון נדרש למערכת ההפעלה, למנוע ההרצה, למטמונים ולפעולות נוספות. הקיבולת המעשית תלויה בדיוק החישוב, בכימות המודל ובהגדרות התוכנה.

איך הפריסה המקומית אמורה לעבוד?

לפי GEEKOM, ארבעת המחשבים מתקשרים דרך USB4. Ubuntu, ROCm ו-DwarfStar אחראים יחד על פריסת המודל, חלוקתו בין הצמתים והגשת בקשות דרך נקודת קצה תואמת OpenAI.

התאימות ל-OpenAI API עשויה להקל על השילוב במערכות קיימות. אפליקציות פנימיות, סוכני AI וכלי פיתוח שכבר יודעים לדבר עם נקודות קצה במבנה הזה עשויים להתחבר למודל המקומי בלי לשנות את כל שכבת האינטגרציה.

אבל ההודעה של החברה אינה מפרטת את כל מה שנדרש כדי לשחזר או להעריך את המערכת: הטופולוגיה, רוחב הפס והשהיה בפועל בין המחשבים, שיטת השבבול (sharding), דיוק המודל, פורמט הכימות, הגדרות התזמור ואופן ההתאוששות מתקלות. הפרטים האלה יכולים להשפיע באופן משמעותי על הביצועים, במיוחד כאשר המחשבים צריכים להחליף מידע לעיתים קרובות במהלך הרצת המודל.

אחסון וקישוריות

לכל A9 Mega שני חריצי M.2 בתקן PCIe 4.0, והוא מוגדר לתמיכה בעד 8TB אחסון SSD. לכן, מערכת בת ארבעה מחשבים המאובזרים במלוא הקיבולת יכולה להגיע תיאורטית לעד 32TB — 8TB בכל מחשב, ולא 8TB לכל האשכול.

המספר הזה נפרד מ-512GB הזיכרון המאוחד, ואינו מעיד כמה מקום תופסת בפועל התקנת DeepSeek V4 Flash.

GEEKOM מציינת חיבורי USB4 במהירות של עד 40Gbps, וגם את החיבור הזה במפרטי ה-A9 Mega. עם זאת, מהירות הממשק אינה שקולה לביצועי אשכול אמיתיים: תקורה של פרוטוקולים, מבנה החיבור ודפוסי התקשורת של התוכנה יקבעו את רוחב הפס וההשהיה בפועל.

למה זה עשוי לעניין עסקים?

החזון שמציגה GEEKOM הוא של מכשיר AI פרטי מקומי. ארגון יכול, לפחות עקרונית, להשאיר פרומפטים, מסמכים ותוצרים בתוך הרשת שלו, ובמקביל לאפשר לאפליקציות ולסוכנים פנימיים להשתמש במודל דרך API מוכר.

ROCm מספקת את שכבת התוכנה עבור החומרה הגרפית של AMD, ולכן בתצורה הזאת אין צורך במערכת המבוססת על NVIDIA CUDA.

גישה כזאת עשויה להתאים לארגונים עם דרישות של פרטיות, שמירת מידע בתוך גבולות הארגון או בידוד רשת. מנגד, היא מעבירה את האחריות למפעיל: הארגון יצטרך לטפל בזמינות החומרה, בעדכונים, בקבצי המודל, בהרשאות, בניטור, בקירור, בצריכת החשמל ובאמינות התוכנה.

כמה זה עולה?

GEEKOM מציגה מחיר של 3,999 דולר ל-A9 Mega. ארבעה מחשבים מגיעים לכן לעלות חומרה בסיסית של כ-15,996 דולר.

הסכום אינו כולל שדרוגי אחסון, כבלים, ציוד תקשורת, התקנה, חשמל, תחזוקה או תמיכה. לכן ההשוואה הרלוונטית אינה רק למחיר של ארבעה מחשבים, אלא לעלות הכוללת של הפעלת שירות הסקה מבוזר ולכמות העבודה שהוא מסוגל לבצע באופן יציב.

השאלה הגדולה: כמה מהר זה עובד?

כאן ההדגמה של GEEKOM עדיין משאירה סימני שאלה. החברה הראתה ש-DeepSeek V4 Flash נפרס על ארבעה מחשבי A9 Mega, אך לא פרסמה תוצאות עצמאיות וסטנדרטיות עבור התצורה המדויקת הזאת.

לא נמסרו נתונים על:

• קצב יציב בטוקנים לשנייה
• זמן עד הטוקן הראשון
• מספר משתמשים או בקשות במקביל
• השהיה בחלונות הקשר ארוכים
• צריכת חשמל
• התנהגות במקרה של כשל באחד הצמתים

גם התמיכה התיאורטית במיליון טוקנים אינה מוכיחה שהאשכול מסוגל לעבד בקשות באורך כזה במהירות או במחיר סביר. הביצועים בפועל תלויים בגרסת המודל, בדיוק החישוב, בכימות, בהקצאת הזיכרון, באורך הפרומפט, במספר הבקשות המקבילות ובתקשורת בין הצמתים.

לכן נכון יותר להתייחס למערכת בשלב זה כאל הוכחת יכולת לפריסה, ולא כאל בנצ'מרק מאומת או תחליף מוכח לתשתית AI ייעודית.

האם החומרה ייחודית ל-GEEKOM?

לא לחלוטין. Ryzen AI Max+ 395 משמש גם מחשבי Mini PC של יצרנים אחרים, ובחלקם מותקנים 128GB זיכרון מאוחד. גם ל-Minisforum יש תכנון דומה, למשל N5 Max. עם זאת, לפי ServeTheHome, הגרסה הקמעונאית של N5 Max הגיעה עם 64GB זיכרון LPDDR5X מאוחד מולחם, ולא עם תצורת 128GB שנראתה באב-טיפוס מוקדם יותר.

לכן, הבידול העיקרי של GEEKOM אינו המעבד עצמו, אלא ההדגמה של מערכת בת ארבעה צמתים המריצה את DeepSeek V4 Flash. כדי להעריך אם מדובר בפתרון שימושי מעבר להדגמה טכנית, נדרשים הוראות התקנה הניתנות לשחזור, מבחני ביצועים אחידים, מדידות רשת, נתוני צריכת חשמל והוכחות לפעולה יציבה בעומסי עבודה מציאותיים.

השורה התחתונה

GEEKOM הציגה דרך קומפקטית להרכיב פלטפורמת AI מקומית בעלת נפח זיכרון גדול, באמצעות ארבעה מחשבים קטנים: 64 ליבות CPU, 128 תהליכונים, 160 יחידות חישוב Radeon 8060S ו-512GB זיכרון מאוחד, המחוברים ב-USB4 ומנוהלים באמצעות Ubuntu, ROCm ו-DwarfStar.

ההבטחה ברורה: גישה מקומית ופרטית למודל Mixture of Experts גדול, דרך API מוכר. אבל הראיות הקיימות מוכיחות את עצם הפריסה — לא את המהירות, היעילות או המוכנות לייצור.

עד ש-GEEKOM תפרסם מבחנים ניתנים לשחזור ופרטים טכניים מלאים, האשכול הזה הוא בעיקר הדגמה מסקרנת של AI מקומי, ולא עדיין תחליף מוכח לשרתים ולתשתיות AI ייעודיות.