GEEKOM รวม Mini PC 4 เครื่อง รัน DeepSeek V4 Flash แบบไม่พึ่งคลาวด์

อย่างไรก็ตาม ตัวเลข 512GB ไม่ควรถูกตีความว่าเป็นพื้นที่ที่โมเดลนำไปใช้งานได้ทั้งหมดจริง ๆ ความจุที่เหลือสำหรับน้ำหนักโมเดล หน่วยความจำรันไทม์ แคช และระบบปฏิบัติการจะขึ้นอยู่กับความแม่นยำของโมเดล วิธีควอนไทซ์ และการตั้งค่าซอฟต์แวร์

ระบบรันโมเดลในเครื่องอย่างไร

ตามข้อมูลของ GEEKOM เครื่องทั้ง 4 สื่อสารกันผ่าน USB4 โดยใช้ Ubuntu, AMD ROCm และ DwarfStar เพื่อแบ่งโมเดล DeepSeek V4 Flash เวอร์ชันที่ปรับแต่งแล้วออกไปยังแต่ละโหนด ก่อนให้ทั้งระบบให้บริการผ่านปลายทาง API ที่เข้ากันได้กับ OpenAI

จุดนี้มีความสำคัญต่อการใช้งานจริงในองค์กร เพราะแอปภายใน เอเจนต์ AI และเครื่องมือสำหรับนักพัฒนาที่รองรับ OpenAI-style endpoint อยู่แล้ว อาจเชื่อมต่อกับโมเดลโลคัลได้โดยไม่ต้องปรับโครงสร้างการทำงานใหม่ทั้งหมด เป้าหมายจึงไม่ใช่เพียงการเปิดแชตบอตบนคอมพิวเตอร์ตั้งโต๊ะ แต่เป็นการสร้างบริการ AI ส่วนตัวภายในเครือข่ายขององค์กร

ถึงกระนั้น ระบบนี้ไม่ได้มีข้อมูลเพียงพอให้สรุปว่ามีคุณสมบัติเหมือนเซิร์ฟเวอร์ในดาต้าเซ็นเตอร์ทั่วไป GEEKOM ยังไม่ได้ระบุรายละเอียดสำคัญ เช่น โทโพโลยีเครือข่าย แบนด์วิดท์และค่าหน่วงที่ใช้งานได้จริง วิธีแบ่งโมเดล รูปแบบความแม่นยำหรือควอนไทซ์ การจัดการออร์เคสเตรชัน และการกู้คืนเมื่อโหนดใดโหนดหนึ่งขัดข้อง รายละเอียดเหล่านี้ส่งผลโดยตรงต่อความเร็ว โดยเฉพาะงานที่ต้องสื่อสารข้อมูลระหว่างเครื่องเป็นระยะ ๆ

USB4 และพื้นที่เก็บข้อมูล

A9 Mega แต่ละเครื่องมีสล็อต M.2 PCIe 4.0 จำนวน 2 ช่อง และรองรับ SSD ได้สูงสุด 8TB ต่อเครื่อง ดังนั้น หากติดตั้ง SSD เต็มความจุทั้ง 4 เครื่อง ระบบจะมีพื้นที่เก็บข้อมูลตามทฤษฎีสูงสุด 32TB ไม่ใช่ 8TB สำหรับทั้งคลัสเตอร์

พื้นที่เก็บข้อมูลดังกล่าวเป็นคนละส่วนกับ Unified Memory ขนาด 512GB และตัวเลข 32TB ก็ไม่ได้บอกว่าไฟล์โมเดล DeepSeek ต้องใช้พื้นที่เท่าใด เพราะขนาดจริงขึ้นกับไฟล์โมเดล รูปแบบควอนไทซ์ และไฟล์ประกอบอื่น ๆ

การเชื่อมต่อระหว่างโหนดที่มีการรายงานคือ USB4 ขณะที่ข้อมูลผลิตภัณฑ์ของ GEEKOM ระบุพอร์ต USB4 ความเร็วสูงสุด 40Gbps อย่างไรก็ตาม ความเร็วของอินเทอร์เฟซไม่เท่ากับประสิทธิภาพของคลัสเตอร์โดยอัตโนมัติ เพราะโปรโตคอล โครงสร้างการเชื่อมต่อ และรูปแบบการสื่อสารของซอฟต์แวร์ล้วนมีผลต่อแบนด์วิดท์และค่าหน่วงที่ระบบใช้งานได้จริง

จุดขายคือ Private AI ภายในองค์กร

GEEKOM วางระบบนี้เป็นอุปกรณ์ Private AI แบบ On-Premises หรือ AI ที่ติดตั้งและประมวลผลอยู่ภายในสถานที่ขององค์กร ในทางทฤษฎี บริษัทสามารถเก็บพรอมต์ เอกสารภายใน และผลลัพธ์ที่โมเดลสร้างขึ้นไว้ในเครือข่ายของตนเอง พร้อมเปิดให้แอปธุรกิจและเอเจนต์เรียกใช้โมเดลผ่าน API ภายในได้

แนวทางนี้อาจเหมาะกับทีมที่มีข้อกำหนดด้านการเก็บข้อมูลไว้ในพื้นที่ที่กำหนด ความเป็นส่วนตัว หรือการแยกเครือข่ายจากอินเทอร์เน็ต นอกจากนี้ ROCm ยังทำหน้าที่เป็นซอฟต์แวร์สแตกสำหรับ GPU ของ AMD ทำให้การออกแบบนี้ไม่จำเป็นต้องใช้ระบบที่อิง NVIDIA CUDA โดยเฉพาะ

แต่การไม่พึ่งคลาวด์ก็หมายถึงองค์กรต้องรับผิดชอบระบบเองมากขึ้น ทั้งการดูแลฮาร์ดแวร์ อัปเดตซอฟต์แวร์และโมเดล ควบคุมสิทธิ์เข้าถึง ตรวจสอบการทำงาน จัดการความร้อนและพลังงาน รวมถึงรับมือกับปัญหาความเสถียรและการหยุดทำงาน

ค่าใช้จ่ายประมาณเท่าไร

GEEKOM ระบุราคา A9 Mega ไว้ที่ 3,999 ดอลลาร์สหรัฐต่อเครื่อง ดังนั้น A9 Mega จำนวน 4 เครื่องจะมีราคารวมประมาณ 15,996 ดอลลาร์สหรัฐ ก่อนรวมค่า SSD ที่เพิ่มจากชุดมาตรฐาน สายเชื่อมต่อ อุปกรณ์เครือข่าย ค่าติดตั้ง ค่าไฟ การบำรุงรักษา และบริการสนับสนุน

ตัวเลขนี้จึงควรถูกมองเป็นต้นทุนซื้อฮาร์ดแวร์เบื้องต้น ไม่ใช่ต้นทุนทั้งหมดของบริการ AI แบบกระจาย การประเมินความคุ้มค่าควรพิจารณาด้วยว่าระบบรองรับงานจริงได้มากน้อยเพียงใด และสามารถให้บริการผู้ใช้พร้อมกันได้อย่างเสถียรหรือไม่

คำถามใหญ่ที่ยังไม่มีคำตอบ: เร็วแค่ไหน

ประกาศของ GEEKOM ยืนยันว่าบริษัทนำ DeepSeek V4 Flash ไปรันบน A9 Mega จำนวน 4 เครื่อง แต่ยังไม่มีผลทดสอบอิสระและเป็นมาตรฐานสำหรับการติดตั้งรูปแบบนี้โดยเฉพาะ ไม่มีตัวเลขที่ระบุถึงความเร็วสร้างโทเค็นต่อวินาทีแบบต่อเนื่อง เวลาในการรับโทเค็นแรก จำนวนผู้ใช้พร้อมกัน ความหน่วงเมื่อใช้บริบทขนาดยาว การใช้พลังงาน หรือพฤติกรรมของระบบเมื่อมีโหนดล้มเหลว

ดังนั้น การสาธิตครั้งนี้ควรถูกมองว่าเป็น หลักฐานว่าระบบถูกนำไปติดตั้งและรันได้ มากกว่าจะเป็นเบนช์มาร์กที่ยืนยันความพร้อมสำหรับงานผลิตจริง ความสามารถด้านบริบทสูงสุดหนึ่งล้านโทเค็นเป็นข้อมูลจำเพาะที่น่าสนใจ แต่ไม่ได้หมายความว่าคลัสเตอร์ A9 Mega 4 เครื่องจะประมวลผลคำขอขนาดหนึ่งล้านโทเค็นได้รวดเร็วหรือคุ้มค่าเสมอไป

ประสิทธิภาพจริงจะขึ้นอยู่กับรุ่นของโมเดล ความแม่นยำ การควอนไทซ์ การจัดสรรหน่วยความจำ ความยาวพรอมต์ จำนวนคำขอพร้อมกัน และค่าใช้จ่ายจากการสื่อสารระหว่างโหนด

ฮาร์ดแวร์นี้มีความแตกต่างแค่ไหน

แพลตฟอร์ม Ryzen AI Max+ 395 ไม่ได้เป็นเอกสิทธิ์ของ GEEKOM ผู้ผลิตรายอื่นก็มี Mini PC ที่ใช้ชิปเดียวกัน และบางรุ่นมี Unified Memory ขนาด 128GB เช่นกัน Minisforum N5 Max เป็นอีกดีไซน์ที่ใกล้เคียงกัน แม้ ServeTheHome จะรายงานว่ารุ่นวางจำหน่ายจริงใช้ LPDDR5X Unified Memory แบบบัดกรีขนาด 64GB แทน 128GB ที่พบในเครื่องต้นแบบก่อนหน้านี้

ด้วยเหตุนี้ จุดแตกต่างที่สำคัญกว่าของ GEEKOM จึงอยู่ที่การสาธิตซอฟต์แวร์แบบ 4 โหนด ไม่ใช่ตัวประมวลผลเพียงอย่างเดียว หากต้องการพิสูจน์ว่าระบบนี้มีประโยชน์มากกว่าการสาธิตทางเทคนิค บริษัทควรเปิดเผยคู่มือการติดตั้งที่ทำซ้ำได้ ผลทดสอบมาตรฐาน ค่าการสื่อสารระหว่างเครื่อง ข้อมูลการใช้พลังงาน และหลักฐานการทำงานต่อเนื่องภายใต้โหลดจริง

สรุป

คลัสเตอร์ของ GEEKOM แสดงให้เห็นวิธีนำ Mini PC ขนาดกะทัดรัด 4 เครื่องมาประกอบเป็นแพลตฟอร์ม AI ที่มีหน่วยความจำสูง โดยมี CPU รวม 64 คอร์ 128 เธรด, Radeon 8060S จำนวน 160 Compute Units และ Unified Memory 512GB เชื่อมต่อผ่าน USB4 และจัดการด้วย Ubuntu, ROCm กับ DwarfStar

ข้อเสนอที่น่าสนใจคือการเปิดให้ใช้งานโมเดล Mixture-of-Experts ขนาดใหญ่ภายในองค์กร ผ่าน API ที่คุ้นเคย โดยไม่ต้องส่งข้อมูลไปยังคลาวด์ แต่ข้อมูลที่มีอยู่ในตอนนี้ยืนยันได้เพียงว่าการติดตั้งถูกนำมาสาธิตและใช้งานได้ ยังไม่เพียงพอที่จะสรุปเรื่องความเร็ว ประสิทธิภาพด้านพลังงาน หรือความพร้อมสำหรับระบบผลิตจริง

จนกว่า GEEKOM จะเผยแพร่เบนช์มาร์กที่ทำซ้ำได้และรายละเอียดการติดตั้งเพิ่มเติม คลัสเตอร์นี้จึงควรถูกมองว่าเป็นการสาธิต On-Premises ที่น่าสนใจ มากกว่าจะเป็นตัวแทนที่พิสูจน์แล้วว่าสามารถทดแทนโครงสร้างพื้นฐาน AI แบบเฉพาะทางได้