Multiverse Computing จับมือ Qualcomm เร่ง AI 93% บน Dragonfly เปลี่ยนโฉมดาต้าเซ็นเตอร์

รายงานทางการแพทย์ฉุกเฉินแบบเรียลไทม์ (Compressed LLM):

• ความเร็วตอบสนองเร็วขึ้นสูงสุด 93%
• ปริมาณงานสูงขึ้นสูงสุด 44%
• การใช้หน่วยความจำลดลงสูงสุด 45%
• การใช้พลังงานลดลงสูงสุด 21%
• ไม่สูญเสียความแม่นยำ

แชทบอท RAG สำหรับเอกสารทางการเงินที่เป็นความลับ:

• ความเร็วตอบสนองเร็วขึ้นสูงสุด 35%
• ปริมาณงานสูงขึ้นสูงสุด 54%
• การใช้หน่วยความจำลดลงสูงสุด 45%
• การใช้พลังงานลดลงสูงสุด 14%
• ไม่สูญเสียความแม่นยำ

สำหรับกรณีการแพทย์ ผลลัพธ์ดังกล่าวได้รับการยืนยันโดยสื่อหลายสำนัก โดยระบุถึงความเร็วที่เร็วกว่า 93% การประหยัดหน่วยความจำ 45% และการลดพลังงาน 21% Multiverse Computing ระบุว่าการทำงานบน Dragonfly AI200/AI250 รุ่นใหม่โดยตรงคาดว่าจะให้ผลลัพธ์ที่ดียิ่งขึ้นไปอีก

กลไกการทำงาน

Multiverse Computing ปรับแต่งโมเดล AI ก่อนนำไปใช้งานจริง โดยลดขนาดการประมวลผลและหน่วยความจำที่แต่ละโมเดลต้องการ การทำเช่นนี้เป็นการเพิ่มพื้นที่ว่างบนฮาร์ดแวร์ที่มีอยู่ ทำให้ผู้ให้บริการดาต้าเซ็นเตอร์สามารถรองรับคำขออนุมานผล (inference) ได้มากขึ้น หรือรันโมเดลหลายตัวพร้อมกัน โดยไม่ต้องเพิ่ม accelerator ใหม่หรือขยายโครงสร้างพื้นฐาน

การเปลี่ยนผ่านครั้งใหญ่ของอุตสาหกรรม

ความร่วมมือนี้สะท้อนถึงการเปลี่ยนแปลงเชิงโครงสร้างของอุตสาหกรรมดาต้าเซ็นเตอร์ไปสู่ โครงสร้างพื้นฐาน AI ที่ให้ความสำคัญกับประสิทธิภาพเป็นอันดับแรก (efficiency-first) สัญญาณสำคัญของการเปลี่ยนแปลงนี้:

• ดีเอ็นเอด้านประสิทธิภาพของ Qualcomm: Qualcomm สร้างความเป็นผู้นำในตลาดมือถือและ IoT ซึ่งการเพิ่มประสิทธิภาพสูงสุดภายใต้ข้อจำกัดด้านพลังงานและความร้อนเป็นสิ่งจำเป็น — หลักการเหล่านี้ถูกนำมาใช้กับดาต้าเซ็นเตอร์ AI โดยตรง
• นวัตกรรมระดับฮาร์ดแวร์: Dragonfly AI250 ของ Qualcomm นำเสนอเทคโนโลยี High Bandwidth Compute (HBC) Gen 1 ที่ให้แบนด์วิดท์หน่วยความจำจริง 133 TB/s ต่อการ์ด (มากกว่า AI200 ถึง 18 เท่า) ซึ่งเข้ามาแก้ปัญหาคอขวดด้านหน่วยความจำที่เป็นสาเหตุหลักของต้นทุนและการสิ้นเปลืองพลังงานของ AI
• การขยายตัวโดยไม่เพิ่มต้นทุนตามสัดส่วน: เมื่อการนำ AI ไปใช้เร่งตัวขึ้น ผู้ให้บริการจำเป็นต้องขยายขนาดการใช้งานโดยไม่ต้องเพิ่มฮาร์ดแวร์ พลังงาน และต้นทุนตามสัดส่วน การผสมผสานฮาร์ดแวร์ที่มีประสิทธิภาพกับโมเดลที่ปรับแต่งแล้วเป็นหนทางที่ปฏิบัติได้จริง
• การยอมรับจากอุตสาหกรรม: ทั้งสองบริษัทระบุอย่างชัดเจนว่าความร่วมมือนี้มุ่งสู่ "การปรับปรุงประสิทธิภาพ ต้นทุน และประสิทธิภาพการใช้พลังงานในระดับใหญ่" โดย Dino Flore จาก Qualcomm กล่าวว่า "ลูกค้าต้องการโซลูชันที่ให้ประสิทธิภาพสูงพร้อมประสิทธิภาพที่ดียิ่งขึ้น" ในขณะที่การนำ AI ไปใช้ในองค์กรและคลาวด์เร่งตัวขึ้น

ความร่วมมือครั้งนี้เป็นตัวอย่างที่เป็นรูปธรรมของอุตสาหกรรมที่กำลังเปลี่ยนผ่านจากแนวคิด 'ใส่ GPU เข้าไปอีก' ไปสู่การให้ความสำคัญกับ ประสิทธิภาพต่อวัตต์ (performance-per-watt) และ ต้นทุนรวมในการเป็นเจ้าของ (Total Cost of Ownership: TCO) โดยที่การปรับแต่งซอฟต์แวร์-ฮาร์ดแวร์ร่วมกันคือเครื่องมือหลักในการขยายขนาด AI อย่างยั่งยืน

*หมายเหตุ: TCO หรือ Total Cost of Ownership คือต้นทุนรวมในการเป็นเจ้าของและใช้งานระบบ ซึ่งรวมถึงค่าฮาร์ดแวร์ ค่าไฟฟ้า ค่าบำรุงรักษา และค่าใช้จ่ายอื่นๆ ตลอดอายุการใช้งาน