Qualcomm อัปเกรด Hexagon NPU ดัน AI Agent บนมือถือ รองรับบริบท 32,000 โทเค็น

Qualcomm เผยทิศทางของแพลตฟอร์ม Snapdragon ระดับพรีเมียมรุ่นถัดไปเมื่อวันที่ 9 กันยายน โดยเน้นให้โทรศัพท์รองรับงาน AI แบบสร้างเนื้อหาและ AI Agent ที่ทำงานต่อเนื่องบนตัวเครื่องได้มากขึ้น จุดสำคัญคือ Hexagon NPU ที่ออกแบบใหม่ พร้อมฮาร์ดแวร์เฉพาะสำหรับ Transformer และหน่วยความจำภายในที่ใหญ่ขึ้น เพื่อรองรับงานหลายรูปแบบและบริบทที่ยาวกว่าเดิม 1

Hexagon NPU เปลี่ยนอะไรบ้าง

หัวใจของการอัปเกรดคือ Element Accelerator ซึ่งเป็นบล็อกประมวลผลเฉพาะสำหรับงาน Transformer — สถาปัตยกรรมโมเดลที่อยู่เบื้องหลัง AI สร้างข้อความและโมเดลหลายรูปแบบ (multimodal) จำนวนมาก Qualcomm วางให้ตัวเร่งนี้ทำงานเสริมกับหน่วยประมวลผลแบบ scalar, vector และ tensor ที่มีอยู่เดิม ไม่ได้มาแทนที่ส่วนใดส่วนหนึ่ง 111

บริษัทยังระบุว่า หน่วยความจำร่วมของ NPU มีขนาดเพิ่มขึ้น 50% จากดีไซน์ก่อนหน้า เป้าหมายคือเก็บข้อมูลโมเดลที่ถูกเรียกใช้บ่อยไว้ใกล้ NPU ลดการดึงข้อมูลซ้ำจากหน่วยความจำระบบ ระหว่างที่ AI Agent ต้องจัดการบริบทยาว เครื่องมือหลายชนิด และหลายงานพร้อมกัน อย่างไรก็ดี Qualcomm ยังไม่ได้เปิดเผยความจุจริงของหน่วยความจำส่วนนี้ 15

บริบทยาว 32,000 โทเค็น และเริ่มตอบได้เร็วขึ้น

Qualcomm ระบุว่าสถาปัตยกรรม Hexagon ใหม่รองรับบริบทได้สูงสุด 32,000 โทเค็น พร้อมการเร่ง key-value cache หรือ KV cache ในการใช้งานจริง บริบทที่ใหญ่ขึ้นช่วยให้โมเดลจดจำเนื้อหาของบทสนทนา เอกสาร หรือประวัติงานได้มากขึ้นระหว่างที่ประมวลผลบนอุปกรณ์ 1112

อีกตัวเลขที่บริษัทชูคือ การทำ prefill สำหรับโมเดล INT4 เร็วขึ้นสูงสุด 50% โดย prefill คือขั้นตอนที่โมเดลอ่านและประมวลผลพรอมป์ตเริ่มต้น เพื่อสร้างบริบทสำหรับตอบกลับ จึงไม่ควรตีความว่าทุกแอปหรือทุกโมเดลจะสร้างคำตอบทีละโทเค็นได้เร็วขึ้น 50% เสมอไป NPU นี้รองรับความละเอียดตั้งแต่ INT2, INT4, INT8, FP8 ไปจนถึง FP16 16

เคลมโมเดล 30 พันล้านพารามิเตอร์ ต้องดูว่าเป็น MoE

Qualcomm ระบุการรองรับโมเดลแบบ Mixture-of-Experts (MoE) ที่มีพารามิเตอร์รวมได้สูงสุด 30 พันล้านพารามิเตอร์ แต่ในตัวอย่างของบริษัท จะมีพารามิเตอร์ที่ถูกเปิดใช้งานราว 3 พันล้านพารามิเตอร์ต่อโทเค็น 6

ความต่างนี้สำคัญ เพราะ MoE ใช้กลไกเลือกเฉพาะส่วนหรือ “ผู้เชี่ยวชาญ” ของโมเดลที่เหมาะกับโทเค็นหรืองานนั้น ๆ ดังนั้นจึงไม่ได้หมายความว่ามือถือคำนวณครบทั้ง 30 พันล้านพารามิเตอร์ทุกครั้ง ความเป็นไปได้ในการใช้งานขึ้นกับการเปิดใช้ผู้เชี่ยวชาญแบบเลือกส่วน รวมถึงตัวโมเดล การปรับแต่งซอฟต์แวร์ และสเปกอุปกรณ์จริง 113

NPU เป็นส่วนหนึ่งของแนวทาง CPU, GPU และ NPU ทำงานร่วมกัน

การเปิดตัว Hexagon NPU ต่อเนื่องจากการเผยรายละเอียด CPU และ GPU ของแพลตฟอร์มเดียวกัน Oryon CPU แบบ 8 คอร์ที่กำลังจะมามี Prime core 2 คอร์ ความเร็วสูงสุด 5GHz และ Performance core 6 คอร์ ขณะที่สถาปัตยกรรม FlexCache เปิดให้คอร์ CPU ต่างประเภทเข้าถึงพูลแคชร่วมที่จัดสรรตามลักษณะงาน 2122

ในส่วนกราฟิก Qualcomm ประกาศ Adreno Matrix Cores และหน่วยความจำ Adreno High Performance Memory ขนาด 18MB รวมถึงเทคโนโลยี Neural Fusion ที่ผสานการประมวลผลแบบนิวรัล, AI super resolution และการสร้างเฟรมเข้าไว้ในไปป์ไลน์กราฟิก บริษัทระบุว่าเทคโนโลยีนี้อาจลดการใช้พลังงานได้สูงสุด 40% สำหรับงานเรนเดอร์ที่รองรับ ซึ่งเป็นตัวเลขที่ Qualcomm อ้าง ไม่ใช่ผลทดสอบอิสระ 1723

ภาพรวมจึงเป็นการกระจายงาน AI บนอุปกรณ์ไปยังหน่วยประมวลผลที่เหมาะสม:

• Hexagon NPU: ประมวลผลโมเดล AI และงานลักษณะ AI Agent อย่างมีประสิทธิภาพ
• Oryon CPU: งานทั่วไป ตรรกะแอป และงานที่ไม่เหมาะกับตัวเร่งเฉพาะทาง
• Adreno GPU: งาน AI แบบขนานด้านภาพและกราฟิก รวมถึงการเรนเดอร์ที่มี AI ช่วย

ประเด็นสำคัญคือ Qualcomm ไม่ได้บอกว่าฟีเจอร์ AI ทุกอย่างต้องทำงานบน NPU เพียงอย่างเดียว แต่เสนอให้ CPU, GPU และ NPU เป็นชุดทรัพยากรเสริมกัน เพื่อให้ผู้ผลิตอุปกรณ์เลือกใช้กับแต่ละส่วนของประสบการณ์ AI บนเครื่อง

รายละเอียดที่ยังต้องรอยืนยัน

ข้อมูลที่เผยแพร่ในเวลานี้เป็นการพรีวิวสถาปัตยกรรม ยังไม่ใช่สเปกเต็มของแพลตฟอร์ม Qualcomm กำหนดจัดงาน Snapdragon Summit ระหว่างวันที่ 22–24 กันยายน ที่เมืองเมาวี รัฐฮาวาย 31

จนกว่าจะถึงงานดังกล่าว ผู้บริโภคและนักพัฒนาควรมองตัวเลขเหล่านี้เป็นการบอกทิศทางทางเทคนิค มากกว่าจะเป็นภาพประสิทธิภาพที่สมบูรณ์ เพราะบริษัทยังไม่เผยความจุจริงของ shared memory และยังไม่มีผลทดสอบประสิทธิภาพหรือประสิทธิภาพพลังงานแบบอิสระสำหรับ NPU ใหม่ 5 รายละเอียดของผลิตภัณฑ์ Snapdragon และการนำไปใช้ในสมาร์ตโฟนจริง จะเป็นตัวตัดสินว่าความสามารถเหล่านี้แปรเป็นประสบการณ์ใช้งานได้มากเพียงใด