คำตอบเผยแพร่แล้ว26 แหล่งที่มา
Samsung zHBM: หน่วยความจำ 3 มิติบนชิป AI คืออะไร และสำคัญอย่างไร
Samsung ระบุว่า zHBM อาจเพิ่มความเร็วการตอบสนองของระบบ AI ได้มากกว่า 10 เท่า ด้วยการซ้อน HBM ไว้บน AI accelerator แทนการวางข้างกัน บริษัทตั้งเป้าให้อินเทอร์เฟซที่ใช้ zHBM มีประสิทธิภาพราว 8 เท่าของ HBM5 ความหนาแน่นหน่วยความจำมากกว่า 10 เท่า ประสิทธิภาพพลังงาน 3 เท่า และความต้านทานความร้อนลดลงมากกว่า 50% วิศวกรจาก Op...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- Samsung ระบุว่า zHBM อาจเพิ่มความเร็วการตอบสนองของระบบ AI ได้มากกว่า 10 เท่า ด้วยการซ้อน HBM ไว้บน AI accelerator แทนการวางข้างกัน
- บริษัทตั้งเป้าให้อินเทอร์เฟซที่ใช้ zHBM มีประสิทธิภาพราว 8 เท่าของ HBM5 ความหนาแน่นหน่วยความจำมากกว่า 10 เท่า ประสิทธิภาพพลังงาน 3 เท่า และความต้านทานความร้อนลดลงมากกว่า 50%
- วิศวกรจาก OpenAI และ Intel มองว่า CXL เหมาะกับการเพิ่มความจุหรือเก็บข้อมูลที่ไม่ถูกเรียกใช้บ่อย มากกว่าจะมาแทน HBM ในการรันโมเดล AI โดยตรง
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Samsung Electronics reveal at the September 16, 2026, AI Infrastructure Summit about its next-generation zHBM 3D memory architectur. Article summary: Samsung presented zHBM as a longer-term “zero-distance” HBM architecture: rather than placing HBM beside an AI accelerator on a silicon interposer, as in current 2.5D packages, it would bond HBM directly above the accele. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Samsung เสนอแนวคิด zHBM เพื่อย่นระยะห่างทางกายภาพระหว่างหน่วยประมวลผล AI กับหน่วยความจำความเร็วสูงสุดของระบบ แทนที่จะวาง high-bandwidth memory หรือ HBM ไว้ข้าง GPU หรือ AI accelerator เหมือนแพ็กเกจในปัจจุบัน บริษัทต้องการวาง HBM ซ้อนอยู่เหนือโปรเซสเซอร์โดยตรงในแพ็กเกจแบบ 3 มิติ
บนเวที AI Infrastructure Summit ที่เมืองซานตาคลารา เมื่อวันที่ 16 กันยายน Samsung วางภาพ zHBM ว่าเป็นทางเลือกสำหรับยุค AI agent ที่ต้องตอบสนองฉับไวขึ้นอย่างมาก 1
9
ต่างจาก HBM แบบ 2.5D ในปัจจุบันอย่างไร
HBM ในระบบทั่วไปมักวางอยู่ข้าง AI accelerator บนระนาบเดียวกัน แล้วเชื่อมต่อกันผ่านเทคโนโลยีแพ็กเกจจิ้งขั้นสูง ขณะที่ zHBM เปลี่ยนเป็นการวาง HBM ไว้ เหนือ AI accelerator โดยตรง จึงเป็นการนำลอจิกและหน่วยความจำมาอยู่ใกล้กันในแนวตั้งแบบ 3 มิติ 12
13
แนวคิดหลักเข้าใจได้ไม่ยาก: เมื่อเส้นทางที่ข้อมูลต้องวิ่งสั้นลง ก็มีโอกาสเพิ่มแบนด์วิดท์ ลดพลังงานที่ใช้ในการเคลื่อนย้ายข้อมูล และใส่ความจุหน่วยความจำได้มากขึ้นภายใต้พื้นที่เท่าเดิม Samsung ระบุว่าการทำเช่นนี้ต้องอาศัยเทคโนโลยี wafer bonding รุ่นถัดไป รวมถึงการเชื่อมประสานด้วยทองแดงแบบไฮบริด (hybrid copper bonding) 7
48
อย่างไรก็ดี zHBM ยังเป็น โมเดลแนวคิด ไม่ใช่ผลิตภัณฑ์ที่พร้อมแทนแพ็กเกจ HBM ทุกประเภทในวันนี้ และ Samsung ยังไม่ได้ประกาศกำหนดการเชิงพาณิชย์ 13
14
ตัวเลขที่ Samsung ตั้งเป้าไว้
สำหรับอินเทอร์เฟซรุ่นใหม่ที่ผสาน zHBM นั้น Samsung ตั้งเป้าไว้ว่าอาจทำได้ดังนี้
- ประสิทธิภาพราว 8 เท่าเมื่อเทียบกับ HBM5
- ความหนาแน่นหน่วยความจำมากกว่า HBM5 แบบเดิม 10 เท่า
- ประสิทธิภาพด้านพลังงานราว 3 เท่า
- ความต้านทานความร้อนลดลงมากกว่า 50%
13
48
ที่งาน AI Infrastructure Summit บริษัทระบุเพิ่มเติมว่า zHBM อาจทำให้ความเร็วการตอบสนองของระบบ AI เพิ่มขึ้นมากกว่า 10 เท่า และตั้งความมุ่งหมายไว้ที่ 1,000 โทเค็นต่อวินาที 1
9
ตัวเลขเหล่านี้ควรอ่านในฐานะเป้าหมายที่บริษัทประกาศสำหรับสถาปัตยกรรมอนาคต ไม่ใช่ผลทดสอบอิสระจาก AI accelerator เชิงพาณิชย์ที่วางจำหน่ายแล้ว ความท้าทายสำคัญคือการผลิตให้ได้ผลผลิตที่เหมาะสม การจัดการความร้อน ความน่าเชื่อถือ และการผ่านการรับรองร่วมกับพันธมิตรผู้ผลิต accelerator
เหตุใดจึงเกี่ยวข้องกับ AI agent
Samsung นำเสนอ zHBM ในบริบทของ AI agent ซึ่งต้องเรียกใช้บริบทเดิม ทำ inference เรียกใช้เครื่องมือ และสร้างคำตอบซ้ำไปมา การเพิ่มพลังประมวลผลเพียงอย่างเดียวไม่อาจกำจัดความหน่วงได้ หาก accelerator ยังต้องรอข้อมูลเดินทางจากหน่วยความจำ
zHBM จึงมุ่งแก้คอขวดจากหน่วยความจำและการรับส่งข้อมูล โดยตั้งอยู่บนสมมติฐานว่าการนำ HBM เข้าใกล้ accelerator จะทำให้ระบบ AI ตอบสนองดีขึ้น พร้อมใช้พลังงานต่อการเคลื่อนย้ายข้อมูลอย่างมีประสิทธิภาพกว่าเดิม 1
7 แต่ผลลัพธ์ด้านความเร็วตอบสนองแบบครบระบบจะเกิดขึ้นจริงมากน้อยเพียงใด ยังขึ้นอยู่กับทั้งตัว accelerator ซอฟต์แวร์ โมเดล และการออกแบบแพ็กเกจ ไม่ได้ขึ้นกับตำแหน่งหน่วยความจำเพียงอย่างเดียว
zNAND-O: ชั้นความจุที่มาเสริม zHBM
Samsung ยังเปิดตัว zNAND-O ควบคู่กัน เป็นสถาปัตยกรรม NAND ประสิทธิภาพสูงสำหรับงานข้อมูลเข้มข้นและ AI ที่ประมวลผลบนอุปกรณ์หรือเอดจ์ zNAND-O ถูกวางตำแหน่งไว้ระหว่าง DRAM กับ NAND สำหรับจัดเก็บข้อมูลทั่วไป โดยออกแบบมาให้มีความหนาแน่นสูงกว่า DRAM พร้อมปรับปรุงประสิทธิภาพ I/O ความหน่วง และการใช้พลังงานเมื่อเทียบกับ NAND ปกติ 49
51
ทั้งสองเทคโนโลยีทำหน้าที่คนละชั้นในลำดับชั้นของหน่วยความจำ
- zHBM มีเป้าหมายเป็นหน่วยความจำชั้นที่เร็วที่สุดและอยู่ชิดกับ accelerator
- zNAND-O มุ่งเป็นชั้นที่มีความหนาแน่นสูงกว่า สำหรับเก็บข้อมูลและโมเดลที่มีต้นทุนสูงหากต้องวางทั้งหมดไว้ใน DRAM
49
53
Samsung อ้างถึงการทดสอบโมเดล GPT ขนาด 120,000 ล้านพารามิเตอร์ ซึ่ง zNAND-O ทำอัตราโทเค็นต่อวินาทีได้เท่ากับเซิร์ฟเวอร์ DRAM ทั่วไป แต่มีต้นทุนการดำเนินงานเพียงหนึ่งในหก ตัวเลขนี้เป็นผลทดสอบที่ Samsung รายงานเอง จึงไม่ใช่การรับประกันต้นทุนสำหรับการนำโมเดลขนาดใหญ่มาใช้งานทุกกรณี 54
55
บริษัทยังเชื่อม zNAND-O เข้ากับความท้าทายระยะยาวของการรันโมเดลขนาดใหญ่มากบนอุปกรณ์ โดยระบุว่า AI บนอุปกรณ์ในระดับล้านล้านพารามิเตอร์อาจมีความเกี่ยวข้องภายในปี 2030 53
CXL ยังไม่น่าแทน HBM ในงานประมวลผล AI โดยตรง
อีกประเด็นจากงานเดียวกันคือ การมีความจุมากขึ้นไม่ได้หมายความว่าหน่วยความจำทุกชนิดใช้ทดแทนกันได้ CXL หรือ Compute Express Link เป็นมาตรฐานการเชื่อมต่อที่ช่วยขยายหรือแบ่งปันทรัพยากรหน่วยความจำ แต่ไม่ใช่หน่วยความจำความเร็วสูงที่ติดชิด accelerator แบบ HBM
Daniel Morris นักวิจัยด้าน AI accelerator ของ OpenAI กล่าวว่าเขายังไม่พบกรณีใช้งาน CXL สำหรับการรันโมเดล AI โดยตรง แม้จะเห็นประโยชน์ที่เป็นไปได้กับข้อมูลขนาดใหญ่ซึ่งถูกเรียกใช้น้อย ขณะที่ Vidia Thiagarajan จาก Intel มองว่าการรวมหน่วยความจำด้วย CXL เป็นส่วนเสริมของหน่วยเก็บข้อมูลรอง มากกว่าจะเป็นสิ่งทดแทน HBM เพราะยังมีช่องว่างด้านแบนด์วิดท์ 18
22
ไม่ได้หมายความว่า CXL ไม่มีบทบาท แต่ภาพสถาปัตยกรรมที่กำลังก่อตัวน่าจะเป็นระบบแบบหลายชั้น: HBM ที่อยู่ใกล้ accelerator สำหรับงานคำนวณที่ไวต่อแบนด์วิดท์ ส่วน CXL และชั้นหน่วยความจำหรือสตอเรจอื่นจะเน้นรองรับความจุ
นัยต่อการแข่งขันของ Samsung และ SK hynix
การแข่งขัน HBM ในระยะใกล้ยังตัดสินกันที่ความสามารถในการผลิต ผ่านการรับรอง และส่งมอบหน่วยความจำให้กับแพลตฟอร์ม accelerator เฉพาะรุ่นได้จริง zHBM เปิดทางให้ Samsung สร้างจุดต่างด้านสถาปัตยกรรมระยะยาว แต่ไม่ได้ลดทอนความจำเป็นในการพิสูจน์ผลผลิตจากการผลิตจริง การจัดการความร้อน ความน่าเชื่อถือ และการผสานเข้ากับผลิตภัณฑ์ของลูกค้า
สำหรับตลาด HBM โดยรวม ความเห็นที่ว่า CXL ยังแทน HBM ไม่ได้ในการรันโมเดลอย่างเต็มรูปแบบ ยิ่งตอกย้ำความสำคัญของหน่วยความจำแบนด์วิดท์สูงที่อยู่ติดกับ accelerator ดังนั้นคำถามการแข่งขันจึงไม่ใช่แค่ว่าใครมีแนวคิดหน่วยความจำ 3 มิติที่หวือหวากว่า แต่คือใครเปลี่ยนเทคโนโลยีหน่วยความจำและแพ็กเกจจิ้งขั้นสูงให้เป็นสินค้าที่ผ่านการรับรองและผลิตในปริมาณมากได้ก่อน 18
33
36
บทสรุป
สารที่ Samsung ส่งจากงานในเดือนกันยายนคือ สมรรถนะ AI กำลังถูกจำกัดด้วยการเคลื่อนย้ายข้อมูล ความจุ พลังงาน และความร้อน ไม่ใช่แค่กำลังคำนวณของชิป zHBM เสนอการวางหน่วยความจำบน accelerator โดยตรงแบบ 3 มิติ เพื่อรับมือข้อจำกัดเหล่านั้น ขณะที่ zNAND-O จะเป็นชั้นความจุที่หนาแน่นกว่าเพื่อรองรับงาน AI ที่ใหญ่ขึ้น
ศักยภาพที่ Samsung ระบุนั้นสูงมาก แต่ยังเป็นเป้าหมายของเทคโนโลยีระยะคอนเซปต์ สำหรับผู้วางแผนโครงสร้างพื้นฐาน AI ประเด็นสำคัญในตอนนี้จึงไม่ใช่ว่า zHBM จะมาถึงในเร็ววันเพียงใด หากแต่เป็นทิศทางของอุตสาหกรรม: ระบบ AI มีแนวโน้มใช้ชั้นหน่วยความจำที่เฉพาะทางและรวมเข้าด้วยกันในแนวตั้งมากขึ้น โดย HBM จะยังเป็นหัวใจของเส้นทางประมวลผลสมรรถนะสูง 13
14
18
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "Samsung zHBM: หน่วยความจำ 3 มิติบนชิป AI คืออะไร และสำคัญอย่างไร" คืออะไร
Samsung ระบุว่า zHBM อาจเพิ่มความเร็วการตอบสนองของระบบ AI ได้มากกว่า 10 เท่า ด้วยการซ้อน HBM ไว้บน AI accelerator แทนการวางข้างกัน
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
Samsung ระบุว่า zHBM อาจเพิ่มความเร็วการตอบสนองของระบบ AI ได้มากกว่า 10 เท่า ด้วยการซ้อน HBM ไว้บน AI accelerator แทนการวางข้างกัน บริษัทตั้งเป้าให้อินเทอร์เฟซที่ใช้ zHBM มีประสิทธิภาพราว 8 เท่าของ HBM5 ความหนาแน่นหน่วยความจำมากกว่า 10 เท่า ประสิทธิภาพพลังงาน 3 เท่า และความต้านทานความร้อนลดลงมากกว่า 50%
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
วิศวกรจาก OpenAI และ Intel มองว่า CXL เหมาะกับการเพิ่มความจุหรือเก็บข้อมูลที่ไม่ถูกเรียกใช้บ่อย มากกว่าจะมาแทน HBM ในการรันโมเดล AI โดยตรง
แหล่งที่มา
asiae.co.kr"Opening the Era of 1,000 Tokens per Second"…Samsung Electronics Drives AI Semiconductor Innovation with zHBM
en.sedaily.comSamsung Touts 10-Fold AI Speed Gain With Stacked zHBM Memory
koreaherald.comSamsung stacks HBM atop AI chips in 3D memory push