HP วางแผนแพลตฟอร์ม Edge AI สำหรับองค์กร รันอินเฟอเรนซ์ใกล้ข้อมูลด้วย ZGX Fury

HP, Red Hat และ NVIDIA ประกาศแผนพัฒนาแพลตฟอร์ม AI แบบเปิดสำหรับองค์กร เพื่อนำสถาปัตยกรรม AI ที่ใช้ในดาต้าเซ็นเตอร์ไปสู่จุดเอดจ์ (edge) หรือจุดที่อยู่ใกล้การใช้งานจริงมากขึ้น โซลูชันที่วางแผนไว้จะจับคู่ HP ZGX Fury กับ Red Hat AI Factory with NVIDIA เพื่อรันและจัดวางงาน AI หลายประเภทใกล้ผู้ใช้ แอปพลิเคชัน เครื่องจักร และแหล่งข้อมูล 213

แกนฮาร์ดแวร์: HP ZGX Fury

HP ZGX Fury ใช้ NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip โดย HP ระบุว่าระบบนี้ออกแบบมาเพื่อรองรับประสิทธิภาพ AI สูงสุด 20 PFLOPS ในรูปแบบ FP4 สำหรับงานอินเฟอเรนซ์ในเครื่อง (local inference) 14

สาระของประกาศนี้จึงไม่ได้อยู่ที่เวิร์กสเตชันเพียงเครื่องเดียว แต่เป็นความพยายามจัดแพ็กเกจฮาร์ดแวร์และซอฟต์แวร์ให้เป็นแพลตฟอร์มองค์กรสำหรับรันและควบคุมงาน AI หลายงานนอกดาต้าเซ็นเตอร์ส่วนกลาง โดยออกแบบให้ใช้งานได้ทั้งในระบบภายในองค์กร บนคลาวด์ หรือผสมทั้งสองแบบ 15

Red Hat AI Factory ทำหน้าที่อะไร

Red Hat AI Factory with NVIDIA คือชั้นซอฟต์แวร์และการปฏิบัติการสำหรับไฮบริดคลาวด์ โดย Red Hat อธิบายว่าเป็นโซลูชัน AI ระดับองค์กรที่พัฒนาร่วมกันและมีการสนับสนุนร่วมกัน ผสานแพลตฟอร์มโอเพนไฮบริดคลาวด์ ความสามารถด้านวิศวกรรม AI และการดำเนินงานระดับองค์กรของ Red Hat เข้ากับซอฟต์แวร์ AI โมเดล ไมโครเซอร์วิส ระบบเครือข่าย และโครงสร้างพื้นฐานเร่งความเร็วของ NVIDIA 12

ในแนวทางที่ HP เสนอ ชั้นซอฟต์แวร์นี้มีเป้าหมายช่วยให้องค์กรติดตั้งและบริหารโมเดลกับแอปพลิเคชัน AI ข้ามไซต์เอดจ์ ดาต้าเซ็นเตอร์ และคลาวด์ แพลตฟอร์มยังถูกอธิบายว่าเป็นระบบเปิดและทำงานแบบเวอร์ชวลไลซ์ รองรับการแยกเวิร์กโหลดและการควบคุมการปฏิบัติการ เพื่อให้รันงาน AI หลายชุดบนระบบเดียวกันได้โดยยังคงแยกขอบเขตของแต่ละงาน 813

เหตุผลที่ต้องย้ายอินเฟอเรนซ์มาใกล้หน้างาน

จุดสำคัญของแพลตฟอร์มคือ อินเฟอเรนซ์ในเครื่องหรือที่เอดจ์ หมายถึงการให้โมเดลประมวลผลคำขอใกล้กับจุดที่ข้อมูลถูกสร้างหรือถูกใช้งาน แทนที่จะต้องพึ่งโครงสร้างพื้นฐานคลาวด์ระยะไกลทั้งหมด HP ชี้ถึงความต้องการด้านความหน่วงต่ำ ความเป็นส่วนตัว อธิปไตยทางข้อมูล และข้อจำกัดด้านการเชื่อมต่อ ว่าเป็นเหตุผลที่องค์กรอาจเลือกแนวทางนี้ 8

HP ยกตัวอย่างบริบทการใช้งานที่เหมาะกับแนวคิดดังกล่าว ได้แก่

• ภาคการผลิต ที่โมเดลสามารถทำงานใกล้เครื่องจักรและข้อมูลการผลิต
• การพัฒนาซอฟต์แวร์ เช่น การทำอินเฟอเรนซ์ระดับแผนกหรือภายในองค์กร และเวิร์กโฟลว์พัฒนาซอฟต์แวร์ที่มี AI ช่วย
• สาธารณสุข ซึ่งข้อมูลอ่อนไหวอาจจำเป็นต้องอยู่ใกล้ต้นทางมากขึ้น
• ภาครัฐ รวมถึงสภาพแวดล้อมแบบตัดขาดจากเครือข่ายภายนอก (air-gapped) หรือระบบแยกส่วนที่การเชื่อมต่อคลาวด์อาจไม่เหมาะสม 58

ตัวอย่างเหล่านี้เป็นกรณีใช้งานที่ HP กล่าวถึง ไม่ใช่การรับประกันผลลัพธ์ การตัดสินใจว่าองค์กรหนึ่งจะได้ประโยชน์เพียงใด ยังขึ้นอยู่กับขนาดโมเดล ข้อกำหนดการจัดการข้อมูล การออกแบบเครือข่าย และเครื่องมือปฏิบัติการที่มีอยู่

สถานะการวางจำหน่ายและสิ่งที่ยังเป็นแผน

HP ระบุว่า ZGX Fury เปิดให้สั่งซื้อแล้ว และได้รับการรับรองสำหรับ Red Hat Enterprise Linux 48 อย่างไรก็ตาม โซลูชันแบบบูรณาการระหว่าง ZGX Fury กับ Red Hat AI Factory with NVIDIA ในภาพรวม ยังถูกประกาศในฐานะแพลตฟอร์มที่อยู่ในแผนพัฒนา ไม่ใช่บริการครบวงจรที่เปิดใช้งานทั่วไปทั้งหมดแล้ว 12

บริษัทยังระบุว่าลูกค้าจะสามารถประเมินโซลูชันร่วมกันผ่านสภาพแวดล้อมแซนด์บ็อกซ์บนอุปกรณ์ HP ที่รัน Red Hat AI Factory with NVIDIA ก่อนย้ายกรณีใช้งานไปสู่ระบบจริง แต่ประกาศไม่ได้ระบุวันเปิดใช้ เกณฑ์การเข้าร่วม หรือการตั้งค่าทางเทคนิคของสภาพแวดล้อมทดสอบดังกล่าว 2

ประเด็นที่องค์กรควรจับตา

ข้อเสนอของ HP คือการจับคู่พลังประมวลผล NVIDIA ภายในองค์กรกับซอฟต์แวร์ AI สำหรับไฮบริดคลาวด์ของ Red Hat จุดดึงดูดจึงไม่ใช่เฉพาะตัวเลข 20 PFLOPS แบบ FP4 แต่คือโอกาสในการนำ AI สำหรับงานจริงไปประมวลผลใกล้ข้อมูลปฏิบัติการ พร้อมใช้แนวทางติดตั้งและบริหารที่สอดคล้องกันตั้งแต่เอดจ์ถึงดาต้าเซ็นเตอร์และคลาวด์ 11213

สำหรับองค์กรที่กำลังประเมิน ควรแยกให้ชัดระหว่างสิ่งที่พร้อมใช้งานแล้ว—คือฮาร์ดแวร์ ZGX Fury และการรับรอง Red Hat Enterprise Linux—กับองค์ประกอบที่ยังเป็นแผนของแพลตฟอร์มแบบบูรณาการ รวมถึงช่องทางประเมินผ่านแซนด์บ็อกซ์ที่ประกาศไว้ 24