Jalapeño เป็นชิปแบบ ASIC (Application-Specific Integrated Circuit) ที่ออกแบบมาเพื่องาน inference โดยเฉพาะ ซึ่งเป็นกระบวนการที่ใช้ทรัพยากรการคำนวณสูงในการรันโมเดล AI แบบเรียลไทม์และตอบคำถามผู้ใช้ผ่านผลิตภัณฑ์อย่าง ChatGPT ไม่ใช่ชิปเพื่อการประมวลผลทั่วไป
ที่น่าสนใจคือ โมเดล AI ของ OpenAI เองถูกใช้ในการออกแบบชิปนี้เพื่อปรับแต่งโครงสร้างให้เหมาะสมที่สุด
การสร้างโครงสร้างพื้นฐานรอบชิปนี้ต้องใช้เงินทุนมหาศาล OpenAI ได้จัดสรรความจุในดาต้าเซ็นเตอร์ ระดับกิกะวัตต์ เพื่อรองรับการปรับใช้แล้ว นอกจากนี้ยังมีการจองกำลังการผลิตที่ TSMC สำหรับทั้งโหนด N3 และ A16 ซึ่งบ่งชี้ถึงการลงทุนล่วงหน้าจำนวนมาก
Jalapeño สอดคล้องกับเทรนด์ใหญ่ของผู้ให้บริการคลาวด์รายใหญ่ที่สร้างชิปของตัวเองเพื่อแทนที่ GPU ของ NVIDIA:
Jalapeño เป็นชิปแบบ ASIC (Application-Specific Integrated Circuit) ที่ออกแบบมาเพื่องาน inference โดยเฉพาะ ซึ่งเป็นกระบวนการที่ใช้ทรัพยากรการคำนวณสูงในการรันโมเดล AI แบบเรียลไทม์และตอบคำถามผู้ใช้ผ่านผลิตภัณฑ์อย่าง ChatGPT ไม่ใช่ชิปเพื่อการประมวลผลทั่วไป
ที่น่าสนใจคือ โมเดล AI ของ OpenAI เองถูกใช้ในการออกแบบชิปนี้เพื่อปรับแต่งโครงสร้างให้เหมาะสมที่สุด
การสร้างโครงสร้างพื้นฐานรอบชิปนี้ต้องใช้เงินทุนมหาศาล OpenAI ได้จัดสรรความจุในดาต้าเซ็นเตอร์ ระดับกิกะวัตต์ เพื่อรองรับการปรับใช้แล้ว นอกจากนี้ยังมีการจองกำลังการผลิตที่ TSMC สำหรับทั้งโหนด N3 และ A16 ซึ่งบ่งชี้ถึงการลงทุนล่วงหน้าจำนวนมาก
Jalapeño สอดคล้องกับเทรนด์ใหญ่ของผู้ให้บริการคลาวด์รายใหญ่ที่สร้างชิปของตัวเองเพื่อแทนที่ GPU ของ NVIDIA: