คำตอบเผยแพร่แล้ว22 แหล่งที่มา
รู้จัก Prism เอนจินที่ StartLux ออกแบบมาเพื่อโมเดลตัดสินใจโดยเฉพาะ
StartLux เปิดตัว Prism ในฐานะเอนจินอนุมานโอเพนซอร์สที่ออกแบบมาสำหรับโมเดลตัดสินใจของบริษัท Prism จำกัดการให้คะแนนผลลัพธ์ไว้ที่ตัวเลือกคำตอบ ใช้ข้อมูลร่วมกันซ้ำข้ามคำถาม และใช้การคำนวณจำนวนเต็มเพื่อให้ผลลัพธ์ทำซ้ำได้ในชุดการตั้งค่าที่รองรับ ระบบเดิมของ StartLux Decision v1.1 ใช้ vLLM และเปิด prefix caching กับ chunke...
เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- StartLux เปิดตัว Prism ในฐานะเอนจินอนุมานโอเพนซอร์สที่ออกแบบมาสำหรับโมเดลตัดสินใจของบริษัท
- Prism จำกัดการให้คะแนนผลลัพธ์ไว้ที่ตัวเลือกคำตอบ ใช้ข้อมูลร่วมกันซ้ำข้ามคำถาม และใช้การคำนวณจำนวนเต็มเพื่อให้ผลลัพธ์ทำซ้ำได้ในชุดการตั้งค่าที่รองรับ
- ระบบเดิมของ StartLux Decision v1.1 ใช้ vLLM และเปิด prefix caching กับ chunked prefill ไว้อยู่แล้ว จุดต่างของ Prism จึงอยู่ที่การปรับแต่งให้เหมาะกับงานตัดสินใจ ไม่ใช่แค่การเพิ่มแคช
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did StartLux announce with its October 22, 2026 GitHub release of Prism, which it describes as the first open-source inference engine b. Article summary: StartLux announced Prism’s GitHub release on October 22, 2026, presenting it as the first open-source inference engine designed specifically for decision models, rather than general-purpose chat generation. Its claimed i. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
StartLux เปิดซอร์ส Prism เมื่อวันที่ 22 ตุลาคม 2026 โดยวางตำแหน่งให้เป็นเอนจินอนุมานที่สร้างขึ้นสำหรับโมเดลตัดสินใจโดยเฉพาะ ต่างจากโมเดลแชตที่มักสร้างข้อความต่อเนื่อง โมเดลตัดสินใจจะส่งผลลัพธ์แบบมีโครงสร้าง เช่น เลือกตัวเลือก จัดหมวดหมู่ หรือให้ความน่าจะเป็นของคำตอบ Prism จึงมุ่งลดเวลาแฝง ใช้ข้อมูลอินพุตที่ซ้ำกันให้คุ้มขึ้น และทำให้ผลลัพธ์ทำซ้ำได้ อย่างไรก็ตาม ตัวเลขประสิทธิภาพที่เผยแพร่เป็นผลทดสอบของ StartLux เอง 5
8
12
Prism ทำงานกับโมเดลแบบไหน
โมเดล StartLux-Decision ส่งผลการตัดสินใจแบบกำหนดชนิดข้อมูลผ่าน API /v1/systemone และอาจให้เหตุผลก่อนตอบได้ Prism รองรับโมเดล StartLux-Decision v1 และ v1.1 AutoThink แต่ยังไม่รองรับ v1.1 Instant 8
11
ระบบ v1.1 ที่ใช้ก่อนหน้านี้ทำงานบน vLLM โดยการตั้งค่าอ้างอิงเปิดทั้ง prefix caching และ chunked prefill อยู่แล้ว นั่นหมายความว่า vLLM ก็สามารถนำบริบทที่ใช้ร่วมกันกลับมาใช้ได้ จุดต่างของ Prism คือการปรับระบบให้เข้ากับคำขอแบบโมเดลตัดสินใจ ซึ่งมักให้คำตอบสั้น และอาจมีหลายคำถามที่อ้างอิงข้อมูลชุดเดียวกัน 6
22
4 แนวทางที่ Prism ใช้ลดงานและเวลา
1. ให้คะแนนเฉพาะตัวเลือกคำตอบที่เกี่ยวข้อง
StartLux ระบุว่า สำหรับโมเดลขนาด 27B เอนจินทั่วไปอาจต้องให้คะแนนโทเคนที่เป็นไปได้ราว 248,000 รายการ ขณะที่งานตัดสินใจอาจต้องพิจารณาเพียงตัวเลือก A–Z ในขั้นตอนการให้คะแนนผลลัพธ์นี้ จำนวนตัวเลือกจึงเหลือราว 0.01% ของเดิม แต่ไม่ได้หมายความว่าการคำนวณทั้งหมดของโมเดลลดลงเหลือ 0.01% 12
2. ใช้ข้อมูลร่วมกันซ้ำข้ามคำถาม
Prism จัดคำขอแบบ “forest-style batching” โดยแยกคำสั่งทั่วไป ข้อมูลอ้างอิงร่วม และคำถามแต่ละข้อออกจากกัน เพื่อให้งานคำนวณส่วนที่เหมือนกันนำกลับมาใช้ได้ เช่น หากต้องตัดสินหลายเรื่องจากบันทึกแจ้งปัญหาของลูกค้าชุดเดียว ก็ไม่จำเป็นต้องประมวลผลเนื้อหาทั้งหมดใหม่สำหรับทุกคำถาม 5
23
3. ใช้การคำนวณจำนวนเต็มเพื่อให้ผลลัพธ์ทำซ้ำได้
การคำนวณเมทริกซ์แบบ INT8 ของ Prism สะสมผลด้วย INT32 โดย StartLux ระบุว่าวิธีนี้ช่วยให้ค่าความน่าจะเป็นของผลลัพธ์เหมือนกันทุกบิตภายใต้รูปแบบการจัดชุดคำขอและการใช้หลาย GPU ที่รองรับ ทั้งนี้ เป็นข้ออ้างเกี่ยวกับการทำงานของ Prism ในชุดการตั้งค่าที่บริษัทระบุ ไม่ได้หมายความว่าผล INT8 จะเหมือนกับ BF16 ในทุกกรณี 8
19
4. จัดคิวงานที่ต้องคิดควบคู่กับคำขอสั้น
โมเดลตัดสินใจอาจตอบได้ทันที หรือใช้เวลาคิดก่อนตอบ Prism ออกแบบการจัดคิวให้ทำงานที่ต้องใช้เหตุผลไปพร้อมกับคำขอที่ตอบสั้นได้ เพื่อลดโอกาสที่งานคิดนานจะหน่วงงานสั้น ผลทดสอบที่เผยแพร่จึงควรอ่านในฐานะผลของโมเดลและระบบให้บริการชุดนี้ ไม่ใช่การรับประกันเวลาในการรอสำหรับทุกการใช้งาน 3
23
ผลทดสอบที่ StartLux รายงาน
ตัวเลขต่อไปนี้มาจากการทดสอบโมเดล ฮาร์ดแวร์ และรูปแบบงานเฉพาะที่ StartLux ระบุ:
- คำถามสั้นหนึ่งข้อบน H200 หนึ่งตัว: เวลาแฝงลดจาก 53.1 มิลลิวินาทีเหลือ 19.0 มิลลิวินาที หรือเร็วขึ้นประมาณ 2.8 เท่า
12
14
- ถาม 3 ข้อจากข้อมูลชุดเดียวกัน: เวลาแฝงที่รายงานลดจาก 92.9 มิลลิวินาทีเหลือ 17.4 มิลลิวินาที หรือเร็วขึ้นประมาณ 5.3 เท่า
- JevBench จำนวน 231 คำถาม: Prism มีเวลาแฝงเฉลี่ยที่รายงาน 41.0 มิลลิวินาที เทียบกับ 75.6 มิลลิวินาทีของ SGLang, 112.7 มิลลิวินาทีของ vLLM และ 589 มิลลิวินาทีของ llama.cpp
- H200 จำนวน 4 ตัวในโหมด data parallel: รายงานว่ารองรับได้ 121 คำขอต่อวินาที หรือราว 3.92 เท่าของ throughput บน GPU ตัวเดียว ส่วนโหมด tensor parallel ลดเวลาแฝงของคำถามเดียวจาก 41 มิลลิวินาทีเหลือ 29 มิลลิวินาที
18
- ผลด้านความแม่นยำ: จากชุดประเมิน 7 ชุด รวม 12,351 การตัดสินใจ ค่าเฉลี่ยที่รายงานอยู่ที่ 92.94% สำหรับ Prism INT8 และ 92.97% สำหรับ BF16 ต่างกัน 0.03 จุดเปอร์เซ็นต์ คะแนนรวมที่ใกล้กันไม่ได้ยืนยันว่าคำตอบแต่ละข้อจะเหมือนกัน
19
- การรันบนการ์ดจอสำหรับผู้ใช้ทั่วไป: เอกสารของโครงการระบุว่าโมเดล 27B แบบ 4 บิตรันบน RTX 5090 ที่มีหน่วยความจำ 32GB ได้ ส่วนรายงานข่าวระบุขนาดไฟล์โมเดลที่บีบอัดไว้ที่ 16.55GB
8
อ่านตัวเลขอย่างไรให้ครบถ้วน
ผลเหล่านี้เป็นการวัดของผู้พัฒนา ซึ่งขึ้นอยู่กับรูปแบบงานและการตั้งค่าที่ใช้ทดสอบ จึงยังไม่ใช่หลักฐานอิสระว่า Prism จะเร็วกว่าเอนจินอื่นในทุกสภาพแวดล้อม เอกสาร benchmark ของ StartLux เปิดเผยรายละเอียดเกี่ยวกับรุ่นโมเดล ฮาร์ดแวร์ และงานที่ทดสอบ เพื่อให้ผู้อ่านตรวจสอบหรือทดลองทำซ้ำได้ 1
เอกสาร benchmark ครอบคลุมโมเดล StartLux-Decision v1 ขนาด 4B, 9B และ 27B ขณะที่รายการรองรับของ Prism ระบุ v1 และ v1.1 AutoThink แต่ยังไม่รองรับ v1.1 Instant ดังนั้นไม่ควรเหมารวมว่าตัวเลขทั้งหมดเป็นผลทดสอบของโมเดลทุกเวอร์ชัน 1
8
11
สุดท้าย คำกล่าวว่า Prism เป็น “เอนจินโอเพนซอร์สตัวแรกสำหรับโมเดลตัดสินใจ” เป็นคำอธิบายจาก StartLux ไม่ใช่ข้อสรุปที่ยืนยันโดยอิสระในระดับอุตสาหกรรม เช่นเดียวกับคำกล่าวเรื่องผลลัพธ์ที่เหมือนกันทุกบิต ซึ่งควรเข้าใจว่าจำกัดอยู่ในชุดการตั้งค่าที่ Prism รองรับ 5
8
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "รู้จัก Prism เอนจินที่ StartLux ออกแบบมาเพื่อโมเดลตัดสินใจโดยเฉพาะ" คืออะไร
StartLux เปิดตัว Prism ในฐานะเอนจินอนุมานโอเพนซอร์สที่ออกแบบมาสำหรับโมเดลตัดสินใจของบริษัท
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
StartLux เปิดตัว Prism ในฐานะเอนจินอนุมานโอเพนซอร์สที่ออกแบบมาสำหรับโมเดลตัดสินใจของบริษัท Prism จำกัดการให้คะแนนผลลัพธ์ไว้ที่ตัวเลือกคำตอบ ใช้ข้อมูลร่วมกันซ้ำข้ามคำถาม และใช้การคำนวณจำนวนเต็มเพื่อให้ผลลัพธ์ทำซ้ำได้ในชุดการตั้งค่าที่รองรับ
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
ระบบเดิมของ StartLux Decision v1.1 ใช้ vLLM และเปิด prefix caching กับ chunked prefill ไว้อยู่แล้ว จุดต่างของ Prism จึงอยู่ที่การปรับแต่งให้เหมาะกับงานตัดสินใจ ไม่ใช่แค่การเพิ่มแคช
แหล่งที่มา
163.comDeepSeek之后，StartLux再来：开源首个决策模型推理引擎，推理快至5.3倍