AnswersPublished22 sources
StartLux Prism neyi değiştiriyor? Karar modelleri için hız odaklı motor
StartLux, karar modellerine özel açık kaynaklı çıkarım motoru Prism’i duyurdu. Prism, olası yanıtları daraltıp ortak girdiyi birden fazla soru arasında yeniden kullanıyor; ayrıca desteklenen yapılandırmalarda sonuçların tekrarlanabilir olmasını amaçlayan tam sayı hesaplamalarından yararlanıyor.
YayımlayanGPT-6 Luna ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- StartLux, karar modellerine özel açık kaynaklı çıkarım motoru Prism’i duyurdu.
- Prism, olası yanıtları daraltıp ortak girdiyi birden fazla soru arasında yeniden kullanıyor; ayrıca desteklenen yapılandırmalarda sonuçların tekrarlanabilir olmasını amaçlayan tam sayı hesaplamalarından yararlanıyor.
- StartLux Decision v1.1’in önceki dağıtımı vLLM kullanıyordu; referans yapılandırmasında önek önbellekleme ve parçalı ön doldurma zaten açıktı.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did StartLux announce with its October 22, 2026 GitHub release of Prism, which it describes as the first open-source inference engine b. Article summary: StartLux announced Prism’s GitHub release on October 22, 2026, presenting it as the first open-source inference engine designed specifically for decision models, rather than general-purpose chat generation. Its claimed i. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
StartLux, karar modelleri için özel olarak geliştirdiği açık kaynaklı çıkarım motoru Prism’i duyurdu. Sohbet modelleri genellikle serbest biçimli metin üretirken karar modelleri seçilen seçenek, kategori veya olasılık gibi yapılandırılmış sonuçlar verir. Prism de bu daha dar kapsamlı işe odaklanıyor: StartLux, daha düşük gecikme, ortak girdilerin daha fazla yeniden kullanılması ve tekrarlanabilir çıktılar sağladığını bildiriyor. Performans rakamları şirketin kendi testlerinden geliyor. 5
8
12
Prism ne için tasarlandı?
StartLux-Decision modelleri, isteğe bağlı akıl yürütme adımlarının ardından türü belirli kararlar üretiyor. Prism, bu modelleri /v1/systemone API’si üzerinden sunuyor; v1 ve v1.1 AutoThink modellerini destekliyor. Proje deposuna göre v1.1 Instant modelleri henüz desteklenmiyor. 8
11
StartLux-Decision v1.1’in önceki dağıtımında vLLM kullanılıyordu. Bu referans yapılandırmasında önek önbellekleme ve parçalı ön doldurma özellikleri zaten açıktı. Dolayısıyla Prism’in yeniliği, vLLM’in ortak bağlamı hiçbir zaman yeniden kullanamaması değil; kısa yanıtların ve aynı malzeme hakkında peş peşe sorulan soruların yaygın olduğu karar iş yüklerine göre ayarlanmış olması. 6
22
Prism’in dört temel tasarım tercihi
1. Yalnızca ilgili yanıt seçeneklerini puanlıyor
StartLux’a göre 27B modelinde genel amaçlı bir motor yaklaşık 248.000 aday belirteci puanlarken, bir karar görevinde yalnızca A–Z harfleri gibi sınırlı sayıda seçenek gerekebiliyor. Bu, çıktı puanlama adımındaki aday sayısının yaklaşık yüzde 0,01’e indiği anlamına geliyor; modelin toplam çıkarım hesabının yüzde 0,01’e düştüğü anlamına gelmiyor. 12
2. Soruların ortak girdisini yeniden kullanıyor
Prism’in “orman tarzı” gruplama yöntemi, ortak talimatları, paylaşılan kaynak malzemeyi ve her bir soruyu ayrı dallar gibi düzenleyerek ortak girdiye ait hesaplamaların yeniden kullanılmasını sağlıyor. Örneğin aynı müşteri destek talebi hakkında birkaç ayrı karar verilecekse, talep metninin her soru için baştan işlenmesi gerekmiyor. 5
23
3. Tekrarlanabilir sonuçlar için tam sayı hesabı kullanıyor
Prism’in INT8 matris işlemleri INT32 biriktirme kullanıyor. StartLux, bunun desteklenen gruplama ve çoklu GPU yapılandırmalarında çıktı olasılıklarını bit düzeyinde tekrarlanabilir kıldığını söylüyor. Bu iddia Prism’in desteklenen çalışma yapılandırmalarıyla ilgili; INT8 çıktılarının her durumda BF16 ile birebir aynı olduğu anlamına gelmiyor. 8
19
4. Akıl yürütme isteklerini kısa yanıtlarla birlikte planlıyor
Karar modelleri kimi zaman doğrudan yanıt verirken kimi zaman önce akıl yürütme adımları çalıştırabiliyor. Prism’in sunum tasarımı, uzun süren akıl yürütme isteklerinin kısa yanıt isteyen işleri bekletmemesini hedefliyor. Yayımlanan sonuçlar bu özel model ve sunum yapılandırmasının testleri olarak okunmalı; genel olarak isteklerin ne kadar bekleyeceğine dair bir garanti sayılmamalı. 3
23
StartLux testlerinde bildirilen sonuçlar
StartLux, aşağıdaki sonuçları belirli modeller, donanımlar ve test düzenekleri için bildiriyor:
- Tek H200’de kısa bir soru: Gecikme 53,1 ms’den 19,0 ms’ye indi; bu yaklaşık 2,8 kat hızlanma demek.
12
14
- Aynı malzeme hakkında üç soru: Bildirilen gecikme 92,9 ms’den 17,4 ms’ye düştü; yaklaşık 5,3 kat hızlanma.
- 231 soruluk JevBench testi: Prism için bildirilen ortalama gecikme 41,0 ms. Karşılaştırma için SGLang 75,6 ms, vLLM 112,7 ms, llama.cpp ise 589 ms olarak raporlandı.
- Dört H200, veri paraleli çalışma: StartLux’la ilgili haberlerde saniyede 121 istek ve tek GPU’ya kıyasla yaklaşık 3,92 kat işlem hacmi bildiriliyor. Tensör paraleli yapılandırmada tek soru gecikmesinin 41 ms’den 29 ms’ye indiği belirtiliyor.
18
- Doğruluk karşılaştırması: Yedi değerlendirme setindeki 12.351 karar için bildirilen ortalama doğruluk Prism INT8’de yüzde 92,94, BF16’da yüzde 92,97 oldu. Aradaki fark 0,03 yüzde puanı. Toplam doğrulukların birbirine yakın olması, her bir yanıtın aynı olduğu anlamına gelmiyor.
19
- Tüketici GPU’sunda çalışma: Proje deposuna göre 4 bitlik 27B model, 32 GB belleğe sahip bir RTX 5090 üzerinde çalışabiliyor. Lansman haberinde sıkıştırılmış model dosyasının boyutu 16,55 GB olarak veriliyor.
8
Bu sonuçlar nasıl değerlendirilmeli?
Bu rakamlar belirli iş yükleri ve yapılandırmalar için şirketin yaptığı ölçümler; Prism’in her kurulumda diğer motorlardan daha hızlı olacağını bağımsız biçimde kanıtlamıyor. StartLux’ın kıyaslama dokümantasyonu, test edilen modelleri, donanımları ve iş yüklerini açıklayarak sonuçları değerlendirmek veya yeniden üretmek isteyenlere bilgi sunuyor. 1
Kıyaslama dokümantasyonu StartLux-Decision v1’in 4B, 9B ve 27B modellerini kapsıyor. Prism deposunda v1 ve v1.1 AutoThink desteği listelenirken v1.1 Instant için henüz destek olmadığı belirtiliyor. Bu nedenle sonuçları tüm model çeşitlerini kapsayan tek bir test gibi yorumlamamak gerekiyor. 1
8
11
Son olarak, Prism’in “karar modelleri için ilk açık kaynaklı motor” olduğu ifadesi StartLux’ın tanımı; sektör genelinde bağımsız olarak doğrulanmış bir sonuç değil. Benzer şekilde, bit düzeyinde aynı sonuç iddiası da şirketin belirttiği desteklenen Prism yapılandırmaları için geçerli. 5
8
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "StartLux Prism neyi değiştiriyor? Karar modelleri için hız odaklı motor"?
StartLux, karar modellerine özel açık kaynaklı çıkarım motoru Prism’i duyurdu.
What are the key points to validate first?
StartLux, karar modellerine özel açık kaynaklı çıkarım motoru Prism’i duyurdu. Prism, olası yanıtları daraltıp ortak girdiyi birden fazla soru arasında yeniden kullanıyor; ayrıca desteklenen yapılandırmalarda sonuçların tekrarlanabilir olmasını amaçlayan tam sayı hesaplamalarından yararlanıyor.
What should I do next in practice?
StartLux Decision v1.1’in önceki dağıtımı vLLM kullanıyordu; referans yapılandırmasında önek önbellekleme ve parçalı ön doldurma zaten açıktı.
Sources
163.comDeepSeek之后，StartLux再来：开源首个决策模型推理引擎，推理快至5.3倍