Yapay zekâ ajanları neden artık metin üretmeden karar veriyor?

Bir yapay zekâ ajanının her adımda uzun bir yanıt üretmesi gerekmeyebilir. Bazen ihtiyaç, “Bu isteği hangi ekibe yönlendireyim?” ya da “Şimdi hangi aracı kullanmalıyım?” gibi sınırları belli bir soruya hızlı yanıt almaktır. Karar modelleri, serbest metin üretmek yerine geliştiricinin belirlediği seçeneklerden birini seçer; tercihle birlikte puan veya olasılık da döndürebilir. Bu, sık tekrarlanan ve gecikmenin önemli olduğu kararlar için kullanışlıdır. Ancak bir güven skoru, seçimin kesinlikle doğru olduğu anlamına gelmez. 1112

Dört model, dört farklı yaklaşım

• TypeSafe AI Jev: Türü belirlenmiş seçenekler, puanlar ve olasılıklar döndüren, barındırılan bir karar modeli. Bildirilen yanıt süresi yaklaşık 70–500 milisaniye; açıklanan fiyatı ise milyon girdi token’ı başına 0,042 dolar ve çıktı token’ları için ücret yok. Uygulama içi yönlendirme ve sık tekrarlanan kararlar için tasarlanmış. TypeSafe, Jev’in mimarisini performans farkını bağımsız biçimde açıklayacak ayrıntıda paylaşmadı ve model ağırlıklarını yayımlamadı. En güçlü hız ve maliyet karşılaştırmaları da şirketin kendi bildirimlerine dayanıyor. 3567
• OpenAI Decisions API: Geliştiriciler metin veya görsel bağlamı, soruyu ve sınırlı bir yanıt listesini veriyor; API sınıflandırma, yönlendirme ya da ajanın bir sonraki adımını seçme gibi işler için yanıt döndürüyor. Ürün sınırlı önizlemede. Lansman haberlerinde karar başına yaklaşık 150 milisaniye bildirildi; ancak OpenAI, Jev’le doğrudan karşılaştırılabilir bir test sonucu veya API fiyatı yayımlamadı. 1234
• AWS Strands Decider 2B: Yaklaşık 2 milyar parametreli, sınırları belirli sorulara seçenek, evet-hayır olasılığı veya puan döndüren açık kaynaklı bir model. Geliştiriciler modeli kendi makinelerinde çalıştırıp yayımlanan eğitim tarifini inceleyebiliyor; bu da deneme, özelleştirme ve barındırılan bir API’ye bağımlı kalmaması gereken kurulumlar için avantaj. Bildirilen yaklaşık 106–115 milisaniyelik medyan süre, kullanılan donanıma ve test koşullarına bağlı. Model ağırlıklarının ücretsiz olması, çalıştırma için gereken işlem gücünün de ücretsiz olduğu anlamına gelmiyor. 1181
• Cloudflare Clef ve Clef-flash: Hem kendi ortamında barındırılabilen hem de Workers AI üzerinden kullanılabilen açık ağırlıklı modeller. Clef daha güçlü kararlar, Clef-flash ise daha düşük gecikme hedefliyor. Bildirilen barındırma ücretleri, milyon girdi token’ı başına sırasıyla 0,24 ve 0,09 dolar. Cloudflare bağlantılı karşılaştırmalarda Clef-flash için yaklaşık 39 milisaniyelik medyan süre veriliyor; ancak bu sonuçlar Jev’le aynı koşullarda yapılmış doğrudan bir hız veya maliyet testi değil. 135

TypeSafe için rekabetin anlamı

Yeni modeller, karar modeline yönelik talebin bulunduğunu gösterirken Jev’in bu kategoride tek seçenek olma ihtimalini azaltıyor. OpenAI barındırılan bir alternatif sunuyor; AWS ve Cloudflare ise açık modelleriyle geliştiricilere kendi altyapılarında çalışma seçeneği veriyor. Cloudflare ayrıca modellerini Workers AI üzerinden barındırıyor.

Bu ortamda TypeSafe’ın savunabileceği avantaj, yalnızca iddia edilen hız ya da erken pazara çıkmış olmak değil. Şirketin, müşterilerin gerçek iş yüklerinde karar kalitesini ve toplam maliyeti ölçülebilir biçimde ortaya koyması gerekiyor. TypeSafe’ın 40 milyon dolar fon aldığı bildiriliyor; ancak mevcut kaynaklar güvenilir bir şirket değerlemesi vermek veya Jev’in performans üstünlüğünün bağımsız, eş koşullu testlerde de sürdüğünü doğrulamak için yeterli değil. 41115