Jev nedir? Metin üretmeyen, yazılıma doğrudan karar veren yapay zekâ modeli

TypeSafe AI’ın ilk System One Model olarak adlandırdığı Jev, insanlarla sohbet etmek ya da serbest metin üretmek için değil, yazılım içindeki sınırlı kararları hızlı biçimde vermek için tasarlanmış geliştirici odaklı bir yapay zekâ modeli. Şirket, iki yıllık gizli geliştirme döneminin ardından DCVC liderliğinde bildirilen 40 milyon dolarlık tohum yatırımla ortaya çıktı; Jev şu anda geliştirici bekleme listesi üzerinden erken erişimde. 61112

Jev tam olarak ne yapıyor?

Geliştirici, Jev’e doğal dilde veya JSON benzeri yapılandırılmış bir durum bilgisi ile tanımlı sorular gönderiyor. Modelin çıktısı düz yazı değil; uygulama kodunun doğrudan işleyebileceği türlenmiş değerler:

• Önceden belirlenmiş seçeneklerden biri — tek bir seçim alanında en fazla 255 seçenek,
• sayısal bir puan,
• ya da evet/hayır türü ikili bir olasılık.

Bu sonuçlara olasılık ve güven bilgisi de eşlik ediyor. Böylece geliştiricinin modelin yazdığı metni ayrıştırması, tekrar doğrulaması veya şemaya dönüştürmesi gerekmiyor. 16

Basitçe ifade etmek gerekirse Jev, büyük bir otomasyon akışının içindeki “akıllı bir if koşulu”, sınıflandırıcı ya da puanlayıcı gibi düşünülebilir. Örneğin “Bu müşteri talebi hangi ekibe yönlendirilmeli?”, “Bu işlem riskli mi?” veya “Bu yanıt politika ihlali içeriyor mu?” sorularına belirlenmiş seçenek seti içinde yanıt verebilir.

LLM’lerden farkı ne?

Klasik üretken büyük dil modelleri (LLM), yanıtı birer birer token üreterek kurar; her yeni token önceki üretime bağlıdır. TypeSafe’e göre Jev ise istenen yapılandırılmış çıktıları tek sorguda paralel olarak üretiyor. Bu yaklaşımda serbest metin üretimi, metni sonradan ayrıştırma ve çıktı biçimini doğrulama adımları ortadan kalkıyor. 611

Bu nedenle Jev, ChatGPT benzeri genel amaçlı bir sohbet botunun alternatifi olarak görülmemeli. Daha çok, sınırları geliştirici tarafından çizilmiş tekrarlayan kararların alındığı deterministik yazılım iş akışlarının bir parçası olmayı hedefliyor.

RLCD ve “kalibre edilmiş” güven tahmini

TypeSafe, Jev’in eğitim yöntemini RLCD (Reinforcement Learning for Calibrated Decisions / Kalibre Edilmiş Kararlar için Pekiştirmeli Öğrenme) olarak adlandırıyor. Şirketin hedefi yalnızca doğru karar üretmek değil, modelin bildirdiği güven düzeyinin gerçek başarı oranıyla tutarlı olması.

Örneğin çok sayıda benzer tahmin ele alındığında, yüzde 90 güven bildiren sonuçların yüzde 60 güven bildiren sonuçlardan ortalamada daha sık doğru çıkması beklenir. Bu, düşük güvenli sonuçları insan incelemesine göndermek, bir eşiğin altındaki işlemleri durdurmak veya daha kapsamlı bir modele devretmek açısından işlevsel olabilir. Ancak yüksek güvenli tek bir yanıtın mutlaka doğru olduğu anlamına gelmez. 16

Hız ve fiyat: Şirketin iddiaları ne?

TypeSafe, Jev için uçtan uca yanıt süresinin yaklaşık 70–500 milisaniye aralığında olduğunu söylüyor. Şirketin görev türüne ve kullanılan karşılaştırma temel çizgisine göre öne sürdüğü avantajlar şöyle:

• 20–200 kat daha hızlı çalışma,
• 40–400 kat daha düşük maliyet,
• şirketin öne çıkardığı bir iş akışı ölçümünde 193,6 kat daha yüksek hız ve 444,6 kat daha düşük maliyet.

Liste fiyatı, 1 milyon girdi tokenı için 0,042 dolar. Çıktılar ise ölçümlenmeyecek kadar düşük maliyetli olduğu gerekçesiyle ücretsiz fiyatlandırılıyor. 67

Bu rakamların TypeSafe’in kendi ölçümleri ve karşılaştırma koşullarına dayandığını unutmamak gerekiyor. Sonuçlar bağımsız biçimde tekrarlanmış değil; dolayısıyla her üretim ortamında aynı hız veya maliyet farkının oluşacağı henüz gösterilmiş sayılmaz.

DOOM demosu ve Wikipedia testi ne gösteriyor?

Şirketin DOOM demosunda Jev, yapılandırılmış oyun durumu bilgisini alıp tekrar tekrar eylem seçiyor. TypeSafe’in tahminine göre model saniyede yaklaşık 10 çağrı yapabiliyor ve kullanım maliyeti saatte yaklaşık 7 dolar seviyesinde kalıyor. 6

TypeSafe ayrıca Jev’in Wikipedia bağlantıları arasında hedef sayfaya ulaşmayı amaçlayan bir gezinme testinde çeşitli üst seviye modelleri geçtiğini bildiriyor. Fakat şirket, kıyaslamanın büyük ölçüde bu modellerin “akıl yürütmesiz” modlarıyla yapıldığını da belirtiyor. Bu nedenle sonuç, Jev’in genel yapay zekâ yeteneğinde üstün olduğunu gösteren geniş kapsamlı bir sıralama olarak yorumlanmamalı. 6

Hangi işlerde anlamlı olabilir?

Jev’in doğal kullanım alanları; yüksek hacimli ve seçenekleri sınırlandırılmış kararlar:

• Destek taleplerini yönlendirme,
• bilgi çıkarma ve sınıflandırma,
• politika veya içerik kontrolleri,
• dolandırıcılık ve risk puanlama,
• başka bir modelin çıktısını denetleme ya da korkuluk mekanizması olarak değerlendirme,
• gerçek zamanlı arayüz kararları,
• büyük belge koleksiyonlarında map-reduce tarzı toplu analiz.

Bu senaryolarda en mantıklı kurgu, Jev’in yanıtını normal yazılım kurallarıyla birleştirmek; düşük güvenli vakaları bir insana veya daha yavaş ama daha kapsamlı düşünebilen bir modele iletmek olur. 16

Sınırları: Şema doğru olabilir, karar yanlış olabilir

Jev’in tasarım tercihi aynı zamanda belirgin sınırlar getiriyor. Model, lansman aşamasında:

• düzyazı üretemiyor,
• kod yazamıyor,
• kararının gerekçesini açıklayamıyor,
• görsel girdi kabul etmiyor.

“Tür hatası yok” ifadesi, model yanıtlarının tanımlanan şemaya uyduğu anlamına gelir; kararın anlam bakımından doğru olduğu anlamına gelmez. Bu yüzden Jev için “halüsinasyonsuz” tanımı yanıltıcı olabilir: serbest biçimli metin uyduramaz, fakat yanlış yapılandırılmış tahmin üretebilir. 1611

Henüz kanıtlanması gerekenler

Jev’in kıyaslama metodolojisi, üretim ortamındaki kalibrasyon kalitesi, uzun dönemli birim ekonomisi ve “yapılandırılmış karar modeli” kategorisinin kalıcı bir pazar oluşturup oluşturamayacağı için henüz yeterli bağımsız kanıt bulunmuyor.

Kısa vadede en güçlü senaryo, genel amaçlı LLM’lerin yerini tamamen alması değil, onları tamamlaması gibi görünüyor: Jev; hızlı, tekrarlayan ve sınırları belli kararlar için kullanılabilir. Serbest metin, açık uçlu akıl yürütme, görsel girdi veya açıklama gereken işlerde ise genel amaçlı modeller gerekli olmaya devam ediyor.