Jev dari TypeSafe AI: Model AI untuk Mengambil Keputusan, Bukan Mengobrol

Jev adalah model dari TypeSafe AI yang dirancang untuk menjawab pertanyaan dengan pilihan yang sudah ditentukan, bukan menghasilkan teks bebas seperti chatbot. Pengembang memberikan konteks atau keadaan aplikasi, lalu mengajukan pertanyaan terstruktur—misalnya memilih kategori, memberi skor, atau menjawab ya/tidak. Jev mengembalikan hasil bertipe beserta probabilitas yang dapat digunakan langsung oleh perangkat lunak. 12

Pendekatan ini bisa memudahkan otomatisasi: aplikasi tidak perlu menebak maksud sebuah paragraf untuk mengambil langkah berikutnya. Namun, format jawaban yang dibatasi tidak otomatis membuat jawabannya benar. Begitu pula, angka probabilitas bukan bukti bahwa tingkat keyakinan model sudah terkalibrasi dengan baik.

Cara kerja Jev berbeda dari chatbot

Chatbot generatif dirancang untuk merespons berbagai pertanyaan terbuka dalam bentuk bahasa. Karena hasilnya berupa teks, perangkat lunak kadang perlu mengurai jawaban itu lebih dulu. Jev menyasar tugas yang lebih sempit: pilihan jawabannya ditentukan sebelum model dipanggil, misalnya beberapa kategori, rentang skor, atau keputusan ya/tidak. TypeSafe menyebut keluaran semacam ini sebagai pilihan, skor, dan penilaian ya/tidak, dengan probabilitas yang menyertainya. 12

Contohnya, aplikasi dapat meminta model memeriksa apakah suatu item memenuhi aturan tertentu, lalu meneruskan hasilnya ke langkah berikutnya. Karena jawaban harus mengikuti struktur yang ditetapkan, aplikasi tak perlu mencari kategori yang dimaksud di dalam paragraf. Cara ini dapat mengurangi pekerjaan pemformatan dan penguraian teks—tetapi tidak menjamin penilaiannya tepat. 2

TypeSafe menyebut Jev sebagai model “System One”. Perusahaan juga mengatakan Jev memakai sampler paralel dan metode pelatihan yang mereka namai Reinforcement Learning for Calibrated Decisions. Istilah dan rancangan tersebut berasal dari penjelasan TypeSafe; itu belum menjadi bukti independen bahwa model selalu akurat atau terkalibrasi dengan baik di berbagai penggunaan nyata. 1

Apa yang diketahui tentang adopsi, harga, dan performa?

Angka adopsi menunjukkan minat awal, bukan pertumbuhan pendapatan

Vercel melaporkan bahwa Jev digunakan oleh hampir 13% tim berbayar AI Gateway dalam 24 jam dan menyebutnya sebagai peluncuran model dengan adopsi tercepat di gateway tersebut. Angka ini menunjukkan minat awal dari pengembang di platform itu. Namun, penyebutnya adalah tim AI Gateway berbayar—bukan seluruh pelanggan Vercel—dan angka tersebut tidak menjelaskan penggunaan berulang, jumlah panggilan Jev berbayar, atau pendapatan TypeSafe. Jev juga sempat tersedia gratis sebagai promosi melalui Vercel, sehingga angka peluncuran itu belum menunjukkan kesediaan pengguna untuk terus membayar. 34

Harga tercantum jelas; klaim penghematan bergantung pada pembanding

TypeSafe mencantumkan harga Jev sebesar US$0,042 per satu juta token input, tanpa biaya token output. 23 Perusahaan juga mempromosikan keunggulan kecepatan dan biaya hingga 100 kali. Dalam evaluasi alur kerja tertentu, angka yang dilaporkan bahkan mencapai 193,6 kali lebih cepat dan 444,6 kali lebih murah. Angka yang lebih besar itu berasal dari evaluasi TypeSafe sendiri; anggap sebagai hasil pada perbandingan yang diuji, bukan penghematan yang otomatis berlaku untuk semua tugas atau penyedia. 612

Klaim latensinya juga berbeda-beda. Materi peluncuran TypeSafe menyebut latensi di bawah 100 milidetik, sementara deskripsi lain mencantumkan 70–500 milidetik dari awal hingga akhir. Kedua angka itu tidak bisa dianggap sebagai ukuran yang sama, dan klaim di bawah 100 milidetik bukan jaminan bahwa setiap permintaan akan selesai dalam rentang tersebut. 46

Format terstruktur tidak membuktikan keandalan

Ruang jawaban yang dibatasi bisa mencegah model keluar dari format yang diizinkan. Namun, itu sendiri tidak menjawab apakah keputusan yang dihasilkan benar. Probabilitas yang menyertai jawaban juga hanya berguna jika terkalibrasi untuk tugas yang relevan. Sumber yang ditinjau belum menyediakan cukup bukti independen untuk mengukur akurasi, kalibrasi probabilitas, atau waktu aktif Jev di berbagai beban kerja produksi. 12

Pendanaan dan valuasi: bedakan pengumuman dengan pembicaraan

TypeSafe mengumumkan pendanaan US$40 juta yang dipimpin DCVC. 6 Sejumlah laporan menyebut valuasi perusahaan pada putaran awal sekitar US$200 juta dan pembicaraan mengenai kemungkinan valuasi di atas US$10 miliar. Pembicaraan tersebut bukan putaran pendanaan yang sudah selesai ataupun valuasi pasar yang terverifikasi. Pengumuman pendanaan US$40 juta merupakan klaim yang lebih pasti. 1821

Bagaimana Jev dibandingkan dengan alternatif?

• Liquid AI d1: Liquid mendokumentasikan model keputusan d1 yang bisa dipanggil melalui API, sehingga ini merupakan alternatif ter-host yang konkret. 31 Sebuah laporan perbandingan Decision Index 0.2.1 mencatat skor 58,9 untuk d1 dan 57,9 untuk Jev. Namun, angka itu berasal dari pengujian ulang oleh Liquid sendiri, bukan pengujian langsung yang dijalankan secara netral dan independen. Anggap sebagai sinyal awal, bukan peringkat yang sudah pasti. 3338
• OpenAI Decisions API: OpenAI telah menjelaskan API untuk pertanyaan terbatas dengan pilihan jawaban yang ditentukan sebelumnya. Laporan yang tersedia menyebutnya sebagai pratinjau terbatas. Sumber yang ditinjau belum memastikan adanya dokumentasi publik tentang format permintaan, harga, atau perbandingan independen dengan Jev. Perlu dicatat, decisions-api.org adalah layanan perbandingan model independen, bukan API milik OpenAI. 394232
• Databricks ai_decide: Materi sumber yang tersedia belum memastikan ketersediaan publik, spesifikasi, maupun hasil benchmark yang bisa dibandingkan. Karena itu, belum ada cukup bukti untuk menempatkannya di atas atau di bawah Jev.
• Model sumber terbuka: Panduan model independen memuat evaluasi Decision Index yang lebih luas, termasuk sejumlah model terbuka. Namun, tercantum di benchmark saja tidak membuktikan bahwa sebuah model menyamai Jev pada tugas, latensi, dan biaya yang sama. Deskripsi yang ditinjau juga menyebut bobot Jev belum dipublikasikan, sehingga menjalankannya secara lokal bukan pilihan yang setara. 1338

Kesimpulan: kategori menarik, klaim terbesar masih perlu diuji

Jev menunjukkan seperti apa model yang dirancang untuk mengembalikan keputusan terstruktur dan dapat dibaca mesin, alih-alih teks percakapan. Angka penggunaannya di Vercel merupakan sinyal adopsi awal yang patut dicatat, sementara harga input yang dipublikasikan cukup spesifik. Namun, penggunaan selama masa promosi belum membuktikan pertumbuhan bisnis yang bertahan lama, dan perbandingan kecepatan maupun biaya yang dibuat perusahaan belum membuktikan keunggulan universal. 23412

Pengujian yang lebih berarti adalah membandingkan model-model ini pada tugas praktis yang sama: ketepatan keputusan, kalibrasi probabilitas, latensi menyeluruh, dan biaya dalam kondisi sebanding. Penggunaan setelah akses promosi berakhir juga penting. Sampai hasil semacam itu dapat direproduksi secara independen, model keputusan tampak menjanjikan, tetapi klaim performa dari satu penyedia saja belum menjadi kesimpulan akhir.