8 trilyon token: Yapay zekâda değer ölçüsü neden değişiyor?

OpenCode’un bildirdiği 8 trilyon tokenlik gün, tek bir modelin popülerliğinden daha büyük bir değişime işaret ediyor: Yapay zekâda temel iş birimi artık tek seferlik sohbet yanıtı değil, bir ajan döngüsü.

Bu döngüde ajan bir kod deposunu okuyor, plan çıkarıyor, dosyaları düzenliyor, programı veya testleri çalıştırıyor, hata çıktısını inceliyor ve yeniden deniyor. Böyle bir süreçte bağlam, araç çıktıları ve tekrarlar hızla büyüyor.

OpenCode’a göre DeepSeek V4 Flash, 1 Ağustos’ta platformunda 8 trilyon token işledi; bunun 5 trilyonu ücretsiz denemelerden, 3 trilyonu ise ücretli Go planından geldi. Ayrı olarak, çoklu model erişim platformu OpenRouter’ın 27 Temmuz–2 Ağustos haftası sıralamasında V4 Flash için 7,22 trilyon token yer aldı. Bu veriler platformların kendi bildirimleri; tüm model kullanımını bağımsız olarak ölçen rakamlar değiller. Yine de ajan iş akışlarının ulaşabildiği ölçeği gösteriyorlar. 202329

Ajanlar neden bu kadar çok token tüketiyor?

Tek seferlik bir sohbet talebinde genellikle kısa bir istem ve sınırlı bir yanıt vardır. Kodlama ajanının çalışma alanı ise çok daha geniştir: kaynak dosyaları, terminal çıktıları, başarısız testler, önceki kararlar, üretilen yamalar ve tekrarlanan araç çağrıları.

OpenCode’un V4 Flash için yayımladığı verilerde oturum başına ortalama 12 milyon token ve %95 girdi önbelleği oranı görülüyor. Bu, her oturumun tam otonom bir yazılım görevi olduğu anlamına gelmez; ancak kısa sohbetlerden ziyade uzun bağlamla yürütülen, tekrar eden işlerle uyumlu bir tablo sunar. 25

Buradaki kritik fark şu: Kullanıcı token sayısına değil, ortaya çıkan sonuca değer verir. Birleştirilmiş bir pull request, geçen bir test paketi, çalışan bir prototip ya da doğru tamamlanmış bir iş akışı önemlidir.

Bu nedenle pratik ölçüt şöyle ifade edilebilir:

Kabul edilen görev başına maliyet = toplam model ve araç döngüsü maliyeti ÷ görevin istenen standardı karşılama olasılığı

Bu hesap yalnızca yayımlanmış girdi-çıktı fiyatlarını kapsamaz. Başarısız denemeler, yeniden çalışmalar, insan incelemesi, gecikme ve hataları düzeltmenin maliyeti de işin içindedir.

Düşük fiyat, daha fazla denemeyi ekonomik hâle getiriyor

V4 Flash için bildirilen birinci taraf fiyatı, 1 milyon girdi tokenı başına 0,14 dolar; 1 milyon çıktı tokenı başına ise 0,28 dolar. 12 Bu düzeyde bir fiyat, geliştiricilerin daha fazla iterasyon yapmasına, daha geniş bağlam tutmasına ve daha çok otomatik test çalıştırmasına alan açıyor.

Bu, ucuz modelin her zaman daha iyi olduğu anlamına gelmiyor. Ancak rutin bir işi tamamlamak için çok sayıda tur gereken ajanlarda, küçük bir kalite farkı büyük bir maliyet farkıyla dengelenebilir.

Örneğin bir karşılaştırmada Artificial Analysis Intelligence Index v4.1’de V4 Flash Max’in puanı 50, Claude Opus 4.8 Max’in puanı 56 olarak verildi. Buna karşılık tüm değerlendirme paketini çalıştırmanın maliyeti sırasıyla 72,02 dolar ve 3.752,55 dolardı. Altı puanlık farkın yanında çok büyük bir maliyet farkı var; ancak bu, gerçek dünyadaki güvenilirliğin eşit olduğu yönünde bir garanti değildir. 16

Zor veya yüksek sonuç doğuran işlerde premium bir model, başarısız dağıtımları, insan gözetimini ya da yeniden çalışmayı ciddi biçimde azaltıyorsa kabul edilen sonuç başına daha ucuz olabilir. Sonuç, her yere en ucuz modeli koymak değil; işi, kabul edilebilir sonuca ulaşmanın toplam maliyetine göre yönlendirmektir.

“DeepSeek kill line” en çok orta segmenti zorluyor

“DeepSeek kill line” ifadesini bir piyasa metaforu olarak görmek gerekir. Düşük maliyetli, üst sınıra yakın bir alternatif; belirgin biçimde daha iyi görev sonucu üretmeyen ama çok daha pahalı modeller üzerinde baskı kuruyor.

Bu baskı üç segmentte farklı hissediliyor:

• Ucuz yönlendirme modelleri: Sınıflandırma, bilgi çıkarma, kısa dönüşümler ve yüksek hacimli ön eleme gibi işlerde önemini koruyor. Bu görevlerde gelişmiş muhakemeden çok hız ve mümkün olan en düşük birim maliyet belirleyici.
• Premium amiral gemileri: Uzun vadeli muhakeme, çok yüksek güvenilirlik, çok modlu işler, yönetişim gereksinimleri ve insan incelemesinin pahalı olduğu alanlarda rollerini koruyor.
• Orta segment modeller: En sert sınavla karşı karşıya olan grup burası. Flash’tan belirgin ölçüde pahalı olan modeller; daha yüksek tamamlama oranı, daha düşük gecikme, daha iyi araç kullanımı, entegrasyon, destek veya kurumsal denetim özellikleri sunabildiklerini göstermeli. Küçük bir kıyaslama üstünlüğü tek başına yeterli olmayabilir.

Başka bir deyişle, düşük maliyetli ajan modelleri varsayılan çalışan hâline gelebilir; premium modeller ise zor vakalara devreye giren uzman rolüne kayabilir. Orta segmentin, toplam görev maliyetini gerçekten düşürdüğünü kanıtlaması gerekir.

V4 Flash ajan ölçeğinde maliyeti nasıl hedefliyor?

DeepSeek V4 Flash, 284 milyar toplam parametreye sahip bir uzmanlar karışımı (Mixture-of-Experts/MoE) modeli. Ancak her token için yaklaşık 13 milyar parametreyi etkinleştiriyor ve 1 milyon tokenlik bağlam penceresini destekliyor. 17

Bu yaklaşım, modelin toplam kapasitesi ile her token üretilirken harcanan hesaplama miktarını birbirinden ayırıyor.

• MoE yönlendirmesi: Her token için uzmanların yalnızca bir alt kümesi etkinleşiyor. Böylece tüm parametreleri her seferinde çalıştıran yoğun modellere kıyasla aktif hesaplama yükü azalıyor. 17
• Hibrit dikkat mimarisi: V4 ailesi, Compressed Sparse Attention (CSA) ile Heavily Compressed Attention’ı (HCA) birleştiriyor. Amaç, çok uzun bağlamlarda dikkat hesaplaması ve bellek yükünü azaltmak. 1733
• Daha düşük önbellek yükü: NVIDIA’nın aktardığı karşılaştırmada, V4 ailesinin dikkat yenilikleri DeepSeek-V3.2’ye kıyasla token başına çıkarım FLOP’larında %73, KV önbellek bellek yükünde ise %90 azalma hedefliyor. 33
• Önbellek farkındalığı: Kod deposu ve araç bağlamını tekrar tekrar gönderen ajan oturumlarında önbellek yeniden kullanımı gerçek maliyeti kayda değer biçimde etkileyebilir. OpenCode’un bildirdiği %95’lik önbellek oranı bunun neden önemli olduğunu gösteriyor. 25

Bunlar yalnızca teknik özellikler değil. Bir ajanın büyük bir kod tabanını incelemesini, araçları çalıştırmasını ve birkaç kez hatadan dönmesini mali açıdan uygulanabilir kılan unsurlar.

Yeni sınır: Yetenek, güvenilirlik ve ek iterasyon maliyeti

Kıyaslama puanları hâlâ önemli, fakat ajanlar için tek sınır metriği değiller. Daha faydalı karşılaştırma üç unsurdan oluşuyor:

1. Yetenek: Model, ilgili görev sınıfını çözebiliyor mu?
2. Güvenilirlik: Pahalı müdahale gerektirmeden kabul edilebilir sonucu ne sıklıkla veriyor?
3. Ek iterasyon maliyeti: Bir araç çağrısı, düzeltme, test çalıştırması veya hata sonrası toparlanma denemesi ne kadar erişilebilir?

Bildirilen 8 trilyon tokenlik gün, üçüncü unsuru görünür kılıyor. Ajanlar tek seferlik sorguların yerini aldıkça token tüketimi katlanarak büyüyebilir. Uzun bağlamı ve tekrar denemeleri ucuz kılan modeller; en zor durumlarda daha yetenekli bir amiral gemisi tercih edilmeye devam etse bile, geniş ve tekrarlayan ajan iş yüklerinde varsayılan seçenek hâline gelebilir. 202533