8 Triliun Token DeepSeek V4 Flash dalam Sehari: Mengapa Agen AI Mengubah Ekonomi Model

Laporan bahwa DeepSeek V4 Flash memproses 8 triliun token dalam satu hari di OpenCode bukan semata kisah sebuah model yang populer. Angka itu lebih penting sebagai tanda bahwa satuan kerja AI sedang berubah.

Pengembang makin tidak membeli satu jawaban chatbot. Mereka membayar sebuah putaran kerja agen: membaca repositori, menyusun rencana, mengubah berkas, menjalankan program, memeriksa galat, lalu mencoba lagi.

OpenCode melaporkan V4 Flash memproses 8 triliun token pada 1 Agustus, terdiri atas 5 triliun token uji coba gratis dan 3 triliun token melalui paket Go berbayar. Secara terpisah, peringkat mingguan OpenRouter untuk 27 Juli–2 Agustus menempatkan V4 Flash di posisi pertama dengan 7,22 triliun token sepanjang pekan pada platform tersebut. Angka ini adalah laporan platform, bukan audit independen atas seluruh penggunaan model, tetapi kontrasnya memperlihatkan skala yang dapat dicapai alur kerja agen. 202329

Mengapa agen menghabiskan token sangat banyak

Permintaan chatbot sekali jalan umumnya memiliki prompt pendek dan jawaban dengan batas yang jelas. Agen pengodean bekerja dengan ruang kerja yang jauh lebih besar: berkas kode sumber, keluaran terminal, kegagalan pengujian, keputusan sebelumnya, patch yang dibuat, serta panggilan alat berulang.

Agen dapat kembali membaca banyak konteks itu saat mencoba menyelesaikan satu tugas. Data OpenCode untuk V4 Flash mencatat rata-rata sekitar 12 juta token per sesi dan rasio cache input 95%. Angka tersebut tidak membuktikan semua sesi adalah pekerjaan pengodean otonom penuh, tetapi konsisten dengan pekerjaan iteratif berkonteks panjang, bukan percakapan singkat biasa. 25

Perbedaannya krusial karena pengguna tidak menghargai jumlah token yang dihasilkan. Yang bernilai adalah pull request yang diterima, rangkaian tes yang lulus, prototipe yang berfungsi, atau alur kerja yang selesai dengan benar.

Cara praktis menilai model karena itu adalah:

Biaya per tugas yang diterima = total biaya model dan putaran alat ÷ peluang tugas memenuhi standar yang dibutuhkan.

Perhitungan ini memasukkan percobaan yang gagal, pengulangan, peninjauan manusia, latensi, dan biaya memperbaiki kesalahan—bukan hanya tarif input dan output yang tercantum di daftar harga.

Harga token rendah membuat pengulangan lebih layak secara ekonomi

Pemberitaan mengenai V4 Flash mengutip harga resmi US$0,14 per juta token input dan US$0,28 per juta token output. 12 Pada tarif seperti ini, pengembang bisa membiayai lebih banyak iterasi, menyimpan konteks lebih panjang, dan menjalankan pengujian otomatis lebih sering dibanding memakai model yang jauh lebih mahal.

Bukan berarti model murah selalu lebih baik. Namun, selisih kualitas yang kecil dapat dikalahkan oleh selisih biaya besar ketika agen membutuhkan banyak giliran untuk menuntaskan pekerjaan rutin.

Satu perbandingan, misalnya, mencatat skor 50 untuk V4 Flash Max dan 56 untuk Claude Opus 4.8 Max pada Artificial Analysis Intelligence Index v4.1. Biaya menjalankan seluruh rangkaian evaluasi yang dilaporkan adalah US$72,02 untuk V4 Flash Max, dibanding US$3.752,55 untuk Claude Opus 4.8 Max. Itu perbedaan biaya yang sangat besar dengan jarak skor enam poin—tetapi tetap merupakan perbandingan evaluasi, bukan jaminan keandalan yang setara di dunia nyata. 16

Untuk pekerjaan sulit atau berkonsekuensi tinggi, model premium masih dapat lebih murah per hasil yang diterima bila secara berarti mengurangi kegagalan deployment, kebutuhan pengawasan, atau pengerjaan ulang. Kesimpulannya bukan “pakai model termurah untuk semua hal”, melainkan memilih model berdasarkan total biaya untuk mencapai hasil yang layak diterima.

“Kill line” terutama menekan model kelas menengah

Istilah “DeepSeek kill line” sebaiknya dibaca sebagai metafora pasar. Maksudnya adalah tekanan terhadap model yang jauh lebih mahal daripada alternatif berbiaya rendah yang mendekati batas terdepan kapabilitas, tetapi tidak memberi hasil tugas yang jelas lebih baik.

Tiga lapisan pasar merespons secara berbeda:

• Model routing murah tetap berguna untuk klasifikasi, ekstraksi, transformasi singkat, dan triase bervolume tinggi. Pada pekerjaan ini, kecepatan serta biaya satuan serendah mungkin lebih penting daripada penalaran tingkat lanjut.
• Model flagship premium tetap memiliki peran untuk tugas terberat: penalaran jangka panjang, keandalan sangat tinggi, pekerjaan multimodal, kebutuhan tata kelola, dan situasi ketika biaya peninjauan manusia mahal.
• Model kelas menengah menghadapi ujian paling berat. Bila harganya jauh di atas Flash, model tersebut perlu membuktikan tingkat penyelesaian tugas, latensi, penggunaan alat, integrasi, dukungan, atau kontrol perusahaan yang lebih baik—bukan hanya keunggulan benchmark tipis.

Dengan kata lain, model agen berbiaya rendah dapat menjadi pekerja default, sementara model premium menjadi spesialis untuk eskalasi. Model di tengah harus membuktikan bahwa mereka benar-benar menurunkan total biaya tugas.

Mengapa V4 Flash dapat mengejar ekonomi agen skala besar

DeepSeek V4 Flash adalah model mixture-of-experts (MoE) dengan 284 miliar parameter total, tetapi hanya sekitar 13 miliar parameter yang aktif per token. Model ini juga mendukung jendela konteks hingga satu juta token. 17

Rancangan tersebut memisahkan kapasitas model yang besar dari komputasi yang benar-benar digunakan untuk setiap token yang dihasilkan.

Strategi efisiensinya mencakup:

• Routing mixture-of-experts: hanya sebagian ahli (experts) diaktifkan untuk sebuah token, sehingga komputasi aktif lebih rendah dibanding menjalankan seluruh parameter dalam model padat (dense). 17
• Hybrid attention: keluarga V4 menggabungkan Compressed Sparse Attention (CSA) dan Heavily Compressed Attention (HCA), yang dirancang untuk mengurangi beban attention dan memori pada konteks sangat panjang. 1733
• Beban cache yang lebih rendah: NVIDIA menyebut inovasi attention V4 menargetkan pengurangan 73% FLOPs inferensi per token dan 90% beban memori KV-cache dibanding DeepSeek-V3.2 dalam perbandingan yang dikutip. 33
• Alur kerja yang sadar cache: dalam sesi agen yang berulang kali mengirim konteks repositori dan alat yang tumpang tindih, penggunaan ulang cache dapat mengubah biaya aktual secara material. Rasio cache 95% yang dilaporkan OpenCode menunjukkan pentingnya detail operasional ini. 25

Ini bukan sekadar spesifikasi teknis. Faktor-faktor tersebut menentukan apakah secara finansial masuk akal membiarkan agen memeriksa basis kode besar, menjalankan alat, dan pulih dari kesalahan beberapa kali sebelum memberikan hasil.

Batas baru: kapabilitas, keandalan, dan biaya iterasi marjinal

Benchmark kecerdasan tetap penting, tetapi bukan satu-satunya ukuran terdepan untuk agen. Perbandingan yang lebih berguna adalah tiga hal berikut:

1. Kapabilitas: apakah model mampu menyelesaikan jenis tugas tersebut?
2. Keandalan: seberapa sering model menghasilkan keluaran yang dapat diterima tanpa intervensi mahal?
3. Biaya iterasi marjinal: seberapa terjangkau satu panggilan alat, revisi, tes, atau upaya pemulihan tambahan?

Laporan 8 triliun token dalam sehari membuat faktor ketiga terlihat jelas. Ketika agen menggantikan kueri sekali jalan, konsumsi token dapat meningkat beberapa tingkat lipat. Model yang membuat konteks panjang dan percobaan ulang menjadi murah berpeluang menjadi pilihan utama untuk beban kerja agen yang luas dan repetitif—meski flagship yang lebih kuat tetap lebih tepat untuk kasus tersulit. 202533