Microsoft 'Membungkam' Tokenmaxxing: Ironi di Balik Gemerlap AI Big Tech

Microsoft adalah investor utama OpenAI dan penjual eksklusif model-modelnya melalui Azure, namun secara internal mereka menemukan bahwa para insinyur menggunakan model-model tercanggih untuk tugas-tugas sepele, mendorong biaya yang bahkan tim keuangan perusahaan sendiri tidak bisa tolerir . Wakil Presiden Eksekutif Jay Parikh mengirim surel yang menyatakan "tokenmaxxing bukanlah yang kami optimalkan" dan mengumumkan bahwa setiap divisi akan menerima target anggaran token AI mulai Juli 2026 .

"Tokenmaxxing" berubah menjadi perilaku gamifikasi. Para insinyur bersaing di papan peringkat internal untuk memaksimalkan penggunaan token—setara dengan memperlakukan komputasi AI seperti poin dalam fantasy football . Praktik ini meningkatkan konsumsi tanpa nilai bisnis yang terukur, karena perusahaan menemukan bahwa "melempar AI ke segala hal" justru menaikkan biaya tanpa peningkatan produktivitas yang proporsional .

Satya Nadella sendiri harus turun tangan, memerintahkan karyawan untuk berhenti menggunakan model AI paling canggih untuk setiap tugas dan menyesuaikan model dengan kompleksitas masalah . Perusahaan mengalihkan model default internal ke GPT-5.6 yang lebih murah dan mencabut lisensi Claude Code untuk sebagian besar karyawan guna menghentikan pembengkakan biaya .

Perubahan Besar dalam Mengukur Kesuksesan AI

Industri kini bergerak dari volume token sebagai metrik kesombongan menuju pengukuran berdasarkan hasil dari investasi AI.

Pensiunnya papan peringkat token. Amazon dan Meta sama-sama memensiunkan papan peringkat penggunaan token AI internal setelah karyawan memanipulasinya . CTO Meta Andrew Bosworth memperingatkan staf: "Semua gerakan bukanlah kemajuan dan penggunaan token saja bukanlah ukuran dampak apa pun" .

Mengganti hitungan token dengan metrik penerapan. Amazon mengganti sistem "KiroRank" dengan "penyebaran yang dinormalisasi"—menghitung kode berbantuan AI yang benar-benar mencapai produksi .

Batas per-insinyur dan tingkatan model. Meta sedang mempertimbangkan batas token AI per insinyur . Perusahaan beralih ke "hak akses tingkat model" yang mengunci model yang tepat (dan lebih murah) ke peran yang tepat, serta menetapkan peringatan ambang pengeluaran .

Tata kelola anggaran di atas maksimalisasi penggunaan. Atlassian membatasi pengeluaran setelah tagihan AI bulanannya melonjak dari sekitar $5 juta menjadi lebih dari $15 juta . Citi untuk sementara mencabut akses ke model Claude dan ChatGPT terbaru bagi pengembang setelah model-model tersebut menjadi "pendorong utama konsumsi perusahaan yang membengkak" dari kredit AI gabungan . Anthropic merilis alat kontrol pengeluaran perusahaan sebagai respons terhadap 78% bisnis yang melaporkan tagihan AI tak terduga .

Pelajaran utamanya: token bukanlah kursi—tidak seperti SaaS tradisional, AI generatif meningkatkan biaya seiring dengan setiap perintah, percobaan ulang, dan putaran agen . Industri kini memperlakukan AI bukan sebagai ramuan produktivitas tak terbatas, melainkan sebagai sumber daya yang harus dikelola dengan disiplin keuangan yang sama seperti input kritis lainnya, mengukur kesuksesan berdasarkan kode yang dikirim, tiket yang terselesaikan, atau dampak pendapatan, bukan sekadar bakar token mentah.