Microsoft iski jarrut tekoälyn 'tokenmaxxaukseen' – ja paljasti kammottavan ironian

Ironia auki

Microsoft on OpenAI:n suurin sijoittaja ja sen mallien yksinoikeudellinen jälleenmyyjä Azure-pilvessä, mutta sisäisesti yhtiön insinöörit käyttivät kalliita huippumalleja jopa yksinkertaisiin tehtäviin, mikä aiheutti kustannuksia, joita edes yhtiön oma talousosasto ei enää sietänyt . Varatoimitusjohtaja Jay Parikh lähetti sisäisen sähköpostin, jossa hän totesi: "Tokenmaxxaus ei ole se, mitä varten meitä optimoidaan", ja ilmoitti, että divisioonille määrätään tekoälytoken-budjettitavoitteet heinäkuusta 2026 alkaen .

"Tokenmaxxaus" muuttui pelilliseksi käytökseksi. Insinöörit kilpailivat sisäisillä tulostauluilla tokenien maksimaalisesta käytöstä – tekoälyvastine fantasiajalkapallopisteille . Tämä paisutti kulutusta ilman mitattavaa liiketoimintahyötyä, ja yritykset huomasivat, että "tekoälyn heittäminen kaikkeen" nosti kustannuksia ilman vastaavaa tuottavuuspiikkiä .

Satya Nadellan oli itse puututtava asiaan, ja hän kehotti työntekijöitä lopettamaan kalleimpien tekoälymallien käytön jokaiseen tehtävään ja sovittamaan mallin ongelman mukaan . Yhtiö vaihtoi sisäisen oletusmallinsa halvempaan GPT-5.6:een ja perui Claude Code -lisenssit useimmilta työntekijöiltä saadakseen kulut kuriin .

Laajempi muutos tekoälyn onnistumisen mittaamisessa

Ala on siirtymässä tokenien määrästä turhamittarina tulospohjaiseen tekoälyn tuoton mittaamiseen.

Token-tulostaulut jäävät historiaan. Amazon ja Meta ovat molemmat poistaneet sisäiset tekoälytokenien käyttöä mittaavat tulostaulunsa, kun työntekijät alkoivat pelata niitä . Metan teknologiajohtaja Andrew Bosworth varoitti henkilöstöä: "Kaikki liike ei ole edistystä, eikä tokenien käyttö yksinään ole minkäänlainen vaikutuksen mitta" .

Tokenien korvaaminen käyttöönottomittareilla. Amazon korvasi "KiroRank"-järjestelmänsä "normalisoiduilla käyttöönotoilla" – lasketaan tekoälyn avustama koodi, joka todella pääsee tuotantoon .

Insinöörikohtaiset kattorajat ja mallien porrastus. Meta harkitsee insinöörikohtaisia tekoälytoken-kattoja . Yritykset siirtyvät "mallitason käyttöoikeuksiin", joissa oikea (halvempi) malli lukitaan oikeaan rooliin, ja asetetaan kulutuskynnyshälytyksiä .

Budjettiohjaus käytön maksimoinnin sijaan. Atlassian asetti kulutuskaton, kun sen kuukausittainen tekoälylasku paisui noin 5 miljoonasta dollarista yli 15 miljoonaan dollariin . Citi poisti väliaikaisesti uusimmat Claude- ja ChatGPT-mallit kehittäjiltä, kun nämä olivat tulleet "pääasialliseksi ajuriksi kohonneelle yrityskulutukselle" yhteisistä tekoälyhyvityksistä . Anthropic julkaisi yritysten kulunhallintatyökaluja, kun 78 % yrityksistä raportoi yllättävistä tekoälylaskuista .

Keskeinen opetus: tokenit eivät ole käyttäjäpaikkoja – toisin kuin perinteiset SaaS-palvelut, generatiivinen tekoäly skaalaa kustannuksia jokaisen kehotteen, uudelleenyrityksen ja agenttisilmukan myötä . Ala ei enää kohtele tekoälyä rajattomana tuottavuuden taikaliuoksena vaan hallittuna resurssina, joka vaatii samaa talouskurinalaisuutta kuin mikä tahansa kriittinen panos – onnistumista mitataan toimitetulla koodilla, ratkaistuilla tiketeillä tai liikevaihtovaikutuksella, ei raa'alla tokenien polttamisella.