Waarom goedkopere AI-tokens niet automatisch leiden tot goedkopere AI-agents

Goedkopere tokens maken autonome AI niet vanzelf goedkoper. Gartner beschrijft met de ‘inferentieparadox’ een opvallende ontwikkeling: de inferentiekosten per agentische workflow zullen naar verwachting tot 2028 meer dan vervijfvoudigen, terwijl tokenprijzen tegen 2030 met 95 procent dalen. De verklaring is dat agents voor één taak aanzienlijk meer berekeningen uitvoeren dan een traditionele chatbot.

Wat is de inferentieparadox?

Een eenvoudige chatbot verwerkt meestal één vraag en geeft één antwoord. Een agentische workflow werkt anders. Zo’n systeem kan eerst een plan maken, vervolgens tools selecteren, informatie ophalen, resultaten interpreteren, het eigen werk controleren, fouten herstellen en bepalen wat de volgende stap is.

Daardoor verandert ook de relevante rekeneenheid. De prijs van één token kan dalen, maar het totale aantal tokens en modelaanroepen dat nodig is voor een bruikbaar bedrijfsresultaat kan sneller stijgen dan de besparing. Lagere prijzen maken het bovendien aantrekkelijker om krachtigere redeneermodellen en langere, autonomere workflows in te zetten.

De Gartner-voorspelling gaat over de inferentiekosten per afgeronde workflow, niet alleen over de prijs van een afzonderlijk token. Inferentie omvat de rekenkracht die nodig is om het eindresultaat te produceren, inclusief alle herhaalde modelacties binnen de workflow.

Waarom agents meer verbruiken dan chatbots

Agentische systemen voegen op verschillende niveaus extra werk toe:

• Planning en redeneren: het systeem splitst een doel op in stappen, vergelijkt opties en kan het plan herzien.
• Toolgebruik: zoekopdrachten, databases, API’s, software en andere hulpmiddelen zorgen voor extra invoer en uitvoer.
• Controle: een agent kan tussenresultaten en het eindantwoord bekritiseren, testen of valideren.
• Lerende workflows: het ophalen van geheugen, feedback, evaluatie en aanpassing leidt tot meer modelactiviteit.
• Samenwerking tussen agents: delegatie brengt berichten, overdrachten, dubbele context en toezichtcontroles met zich mee.
• Herstel: mislukte toolaanroepen of resultaten met een lage betrouwbaarheid kunnen nieuwe pogingen en een nieuw plan veroorzaken.

Naarmate de context groeit, bevatten latere modelaanroepen ook meer eerdere informatie. Krachtigere redeneermodellen kunnen daarnaast aanzienlijk meer tokens en rekenkracht gebruiken bij het afwegen van meerdere beslissingen. Uit berichtgeving over de Gartner-analyse blijkt dat agents voor vergelijkbare taken vijf tot dertig keer meer tokens kunnen nodig hebben dan een chatbot. Het exacte verbruik hangt af van de workflow en de modelinstellingen.

Het effect stapelt zich op: een workflow kan tegelijk meer aanroepen, langere contexten en duurdere modellen gebruiken. Het kostenprobleem draait daarom niet alleen om de tokenprijs, maar om de combinatie van tokenprijs, tokenvolume, modelkeuze en workflowontwerp.

De kostenladder van het Tokenomics Model

Gartner gebruikt het Tokenomics Model om AI-werk te bekijken als een reeks scenario’s met oplopende eisen, in plaats van als één uniforme ‘aanvraag’. Publieke berichtgeving beschrijft de algemene volgorde als volgt:

1. Basisuitvoering door een agent kost meer dan een eenvoudige chatbotinteractie.
2. Planning voegt extra redenering en orkestratie toe.
3. Leren en iteratief verbeteren brengen geheugen, feedback, evaluatie en aanpassing met zich mee.
4. Geavanceerd redeneren vormt de duurste categorie, omdat hiervoor complexere en langdurigere modelberekeningen nodig zijn.

De openbare informatie ondersteunt de richting van deze kostenladder en de belangrijkste drempel: wanneer werk wordt doorgestuurd naar een agentisch redeneermodel, kunnen de inferentiekosten ten minste vijf keer hoger uitvallen dan bij een eenvoudige chatbot. Bij complexere taken kunnen ze verder oplopen. Betrouwbare, openbare vermenigvuldigingsfactoren per categorie — voor basisuitvoering, planning, leren en geavanceerd redeneren — zijn echter niet beschikbaar. Die cijfers moeten daarom niet worden gepresenteerd als officiële Gartner-benchmarks.

Spreekt dit de dalende kosten van frontiermodellen tegen?

Nee. De paradox betekent niet dat hardware, modelarchitectuur of token-economieën niet efficiënter worden. Het betekent dat efficiëntiewinst de vraag naar krachtigere systemen kan aanjagen.

Wanneer geavanceerde modellen goedkoper worden, kunnen organisaties toepassingen rechtvaardigen die eerder te duur waren. Ze kunnen agents ook meer autonomie, meer tools, langere contexten en meer ruimte om te redeneren geven. Daardoor neemt de hoeveelheid inferentie per afgeronde taak toe. In de visie van Gartner kunnen mogelijkheden en gebruik sneller groeien dan de daling van de kosten per eenheid.

Dat onderscheid is belangrijk bij het plannen van AI-producten. Een lagere prijs per token verbetert de kostenstructuur van een vaste workload. Maar als de workload zelf verandert, garandeert die lagere prijs niet dat ook het kostenplaatje per bedrijfsresultaat daalt.

Hoe bedrijven de kosten van agentische AI kunnen beheersen

1. Werk met inferentietiers

Stem de modelcapaciteit af op de moeilijkheidsgraad van de taak. Stuur deterministische taken, zoekwerk, classificatie en werk met een laag risico naar kleinere of goedkopere modellen. Reserveer frontiermodellen met geavanceerde redeneercapaciteit voor de stappen waarin tests aantonen dat hun extra kwaliteit de hogere kosten rechtvaardigt. Gartner noemt onder meer inferentietiering, tokenlimieten en monitoring als maatregelen.

2. Beperk de complexiteit van workflows

Beheers de variabelen waardoor een agent zijn budget kan overschrijden:

• een maximumaantal beurten en tokens;
• grenzen aan nieuwe pogingen en het opnieuw plannen;
• quota voor toolaanroepen;
• een plafond voor de contextgrootte;
• limieten voor het aantal parallelle agents; en
• stopvoorwaarden bij onzeker of repetitief gedrag.

Caching van stabiele resultaten, het inkorten of samenvatten van de geschiedenis, gestructureerde tooluitvoer en overdracht van uitzonderlijke gevallen aan een medewerker kunnen onnodige aanroepen verminderen. Zo blijft autonomie behouden waar die waarde toevoegt.

3. Meet kosten per afgerond resultaat

Kosten per token en kosten per agentaanroep zijn onvolledige maatstaven. Teams zouden ook de kosten van een afgerond bedrijfsresultaat moeten volgen, bijvoorbeeld van een opgeloste klantvraag, goedgekeurde claim, gekwalificeerde lead of voltooide engineeringtaak. Combineer die met kwaliteitsniveau, snelheid, foutpercentage en menselijke tussenkomst.

Een betrouwbare pilot begint met een nulmeting van het bestaande proces en een vooraf bepaalde kwaliteitsdrempel. Pas daarna kan worden vastgesteld of de agent genoeg waarde toevoegt om op te schalen. Als een agent wel tokens bespaart maar geen beter of sneller resultaat oplevert, is de efficiëntiewinst op papier weinig waard.

4. Maak gebruiksafhankelijke facturatie beheersbaar

Facturatie op basis van gebruik kan onverwachte kosten veroorzaken wanneer workflows lang, recursief of sterk autonoom worden. Budgetplafonds, quota per workflow, realtime kosteninformatie, waarschuwingen en interne doorbelasting of kostenrapportage maken het verbruik zichtbaar voordat een systeem op productieschaal wordt ingezet.

5. Evalueer modellen regelmatig opnieuw

De economie van modellen staat niet stil. Een workflow die vandaag een duur frontiermodel nodig heeft, kan later misschien draaien op een goedkoper model met voldoende capaciteiten, een verfijnd of gedistilleerd model, of deterministische automatisering. Beoordeel daarom steeds de combinatie van model en workflow opnieuw, in plaats van de huidige architectuur als permanent te beschouwen.

6. Breid autonomie pas uit na aantoonbare waarde

Gartner voorspelt dat meer dan 40 procent van de agentische AI-initiatieven tegen het einde van 2027 wordt geannuleerd door oplopende kosten, onduidelijke bedrijfswaarde of onvoldoende risicobeheersing. Dat is een waarschuwing om autonomie niet op te schalen voordat de economische haalbaarheid en governance duidelijk zijn — niet de bewering dat elke inzet van agents zal mislukken.

Een goed geoptimaliseerde implementatie kan nog steeds rendement opleveren wanneer die een waardevol en herhaalbaar proces versnelt of vervangt. De praktische toets is of de extra waarde van meer redenering, coördinatie en autonomie groter is dan de extra inferentie- en bedrijfskosten.

De praktische conclusie

Ga er voorlopig vanuit dat tokenprijzen en de totale kosten van agents tegengestelde kanten op kunnen bewegen. Zie tokens als slechts één onderdeel van het budget. Modelleer de volledige workflow, gebruik de minst krachtige configuratie die aan de kwaliteitseis voldoet, stel operationele grenzen in en breid autonomie alleen uit wanneer productiegegevens aantonen dat een duidelijk bedrijfsresultaat verbetert.