Ramp Router: Sådan fungerer AI-tjenesten, hvad den koster, og hvor den har begrænsninger

Ramp bevæger sig fra software til styring af virksomhedsudgifter ind i et af de hurtigst voksende områder inden for AI: udgifterne til inferens, altså når en AI-model behandler en forespørgsel. Den nye tjeneste Router giver udviklere én API til at tilgå og skifte mellem modeller fra flere leverandører. Samtidig kan Router bruge forskellige regler til at afveje kvalitet, svartid, driftssikkerhed og pris. 12

Tilbuddet har dog klare begrænsninger. Router er foreløbig kun tilgængelig i USA, og routinggebyret er fjernet frem til udgangen af 2026. Kunderne betaler stadig de underliggende udgifter til modelkørsel. Nye brugere får 26 dollar i modelkreditter, mens Ramp endnu ikke har oplyst, hvad Router skal koste i 2027. 2

Hvad er Ramp Router?

Router fungerer som et mellemled mellem en applikation og de AI-udbydere, der besvarer dens forespørgsler. I stedet for at låse en applikation fast til én bestemt model kan en udvikler bruge ét endepunkt til at tilgå, evaluere og flytte trafik mellem modeller, når kravene ændrer sig. 1

Ved lanceringen giver Router adgang til modeller fra OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI og Z.ai. Grundideen minder om OpenRouter: leverandørspecifik integration skjules, så teams lettere kan sammenligne modeller og skifte model uden at bygge applikationen om. Ramp har dog i første omgang et mindre udvalg end OpenRouter. 25

Sådan vælger Router model

Ramp beskriver flere metoder, som Router kan bruge til at træffe eller afprøve routingbeslutninger.

Routing via fleksible serviceniveauer

En udbyder kan tilbyde et rabatteret serviceniveau med mindre forudsigelig svartid. Router kan sende forespørgsler dertil, hvis den målte ydeevne svarer til udbyderens normale niveau. Hvis svartiden ikke er sammenlignelig, bliver forespørgslen på standardservicen. 1

Routing baseret på benchmarks

Teams kan vælge op til tre benchmarks og vægte dem efter egne behov. Router bruger derefter disse præferencer til at rangordne de tilgængelige modeller og vælge den model, der scorer højest i forhold til teamets krav. 1

Test med en skygge-model

Router kan spejle et udsnit af forespørgsler fra produktionen til en kandidatmodel, mens den nuværende produktionsmodel fortsat svarer brugerne. På den måde kan teamet sammenligne kvalitet, svartid og pris, før live-trafikken flyttes. 1

Eskalering efter opgavens sværhedsgrad

Nvidia Switchyard er udviklet til flertrinsopgaver udført af AI-agenter. De enklere trin kan blive på en billigere model, mens de vanskeligere trin sendes videre til en mere kapabel – og potentielt dyrere – model. 1

Samlet set er Router derfor mere end en statisk modelvælger. Tanken er, at teams løbende skal kunne teste modeller og justere trafikken, når ydeevne, priser eller opgavernes kompleksitet ændrer sig.

Hvad viser kontrolpanelet?

Router viser oplysninger om de enkelte forespørgsler, blandt andet valgt model, udbyder, serviceniveau, tokenforbrug, svartid, pris og eventuelle forsøg på at skifte til en reservemodel. Kontrolpanelet viser også samlede oplysninger om forbruget. 1

Det er relevant, fordi valget af model kun udgør én del af en AI-regning. Antallet af tokens, gentagne forsøg, fallback-modeller, serviceniveauer og forholdet mellem enkle og komplekse opgaver kan alle påvirke den samlede udgift. En samlet oversigt kan gøre omkostningerne lettere at gennemgå, men det tilgængelige materiale viser ikke, hvordan Router klarer sig mod andre gateways med hensyn til nøjagtighed eller driftssikkerhed.

Pris og tilgængelighed

De aktuelle lanceringsvilkår er:

• Tilgængelighed: Kun USA indtil videre. 2
• Routinggebyr: Gratis til og med 31. december 2026. 2
• Udgifter til modelkørsel: Ikke inkluderet. Kunden betaler stadig for de tokens, der bruges hos modeludbyderen. 2
• Lanceringskredit: Nye brugere får 26 dollar i modelkreditter. 2
• Pris i 2027: Ikke oplyst ved lanceringen. 2

Den gratis periode betyder altså ikke, at AI-forbruget er ubegrænset eller gratis. Den fjerner selve gebyret for Router resten af 2026, mens udgifterne til de underliggende modeller fortsat består.

Dataopbevaring og privatliv

Router opbevarer som udgangspunkt input, output og værktøjskald i ét år. Brugere kan fravælge denne standard. Ramp oplyser, at virksomheden fjerner personhenførbare oplysninger, før gemt indhold bruges til produktforbedringer. 2

Det er et centralt punkt for teams, der vurderer tjenesten. En gateway kan gøre det enklere at administrere flere modeludbydere, men den bliver samtidig endnu et led i applikationens datavej. Organisationer bør derfor gennemgå de relevante vilkår og vurdere, om standardindstillingen passer til deres krav til datastyring.

Hvad siger Ramp om besparelserne?

Ramp oplyser, at virksomheden har udviklet og drevet sin routinginfrastruktur internt i tre år og nu sender sin egen produktionstrafik gennem systemet. Virksomheden siger, at kunder, der bruger Router, i gennemsnit har reduceret deres udgifter til AI-inferens med 40 procent. 1

Tallet bør læses som et resultat, Ramp selv har rapporteret – ikke som en uafhængig sammenligning. Den faktiske besparelse vil afhænge af teamets arbejdsbelastning, modelvalg, trafikmønstre, kvalitetskrav og villighed til at bruge rabatterede eller mindre forudsigelige serviceniveauer. Router har især en klar fordel for organisationer med så meget og varieret modeltrafik, at løbende optimering kan betale sig.

Hvorfor lancerer Ramp Router?

Router giver Ramp mulighed for at bevæge sig direkte ind i laget for AI-inferens i stedet for kun at hjælpe virksomheder med at overvåge og administrere deres AI-udgifter. På længere sigt kan tjenesten skabe indtægter fra routinggebyrer efter den gratis periode, supplere Ramps produkter til overvågning af tokenforbrug og udgiftsstyring samt give virksomheden tættere relationer til modeludviklere og inferensudbydere.

Tjenesten kan også blive en udviklerdrevet indgang til Ramps bredere forretning inden for udgiftsstyring. Det er en strategisk mulighed, ikke en offentliggjort prognose fra virksomheden. Den praktiske prøve bliver derfor, om Router gør det enkelt nok for teams at skifte model og holde styr på inferensomkostningerne – og om Ramps fremtidige priser bevarer fordelen, når 2026 er slut.