Ramp Router dilancar di AS dengan routing AI percuma hingga 2026

Ramp, yang sebelum ini dikenali sebagai platform untuk menjejak dan mengurus perbelanjaan perniagaan, kini cuba memasuki lapisan yang menggerakkan salah satu kategori kos teknologi paling pantas berkembang: inferens AI.

Melalui Ramp Router, pembangun boleh menggunakan satu API untuk mengakses, membandingkan dan menukar model AI daripada pelbagai penyedia. Sistem itu kemudian menggunakan peraturan routing untuk mengimbangi kualiti, latensi, kebolehpercayaan dan kos. 12

Tawarannya kelihatan menarik, tetapi hadnya juga jelas: Router buat masa ini hanya tersedia di Amerika Syarikat, caj routing dikecualikan hingga akhir 2026, dan pelanggan masih perlu membayar caj inferens kepada penyedia model. Pengguna baharu pula menerima kredit model sebanyak US$26, manakala harga Router bagi 2027 masih belum didedahkan. 2

Apa yang dilakukan oleh Ramp Router?

Router berada di antara aplikasi dan penyedia AI yang memproses permintaan. Daripada mengikat aplikasi kepada satu model tertentu, pembangun boleh menggunakan satu titik akses untuk mencuba, menilai dan mengalihkan trafik antara beberapa model apabila keperluan berubah. 1

Ketika dilancarkan, Router menyediakan akses kepada model daripada OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI dan Z.ai. Konsep asasnya mirip OpenRouter: perkhidmatan ini menyembunyikan kerumitan integrasi dengan setiap penyedia, supaya pasukan boleh membandingkan model dan menukarnya tanpa membina semula aplikasi. Namun, pilihan model awal Ramp lebih kecil berbanding OpenRouter. 25

Bagaimana Router memilih model?

Ramp menerangkan beberapa kaedah yang boleh digunakan untuk membuat atau menguji keputusan routing.

Routing flex-tier

Sesetengah penyedia menawarkan tier diskaun dengan latasi yang kurang konsisten. Router boleh menghantar permintaan ke tier tersebut apabila prestasi yang diperhatikan masih setanding dengan tier standard. Jika latasi tidak lagi setanding, permintaan akan kekal pada perkhidmatan standard. 1

Routing berdasarkan penanda aras

Pasukan boleh memilih sehingga tiga penanda aras dan menetapkan wajaran untuk setiap satunya. Router kemudiannya menyusun kedudukan model yang tersedia berdasarkan keutamaan tersebut sebelum memilih model dengan skor tertinggi untuk keperluan pasukan. 1

Ujian shadow model

Router boleh menyalin sebahagian permintaan daripada trafik produksi kepada model calon, sementara model semasa terus melayan pengguna. Pasukan kemudian boleh membandingkan kualiti, latasi dan kos sebelum mengalihkan trafik sebenar kepada model baharu. 1

Eskalasi berdasarkan tahap kesukaran untuk ejen AI

Nvidia Switchyard direka untuk tugasan ejen AI yang mempunyai beberapa peringkat. Peringkat yang lebih mudah boleh kekal pada model yang murah, manakala peringkat yang lebih sukar dinaikkan kepada model yang lebih berkeupayaan dan berpotensi lebih mahal. 1

Gabungan ciri ini menjadikan Router lebih daripada sekadar pemilih model statik. Matlamatnya adalah untuk membantu pasukan menguji model secara berterusan dan melaraskan trafik apabila prestasi, harga serta kerumitan tugasan berubah.

Apakah yang dipaparkan pada papan pemuka?

Alat pemantauan Router memaparkan maklumat bagi setiap permintaan, termasuk model yang dipilih, penyedia, tier perkhidmatan, penggunaan token, latasi, kos dan percubaan menggunakan laluan sandaran. Papan pemuka itu turut menyediakan gambaran perbelanjaan secara agregat. 1

Perincian ini penting kerana pilihan model hanyalah satu bahagian daripada bil AI. Jumlah token, percubaan semula, laluan sandaran, tier perkhidmatan dan campuran tugasan mudah dengan tugasan kompleks semuanya boleh mempengaruhi jumlah kos inferens.

Paparan berpusat seperti ini boleh memudahkan pasukan meneliti perbelanjaan. Namun, bahan yang tersedia belum menunjukkan bagaimana ketepatan atau kebolehpercayaan Router berbanding gerbang AI lain.

Harga dan ketersediaan

Syarat pelancaran Router adalah seperti berikut:

• Ketersediaan: Amerika Syarikat sahaja buat masa ini. 2
• Caj routing: Percuma hingga 31 Disember 2026. 2
• Kos inferens: Tidak termasuk; pelanggan masih membayar token model yang digunakan. 2
• Kredit pelancaran: Pengguna baharu menerima kredit model sebanyak US$26. 2
• Harga 2027: Belum diumumkan ketika pelancaran. 2

Maka, tempoh percuma itu bukan bermakna penggunaan AI tanpa had adalah percuma. Ramp hanya mengetepikan caj perkhidmatan Router hingga akhir 2026, sementara kos daripada penyedia model masih dikenakan.

Retensi data dan pertimbangan privasi

Secara lalai, Router menyimpan input, output dan panggilan alat selama setahun, dengan pilihan untuk tidak menyertai dasar tersebut. Ramp berkata ia membuang maklumat pengenalan diri sebelum kandungan yang disimpan digunakan untuk penambahbaikan produk. 2

Dasar ini perlu diberi perhatian oleh pasukan yang menilai perkhidmatan tersebut. Menghantar permintaan melalui gerbang boleh memudahkan pengurusan penyedia model, tetapi ia juga menambah satu lagi lapisan kepada laluan data aplikasi. Organisasi perlu menyemak terma berkaitan dan menentukan sama ada tempoh penyimpanan lalai itu selari dengan keperluan tadbir urus data mereka.

Sejauh mana dakwaan penjimatan 40%?

Ramp berkata ia telah membina dan mengendalikan infrastruktur routingnya sendiri selama tiga tahun, dan kini menghalakan trafik AI produksinya melalui sistem tersebut. Syarikat itu mendakwa pelanggan Router telah mengurangkan kos inferens sebanyak 40% secara purata. 1

Angka tersebut wajar dibaca sebagai keputusan yang dilaporkan oleh syarikat, bukannya penanda aras bebas. Penjimatan sebenar bergantung pada jenis beban kerja, campuran model, corak trafik, keperluan kualiti dan kesediaan pasukan menggunakan tier perkhidmatan yang lebih murah tetapi kurang boleh dijangka.

Nilai Router berkemungkinan lebih besar untuk organisasi yang mempunyai jumlah trafik model yang tinggi dan pelbagai, sehingga pengoptimuman berterusan benar-benar memberi kesan kepada bil mereka.

Mengapa Router penting untuk Ramp?

Router memberi Ramp laluan untuk terlibat secara langsung dalam lapisan inferens AI, bukan sekadar membantu syarikat memantau atau mengurus perbelanjaan yang terhasil.

Secara strategik, perkhidmatan itu berpotensi menjana hasil melalui caj routing selepas tempoh percuma, melengkapi produk Ramp untuk memantau penggunaan token dan mengurus perbelanjaan token, serta mengeratkan hubungan dengan makmal AI dan penyedia inferens. Ia juga boleh menjadi titik kemasukan yang dipacu pembangun kepada perniagaan pengurusan perbelanjaan Ramp yang lebih luas.

Itu ialah kemungkinan strategik, bukannya unjuran rasmi syarikat. Ujian sebenar buat masa ini lebih praktikal: adakah Router cukup mudah untuk membantu pasukan menukar model dan mengawal kos inferens—dan adakah struktur harganya selepas 2026 masih mengekalkan kelebihan tersebut?