Cloudflare AI Gateway ได้ระบบคุมงบเป็นเงินดอลลาร์ หยุดปัญหาบิล AI บานปลายแบบไม่รู้ตัว

การกำหนดขอบเขตของงบประมาณ

งบประมาณที่ตั้งไม่ได้เป็นระบบ One-Size-Fits-All เพราะ Cloudflare ออกแบบมาให้สามารถกำหนดขอบเขตได้อย่างละเอียด ไม่ว่าจะเป็นตาม:

• ผู้ให้บริการ (Provider) เช่น OpenAI หรือ Anthropic
• ชื่อโมเดล (Model) เช่น GPT-4 หรือ Claude
• ข้อมูล Metadata ที่กำหนดเอง (Custom Metadata) เช่น User ID, Team, หรือ Application Name

ตัวอย่างเช่น:

• ตั้งงบ $200 ต่อวันสำหรับผู้ใช้แต่ละคน
• ตั้งเพดานการใช้จ่ายรวมของ Gateway ทั้งหมดไว้ที่ $10,000 ต่อวัน
• หรือจำกัดการใช้โมเดลที่มีราคาแพง เช่น GPT-4 ไว้ที่ $50 ต่อวันต่อคน

นอกจากนี้ยังเลือกรูปแบบช่วงเวลาในการรีเซ็ตงบประมาณได้สองแบบ คือ Fixed (ยึดตามปฏิทิน) และ Sliding (Rolling Window)

การบังคับใช้สองระดับ

ระบบมีการบังคับใช้งบประมาณสองระดับที่เป็นอิสระต่อกัน:

1. Account-Level Limit: เป็นเพดานค่าใช้จ่ายรวมที่ใช้กับทุก Gateway ภายใต้บัญชี Cloudflare แบบ Unified Billing
2. Per-Gateway Rules: เป็นกฎยิบย่อยที่ตั้งค่าเฉพาะเจาะจงในแต่ละ Gateway

ไม่ว่าขีดจำกัดไหนจะถึงก่อน ระบบก็จะบล็อกคำขอที่ตามมา โดยค่าธรรมเนียมสำหรับผู้ใช้ Unified Billing ที่ Cloudflare ทำหน้าที่เติมเครดิตให้ จะอยู่ที่ 5% จากยอดเติมเงิน (เช่น เติม $100 จะถูกเรียกเก็บ $105)

Dynamic Routing ตัวช่วยสำรอง แทนการบล็อกทิ้งเฉยๆ

การตอบกลับด้วย HTTP 429 อาจเป็นเครื่องมือที่ทื่อเกินไปสำหรับบางสถานการณ์ การเปิดตัว Dynamic Routing (Beta) จึงเข้ามาช่วยให้ทางเลือกที่ชาญฉลาดกว่า โดยอนุญาตให้ใช้ Budget Limit Node ใน Flow ของการทำงาน ซึ่งเมื่อถึงงบประมาณที่ตั้งไว้ แทนที่จะดรอปคำขอทิ้ง ระบบจะเปลี่ยนเส้นทางไปยังโมเดลที่มีราคาถูกกว่าโดยอัตโนมัติ

ระบบนี้ยังรองรับการทำ A/B Traffic Split (แบ่งสัดส่วนปริมาณคำขอ), การดักจับเงื่อนไขตาม Metadata ของ Request (เช่น แผนผู้ใช้หรือทีม) โดยทั้งหมดนี้สามารถตั้งค่าได้โดยไม่ต้องแก้โค้ดแอปพลิเคชันแต่อย่างใด

งบประมาณระบุตัวตน (Identity-Driven Budgets) กำลังมา

การประกาศที่น่าสนใจที่สุดคือการเปิด Closed Beta สำหรับงบประมาณที่ถูกขับเคลื่อนด้วยตัวตน (Identity-Driven Budgets) ซึ่งทำงานร่วมกับ Cloudflare Access และ Identity Provider (IdP) ภายในองค์กร เช่น Okta หรือ Azure AD

นี่คือการแก้ปัญหาสุดคลาสสิกของการใช้ Shared API Keys ซึ่งตามที่บล็อกของ Cloudflare บอกไว้ตรงๆ ว่า “ไม่มีใครรู้ว่าใครใช้ไปเท่าไร” การระบุตัวตนและบังคับใช้ตามนโยบายในระดับบุคคล ช่วยให้ CIO และทีมการเงินมีมุมมองต้นทุนต่อหน่วย (Unit Economics) สำหรับการใช้จ่ายด้าน AI ได้แบบเดียวกับที่เคยมีให้กับค่าใช้จ่ายทางธุรกิจอื่นๆ ทุกประเภท

เบื้องหลังการปล่อยฟีเจอร์ ตอบโจทย์ Pain Point ภาคธุรกิจ

Cloudflare ไม่ได้คิดฟีเจอร์นี้ขึ้นมาลอยๆ แต่เป็นการแก้ไขปัญหาโดยตรงจากภาคสนามที่พบในลูกค้าของตัวเอง :

• Runaway Costs: หลายบริษัทมีวัฒนธรรม “ทำไปก่อน ค่อยว่ากันเรื่องบิล” เมื่อผลักดันให้ทีมใช้ AI มากขึ้น จนนำไปสู่ความกังวลครั้งใหญ่ของ CFO
• Attribution Black Holes: กุญแจ API ที่ถูกใช้ร่วมกันทำให้ไม่สามารถตามรอยได้เลยว่าใครคือคนใช้, ทีมไหนใช้, หรือแม้กระทั่ง CI Job ไหนที่รัน
• Default to Frontier Models: หากไม่มีระบบงบประมาณและควบคุมเส้นทาง ทีมงานมักจะส่งทุกงานไปยังโมเดลที่แพงที่สุดโดยไม่จำเป็น ทั้งที่งานบางอย่างใช้โมเดลที่ถูกลงและเหมาะสมกว่าก็เพียงพอ

การผูกมัดงบประมาณเข้ากับเงินจริงและคนจริง คือการเดิมพันของ Cloudflare ว่าการจัดการต้นทุน AI จะกลายเป็นกิจวัตรประจำของธุรกิจ เหมือนกับการติดตามค่าใช้จ่ายโครงสร้างพื้นฐาน Cloud อื่นๆ ทั่วไป