นี่คือเหตุผลที่ตัวเลขโทเคนรวมอาจทำให้มองไม่เห็นการขาดแคลน inference ระดับพรีเมียม ตลาดอาจผลิตโทเคนได้มากขึ้นโดยรวม แต่กลับขาดแคลนฮาร์ดแวร์ที่จำเป็นต่อการสร้างผลลัพธ์น่าเชื่อถือสำหรับงานซับซ้อน การลงทุนเพื่อเพิ่มกำลังผลิตโทเคนคุณภาพสูงและการผสานทรัพยากรประมวลผลจากชิปหลายสถาปัตยกรรมจึงได้รับความสนใจมากขึ้น
ปริมาณการเรียกใช้โทเคน AI เฉลี่ยต่อวันของจีนเกิน 140 ล้านล้านโทเคนในเดือนมีนาคม 2026 เทียบกับราว 1 แสนล้านโทเคนในช่วงต้นปี 2024 เพิ่มขึ้นมากกว่า 1,000 เท่า ตามตัวเลขที่มีการรายงานโดยอ้างข้อมูลจากสำนักงานบริหารข้อมูลแห่งชาติจีน
การเพิ่มขึ้นนี้สะท้อนว่า AI กำลังเปลี่ยนจากการทดลองหรือการป้อนคำสั่งเป็นครั้ง ๆ ไปสู่ผู้ช่วย ซอฟต์แวร์สำหรับองค์กร และเอเจนต์ที่ทำงานจริงในกระบวนการต่าง ๆ เมื่อเป็นเช่นนั้น inference จึงกลายเป็นแรงขับเคลื่อนหลักของการใช้ทรัพยากรคอมพิวต์ ไม่ใช่เพียงขั้นตอนรองจากการฝึกโมเดลอีกต่อไป
การเพิ่มโปรเซสเซอร์ประสิทธิภาพสูงทำได้ยาก เมื่อการควบคุมการส่งออกจำกัดการเข้าถึงผลิตภัณฑ์ Nvidia รุ่นก้าวหน้า อุปทานมีจำกัด และการเปลี่ยนระบบฮาร์ดแวร์มีต้นทุนสูง นอกจากนี้ โมเดล เครื่องมือ และกระบวนการทำงานเดิมของนักพัฒนา AI จีนยังผูกอยู่กับแพลตฟอร์มซอฟต์แวร์ที่ใช้งานมานาน ทำให้การย้ายระบบมีต้นทุนทั้งด้านวิศวกรรมและเวลา
ซอฟต์แวร์อาจสร้างซิลิคอนเพิ่มไม่ได้ แต่ช่วยให้บริษัทดึงงานที่มีประโยชน์ออกจากโปรเซสเซอร์แต่ละตัวได้มากขึ้น แนวทางสำคัญ ได้แก่
มาตรการเหล่านี้เป็นสะพานเชื่อมระหว่างความต้องการที่เพิ่มขึ้นกับอุปทานที่จำกัด แต่ยังไม่ใช่สิ่งทดแทนฮาร์ดแวร์ระดับแนวหน้าได้ทั้งหมด โดยเฉพาะงานที่ให้ความสำคัญกับคุณภาพและยังต้องพึ่งพาโปรเซสเซอร์จำนวนไม่มาก
การแก้ปัญหายิ่งยากขึ้นเมื่อราคาบริการ inference ถูกกดดันจากการแข่งขัน นักวิเคราะห์ Jefferies ประเมินว่า โมเดลจีนมีต้นทุนเฉลี่ยต่อโทเคนอยู่ที่ประมาณหนึ่งในหกของบริการจากบริษัทชั้นนำในสหรัฐฯ
ราคาที่ต่ำช่วยเร่งการใช้งาน แต่ก็จำกัดรายได้ที่จะนำไปจัดหากำลังประมวลผลระดับพรีเมียมที่มีราคาแพง ขณะเดียวกัน ผลิตภัณฑ์อย่างผู้ช่วยเขียนโค้ดและเอเจนต์ AI ใช้ทรัพยากรมากกว่าการสนทนาทั่วไป บริษัท AI จีนจึงเผชิญโจทย์ที่ตึงตัวพร้อมกันหลายด้าน ได้แก่ ความต้องการที่ขยายตัวอย่างรวดเร็ว ลูกค้าที่คาดหวังบริการราคาถูก และกำลังประมวลผลระดับสูงที่ไม่สามารถเพิ่มหรือตั้งทดแทนได้ง่าย
แรงกดดันดังกล่าวเริ่มสะท้อนในความพร้อมให้บริการแล้ว รายงานตลาดระบุว่า ผู้พัฒนาโมเดลจีนรายใหญ่และผู้ให้บริการคลาวด์บางรายต้องลดความเร็วบริการ จำกัดสิทธิ์การเข้าถึง หรือปรับขึ้นราคา เมื่อความต้องการสูงกว่าทรัพยากรคอมพิวต์ที่มี โดยเฉพาะในกรณีผู้ช่วยเขียนโค้ดที่ใช้ทรัพยากรมาก
ความท้าทายด้านโครงสร้างพื้นฐาน AI ของจีนจึงไม่ใช่เพียงการขาดแคลนชิป แต่เป็นการขาดแคลน “ชุดความพร้อม” ที่ประกอบด้วยโปรเซสเซอร์ประสิทธิภาพสูง ซอฟต์แวร์ที่เข้ากันได้ และกำลังประมวลผลสำหรับ inference มูลค่าสูงในต้นทุนที่คุ้มค่า
ฮาร์ดแวร์ในประเทศสามารถรับภาระงานได้มากขึ้นเมื่อซอฟต์แวร์พัฒนาและการออกแบบระบบถูกปรับให้สอดคล้องกับจุดแข็งของชิปแต่ละประเภท แต่หลักฐานในปัจจุบันชี้ว่า จีนกำลังอยู่ในช่วงเปลี่ยนผ่าน: ต้องเพิ่มประสิทธิภาพ inference ทุกชั้น ใช้ชิปในประเทศกับงานที่เหมาะสม และเก็บ Nvidia GPU ที่มีจำกัดไว้สำหรับงานยากที่สุด
กลยุทธ์นี้ช่วยยืดอายุทรัพยากรที่มีอยู่ได้ แต่การเติบโตอย่างต่อเนื่องของ AI แบบเอเจนต์จะขึ้นอยู่กับว่า จีนสามารถเพิ่มทั้งอุปทานฮาร์ดแวร์และระบบนิเวศซอฟต์แวร์ที่ทำให้ชิปหลากหลายประเภททำงานร่วมกันได้จริงหรือไม่