Inferens vs. Latihan: Angka-Angka

Laporan Gartner pada Ogos 2026 memperincikan ramalan perbelanjaan untuk infrastruktur awan yang dioptimumkan AI seperti berikut:

• 2026: Beban kerja inferens diramal mencecah AS$23.3 bilion, berbanding AS$19 bilion untuk latihan — kali pertama inferens mengatasi latihan dalam IaaS yang dioptimumkan AI .
• 2027: Perbelanjaan inferens diunjurkan meraih 59% daripada perbelanjaan IaaS yang dioptimumkan AI, meningkat daripada 55% pada 2026 .

Sebagai perbandingan, pada tahun-tahun awal ledakan AI generatif, latihan mendominasi perbelanjaan infrastruktur. Kini, dinamik itu telah berbalik sepenuhnya .

Pertumbuhan ini tidak terhad kepada inferens. Jumlah perbelanjaan IaaS yang dioptimumkan AI diramal mencecah AS$42.3 bilion pada 2026, peningkatan 96.4% daripada AS$21.5 bilion pada 2025. Pada 2027, pasaran dijangka berkembang lagi kepada AS$66.1 bilion, peningkatan sebanyak 56.5% .

Keseluruhan perbelanjaan IaaS global (termasuk beban kerja bukan AI) diramal mencecah AS$287.3 bilion pada 2026 (naik 29.3% daripada AS$222.2 bilion pada 2025) dan AS$359.9 bilion pada 2027 .

Mengapa Peralihan Ini Berlaku: AI Agentik dan Model Ditala Halus

Menurut Gartner, dua kuasa mendorong perbelanjaan inferens melepasi latihan:

• AI Agentik — sistem autonomi yang melaksanakan tugasan pelbagai langkah — meningkatkan intensiti pengkomputeran secara mendadak, menjadikan inferens model penggunaan yang dominan .
• Model ditala halus dan khusus domain (DSM) disepadukan ke dalam sistem berhadapan pelanggan dan operasi, memerlukan pelaksanaan masa nyata yang berterusan dan bukannya kitaran latihan berkala .

Penganalisis Gartner, Hardeep Singh, menyatakan: "Peralihan ini mempercepatkan corak penggunaan awan dan mewujudkan permintaan berterusan untuk infrastruktur yang dioptimumkan AI" .

Corak ini disahkan oleh penganalisis lain. Deloitte's Tech Trends 2026 menganggarkan inferens sudah merangkumi dua pertiga daripada semua pengkomputeran AI pada 2026 . Ramalan bebas The Futurum Group menunjukkan inferens terurus mencecah AS$23.1 bilion pada 2025 (58.6% daripada perbelanjaan infrastruktur), dengan inferens mengatasi latihan pada 2025 .

Konteks Perbelanjaan AI yang Lebih Luas

Angka perbelanjaan Gartner berada dalam gambaran yang lebih besar:

• Perbelanjaan AI global merentas semua kategori diramal berjumlah AS$2.59 trilion pada 2026, peningkatan 47% tahun ke tahun .
• Hyperscaler telah mengumumkan lebih AS$500 bilion dalam perbelanjaan modal terkumpul untuk infrastruktur AI pada 2026 .
• Perbelanjaan yang melonjak ini mencerminkan perusahaan beralih daripada projek rintis kepada pengeluaran, dengan kos inferens menjadi item baris yang dominan .

Walaupun kos menurun dengan cepat — Deloitte menyatakan harga API awan inferens telah jatuh hampir 80% tahun ke tahun — perbelanjaan keseluruhan meletup ke atas kerana penggunaan berkembang lebih cepat daripada kos unit menurun .

Amaran Gartner: Risiko Belanjawan Melebihi

Gartner juga mengeluarkan penemuan amaran: sekurang-kurangnya 50% inisiatif GenAI akan melebihi bajet yang dirancang menjelang 2028 disebabkan pilihan seni bina yang lemah dan kekurangan kepakaran operasi .

Inferens adalah punca utama. Tidak seperti latihan — perbelanjaan awal yang besar — kos inferens berulang setiap kali pengguna atau aplikasi memanggil model. Gartner menjangka inferens menyumbang sekurang-kurangnya 70% daripada kos seumur hidup model .

Implikasi Strategik untuk CIO

Gartner mengesyorkan tindakan strategik berikut:

• Utamakan pelaburan infrastruktur AI di sekitar beban kerja inferens, kerana ini adalah tempat majoriti perbelanjaan dan pertumbuhan tertumpu .
• Elakkan seni bina satu saiz untuk semua — pendekatan terbaik bergantung pada kes penggunaan, lokasi data, keperluan kawal selia, dan struktur kos .
• Guna pakai model awan hibrid untuk penggunaan AI, mengimbangi fleksibiliti, kawalan kos, dan kedaulatan data. CIO Playbook 2026 Gartner mendapati hampir dua pertiga (62%) organisasi kini lebih suka hibrid sebagai model penggunaan AI utama mereka .
• Rancang untuk pertumbuhan kos yang berterusan dan bukannya menganggap harga unit yang menurun akan mengurangkan jumlah bil .

Maksudnya untuk Industri

"Pembalikan Inferens" bukan sekadar statistik perbelanjaan; ia mewakili penyusunan semula asas keutamaan infrastruktur AI. Era membina model yang semakin besar sebagai pemacu kos utama sedang memberi laluan kepada era menjalankan model tersebut pada skala dalam pengeluaran. Bagi penyedia awan, ini bermaksud permintaan berterusan untuk kapasiti GPU dan ASIC. Bagi perusahaan, ini bermaksud perancangan infrastruktur kini mesti memberi tumpuan kepada kos operasi AI, bukan hanya pelaburan awal dalam latihan model.

Seperti yang dinyatakan oleh laporan Gartner, peralihan daripada pembangunan kepada penggunaan telah tiba, dan item baris belanjawan tidak akan kelihatan sama lagi.

Inferens vs. Latihan: Angka-Angka

Laporan Gartner pada Ogos 2026 memperincikan ramalan perbelanjaan untuk infrastruktur awan yang dioptimumkan AI seperti berikut:

• 2026: Beban kerja inferens diramal mencecah AS$23.3 bilion, berbanding AS$19 bilion untuk latihan — kali pertama inferens mengatasi latihan dalam IaaS yang dioptimumkan AI .
• 2027: Perbelanjaan inferens diunjurkan meraih 59% daripada perbelanjaan IaaS yang dioptimumkan AI, meningkat daripada 55% pada 2026 .

Sebagai perbandingan, pada tahun-tahun awal ledakan AI generatif, latihan mendominasi perbelanjaan infrastruktur. Kini, dinamik itu telah berbalik sepenuhnya .

Pertumbuhan ini tidak terhad kepada inferens. Jumlah perbelanjaan IaaS yang dioptimumkan AI diramal mencecah AS$42.3 bilion pada 2026, peningkatan 96.4% daripada AS$21.5 bilion pada 2025. Pada 2027, pasaran dijangka berkembang lagi kepada AS$66.1 bilion, peningkatan sebanyak 56.5% .

Keseluruhan perbelanjaan IaaS global (termasuk beban kerja bukan AI) diramal mencecah AS$287.3 bilion pada 2026 (naik 29.3% daripada AS$222.2 bilion pada 2025) dan AS$359.9 bilion pada 2027 .

Mengapa Peralihan Ini Berlaku: AI Agentik dan Model Ditala Halus

Menurut Gartner, dua kuasa mendorong perbelanjaan inferens melepasi latihan:

• AI Agentik — sistem autonomi yang melaksanakan tugasan pelbagai langkah — meningkatkan intensiti pengkomputeran secara mendadak, menjadikan inferens model penggunaan yang dominan .
• Model ditala halus dan khusus domain (DSM) disepadukan ke dalam sistem berhadapan pelanggan dan operasi, memerlukan pelaksanaan masa nyata yang berterusan dan bukannya kitaran latihan berkala .

Penganalisis Gartner, Hardeep Singh, menyatakan: "Peralihan ini mempercepatkan corak penggunaan awan dan mewujudkan permintaan berterusan untuk infrastruktur yang dioptimumkan AI" .

Corak ini disahkan oleh penganalisis lain. Deloitte's Tech Trends 2026 menganggarkan inferens sudah merangkumi dua pertiga daripada semua pengkomputeran AI pada 2026 . Ramalan bebas The Futurum Group menunjukkan inferens terurus mencecah AS$23.1 bilion pada 2025 (58.6% daripada perbelanjaan infrastruktur), dengan inferens mengatasi latihan pada 2025 .

Konteks Perbelanjaan AI yang Lebih Luas

Angka perbelanjaan Gartner berada dalam gambaran yang lebih besar:

• Perbelanjaan AI global merentas semua kategori diramal berjumlah AS$2.59 trilion pada 2026, peningkatan 47% tahun ke tahun .
• Hyperscaler telah mengumumkan lebih AS$500 bilion dalam perbelanjaan modal terkumpul untuk infrastruktur AI pada 2026 .
• Perbelanjaan yang melonjak ini mencerminkan perusahaan beralih daripada projek rintis kepada pengeluaran, dengan kos inferens menjadi item baris yang dominan .

Walaupun kos menurun dengan cepat — Deloitte menyatakan harga API awan inferens telah jatuh hampir 80% tahun ke tahun — perbelanjaan keseluruhan meletup ke atas kerana penggunaan berkembang lebih cepat daripada kos unit menurun .

Amaran Gartner: Risiko Belanjawan Melebihi

Gartner juga mengeluarkan penemuan amaran: sekurang-kurangnya 50% inisiatif GenAI akan melebihi bajet yang dirancang menjelang 2028 disebabkan pilihan seni bina yang lemah dan kekurangan kepakaran operasi .

Inferens adalah punca utama. Tidak seperti latihan — perbelanjaan awal yang besar — kos inferens berulang setiap kali pengguna atau aplikasi memanggil model. Gartner menjangka inferens menyumbang sekurang-kurangnya 70% daripada kos seumur hidup model .

Implikasi Strategik untuk CIO

Gartner mengesyorkan tindakan strategik berikut:

• Utamakan pelaburan infrastruktur AI di sekitar beban kerja inferens, kerana ini adalah tempat majoriti perbelanjaan dan pertumbuhan tertumpu .
• Elakkan seni bina satu saiz untuk semua — pendekatan terbaik bergantung pada kes penggunaan, lokasi data, keperluan kawal selia, dan struktur kos .
• Guna pakai model awan hibrid untuk penggunaan AI, mengimbangi fleksibiliti, kawalan kos, dan kedaulatan data. CIO Playbook 2026 Gartner mendapati hampir dua pertiga (62%) organisasi kini lebih suka hibrid sebagai model penggunaan AI utama mereka .
• Rancang untuk pertumbuhan kos yang berterusan dan bukannya menganggap harga unit yang menurun akan mengurangkan jumlah bil .

Maksudnya untuk Industri

"Pembalikan Inferens" bukan sekadar statistik perbelanjaan; ia mewakili penyusunan semula asas keutamaan infrastruktur AI. Era membina model yang semakin besar sebagai pemacu kos utama sedang memberi laluan kepada era menjalankan model tersebut pada skala dalam pengeluaran. Bagi penyedia awan, ini bermaksud permintaan berterusan untuk kapasiti GPU dan ASIC. Bagi perusahaan, ini bermaksud perancangan infrastruktur kini mesti memberi tumpuan kepada kos operasi AI, bukan hanya pelaburan awal dalam latihan model.

Seperti yang dinyatakan oleh laporan Gartner, peralihan daripada pembangunan kepada penggunaan telah tiba, dan item baris belanjawan tidak akan kelihatan sama lagi.