Angka-angka ini, yang dilaporkan oleh The Information dari dokumen yang dibagikan kepada pemegang saham, menggarisbawahi tantangan utama yang dihadapi industri AI: permintaan yang eksplosif belum berubah menjadi keuntungan yang berkelanjutan . Taruhannya tinggi, karena OpenAI dan Anthropic dilaporkan telah mengajukan aplikasi IPO rahasia pada pertengahan 2026, memaksa mereka untuk menunjukkan jalur kredibel menuju profitabilitas .

Solusi Software: Multi-Model Routing

Optimasi software spesifik yang dikembangkan OpenAI untuk mengurangi biaya inferensi lebih dari setengahnya adalah multi-model routing. Teknik ini secara otomatis mengarahkan pertanyaan sederhana ke model yang lebih kecil dan lebih murah, sementara model paling kuat (dan mahal) hanya disediakan untuk permintaan kompleks .

Panduan industri menggambarkan pendekatan hybrid ini memberikan pengurangan biaya 30-75% di layer model dengan menggunakan kuantisasi, distilasi, dan right-sizing, dikombinasikan dengan optimasi runtime seperti batching, speculative decoding, dan manajemen cache KV yang dapat menghasilkan peningkatan throughput 40-80% . OpenAI juga telah mengoperasionalkan ini dengan menawarkan pemotongan harga 50% untuk inferensi yang ditunda melalui Batch API—jika pelanggan setuju menunggu hingga 24 jam untuk hasilnya .

Di luar routing, para insinyur OpenAI mengatakan kepada The Information bahwa teknik-teknik ini sangat kuat sehingga pada satu titik mereka melayani ChatGPT untuk pengunjung yang tidak login hanya dengan beberapa ratus GPU Nvidia .

Inisiatif Hardware: Chip Inferensi Kustom 'Jalapeño'

Pada 24 Juni 2026, OpenAI dan Broadcom meluncurkan Jalapeño, chip inferensi kustom pertama buatan OpenAI . Detail utamanya:

• Jenis: Sirkuit terpadu khusus aplikasi (ASIC)—bukan GPU, dibuat khusus hanya untuk inferensi LLM
• Pengurangan biaya: Pengujian awal menunjukkan ~50% biaya per inferensi lebih rendah dibandingkan perangkat keras inferensi berbasis GPU NVIDIA saat ini
• Performa: Memberikan kinerja per watt yang "secara substansial lebih baik" dari yang terdepan saat ini
• Pengembangan: Dirancang dari awal hingga produksi hanya dalam sembilan bulan, dipercepat oleh model AI OpenAI sendiri yang membantu desain chip
• Penerapan: Penempatan skala gigawatt ditargetkan pada akhir tahun 2026
• Komitmen jangka panjang: Bagian dari komitmen infrastruktur 10 GW hingga 2029
• Penghematan tahunan: Pengurangan biaya 50% dapat berarti $500M–$1B penghematan tahunan untuk OpenAI pada tahun 2028

OpenAI menggambarkan chip tersebut sebagai "blok bangunan pertama dalam peta jalan silikon kustom multi-tahun" untuk membangun tumpukan komputasinya sendiri dan mengatasi kekuatan penetapan harga NVIDIA . Chip ini terintegrasi secara vertikal—OpenAI akan menggunakannya secara eksklusif untuk beban kerja inferensinya sendiri, tidak dijual ke pelanggan eksternal .

Tekanan Finansial Secara Detail

Angka-angka kunci dari dokumen pemegang saham Q1 2026:

• Pendapatan: $5,7 miliar (kurang lebih tiga kali lipat tahun-ke-tahun)
• Pembakaran uang tunai: $3,7 miliar (juga tiga kali lipat tahun-ke-tahun)
• Kerugian operasional: $9,3 miliar di Q1 saja
• Kerugian bersih: $21,3 miliar (termasuk kompensasi berbasis saham $2,3 miliar dan biaya akuntansi non-tunai $12,4 miliar)
• Biaya R&D: $8,6 miliar
• Margin kotor: Meningkat sedikit menjadi 39%
• Cadangan kas: $73 miliar dalam bentuk kas dan surat berharga, memberikan landasan pacu meskipun mengalami kerugian besar

Margin operasional perusahaan kira-kira -122%, artinya mereka kehilangan sekitar $1,22 untuk setiap dolar yang diperoleh . Secara keseluruhan pada tahun 2025, OpenAI membukukan sekitar $38,5 miliar kerugian dari belanja $34 miliar .

Perlombaan Industri yang Lebih Luas: Biaya Inferensi Jatuh Bebas

Langkah pemotongan biaya OpenAI menjadi bagian dari perang harga yang lebih luas yang membentuk ulang ekonomi AI:

• Anthropic telah mempercepat pertumbuhan pelanggan dan melampaui OpenAI dalam adopsi bisnis AS (34,4% vs 32,3%) per Mei 2026 .
• Model open-source menekan harga: empat model open-weights China kini menyamai tolok ukur coding terdepan dengan sepertiga biaya dari alternatif proprietary . DeepSeek V4 dilaporkan lima puluh kali lebih murah untuk dijalankan daripada Claude Opus 4.6 .
• Google Gemini 3.1 Flash berharga $0,10 per juta token masukan—pengurangan harga 99,7% dalam tiga tahun .
• Anthropic Claude Sonnet 4.6 mengungguli GPT-4 di setiap tolok ukur lama dengan harga $3 per juta token input .
• Biaya inferensi telah turun sekitar 50 kali lipat dalam tiga tahun, dengan pasar diproyeksikan tumbuh dari $103 miliar (2025) menjadi $255 miliar (2030) .
• OpenAI mempertimbangkan pemotongan harga per token yang signifikan untuk pengembang dan pelanggan perusahaan guna mengantisipasi langkah serupa oleh Anthropic .
• Pelanggan semakin banyak menggunakan alat routing multi-model untuk mencampur dan mencocokkan model yang lebih murah dan menghindari harga premium dari satu vendor .

Apa Artinya bagi Industri AI

Kombinasi optimasi perangkat lunak dan perangkat keras memposisikan OpenAI untuk berpotensi mengurangi separuh biaya inferensinya bahkan saat mereka berkembang. Tetapi perusahaan tidak bertindak dalam ruang hampa. Keruntuhan harga inferensi yang lebih luas—didorong oleh pesaing, alternatif sumber terbuka, dan perangkat keras khusus—berarti kekuatan penetapan harga sedang terkikis di seluruh industri .

Bagi perusahaan, ini adalah kabar baik: biaya efektif untuk menjalankan beban kerja AI turun lebih cepat daripada pertumbuhan kemampuannya. Batch API OpenAI sudah menawarkan diskon 50% untuk beban kerja yang ditunda, sementara routing multi-model dapat memotong biaya 40-60% tanpa mengorbankan kualitas . Pertanyaannya adalah, apakah ada penyedia tunggal yang dapat mempertahankan harga premium di pasar di mana model sumber terbuka China menawarkan kemampuan tingkat terdepan dengan biaya yang jauh lebih murah?

Angka-angka ini, yang dilaporkan oleh The Information dari dokumen yang dibagikan kepada pemegang saham, menggarisbawahi tantangan utama yang dihadapi industri AI: permintaan yang eksplosif belum berubah menjadi keuntungan yang berkelanjutan . Taruhannya tinggi, karena OpenAI dan Anthropic dilaporkan telah mengajukan aplikasi IPO rahasia pada pertengahan 2026, memaksa mereka untuk menunjukkan jalur kredibel menuju profitabilitas .

Solusi Software: Multi-Model Routing

Optimasi software spesifik yang dikembangkan OpenAI untuk mengurangi biaya inferensi lebih dari setengahnya adalah multi-model routing. Teknik ini secara otomatis mengarahkan pertanyaan sederhana ke model yang lebih kecil dan lebih murah, sementara model paling kuat (dan mahal) hanya disediakan untuk permintaan kompleks .

Panduan industri menggambarkan pendekatan hybrid ini memberikan pengurangan biaya 30-75% di layer model dengan menggunakan kuantisasi, distilasi, dan right-sizing, dikombinasikan dengan optimasi runtime seperti batching, speculative decoding, dan manajemen cache KV yang dapat menghasilkan peningkatan throughput 40-80% . OpenAI juga telah mengoperasionalkan ini dengan menawarkan pemotongan harga 50% untuk inferensi yang ditunda melalui Batch API—jika pelanggan setuju menunggu hingga 24 jam untuk hasilnya .

Di luar routing, para insinyur OpenAI mengatakan kepada The Information bahwa teknik-teknik ini sangat kuat sehingga pada satu titik mereka melayani ChatGPT untuk pengunjung yang tidak login hanya dengan beberapa ratus GPU Nvidia .

Inisiatif Hardware: Chip Inferensi Kustom 'Jalapeño'

Pada 24 Juni 2026, OpenAI dan Broadcom meluncurkan Jalapeño, chip inferensi kustom pertama buatan OpenAI . Detail utamanya:

• Jenis: Sirkuit terpadu khusus aplikasi (ASIC)—bukan GPU, dibuat khusus hanya untuk inferensi LLM
• Pengurangan biaya: Pengujian awal menunjukkan ~50% biaya per inferensi lebih rendah dibandingkan perangkat keras inferensi berbasis GPU NVIDIA saat ini
• Performa: Memberikan kinerja per watt yang "secara substansial lebih baik" dari yang terdepan saat ini
• Pengembangan: Dirancang dari awal hingga produksi hanya dalam sembilan bulan, dipercepat oleh model AI OpenAI sendiri yang membantu desain chip
• Penerapan: Penempatan skala gigawatt ditargetkan pada akhir tahun 2026
• Komitmen jangka panjang: Bagian dari komitmen infrastruktur 10 GW hingga 2029
• Penghematan tahunan: Pengurangan biaya 50% dapat berarti $500M–$1B penghematan tahunan untuk OpenAI pada tahun 2028

OpenAI menggambarkan chip tersebut sebagai "blok bangunan pertama dalam peta jalan silikon kustom multi-tahun" untuk membangun tumpukan komputasinya sendiri dan mengatasi kekuatan penetapan harga NVIDIA . Chip ini terintegrasi secara vertikal—OpenAI akan menggunakannya secara eksklusif untuk beban kerja inferensinya sendiri, tidak dijual ke pelanggan eksternal .

Tekanan Finansial Secara Detail

Angka-angka kunci dari dokumen pemegang saham Q1 2026:

• Pendapatan: $5,7 miliar (kurang lebih tiga kali lipat tahun-ke-tahun)
• Pembakaran uang tunai: $3,7 miliar (juga tiga kali lipat tahun-ke-tahun)
• Kerugian operasional: $9,3 miliar di Q1 saja
• Kerugian bersih: $21,3 miliar (termasuk kompensasi berbasis saham $2,3 miliar dan biaya akuntansi non-tunai $12,4 miliar)
• Biaya R&D: $8,6 miliar
• Margin kotor: Meningkat sedikit menjadi 39%
• Cadangan kas: $73 miliar dalam bentuk kas dan surat berharga, memberikan landasan pacu meskipun mengalami kerugian besar

Margin operasional perusahaan kira-kira -122%, artinya mereka kehilangan sekitar $1,22 untuk setiap dolar yang diperoleh . Secara keseluruhan pada tahun 2025, OpenAI membukukan sekitar $38,5 miliar kerugian dari belanja $34 miliar .

Perlombaan Industri yang Lebih Luas: Biaya Inferensi Jatuh Bebas

Langkah pemotongan biaya OpenAI menjadi bagian dari perang harga yang lebih luas yang membentuk ulang ekonomi AI:

• Anthropic telah mempercepat pertumbuhan pelanggan dan melampaui OpenAI dalam adopsi bisnis AS (34,4% vs 32,3%) per Mei 2026 .
• Model open-source menekan harga: empat model open-weights China kini menyamai tolok ukur coding terdepan dengan sepertiga biaya dari alternatif proprietary . DeepSeek V4 dilaporkan lima puluh kali lebih murah untuk dijalankan daripada Claude Opus 4.6 .
• Google Gemini 3.1 Flash berharga $0,10 per juta token masukan—pengurangan harga 99,7% dalam tiga tahun .
• Anthropic Claude Sonnet 4.6 mengungguli GPT-4 di setiap tolok ukur lama dengan harga $3 per juta token input .
• Biaya inferensi telah turun sekitar 50 kali lipat dalam tiga tahun, dengan pasar diproyeksikan tumbuh dari $103 miliar (2025) menjadi $255 miliar (2030) .
• OpenAI mempertimbangkan pemotongan harga per token yang signifikan untuk pengembang dan pelanggan perusahaan guna mengantisipasi langkah serupa oleh Anthropic .
• Pelanggan semakin banyak menggunakan alat routing multi-model untuk mencampur dan mencocokkan model yang lebih murah dan menghindari harga premium dari satu vendor .

Apa Artinya bagi Industri AI

Kombinasi optimasi perangkat lunak dan perangkat keras memposisikan OpenAI untuk berpotensi mengurangi separuh biaya inferensinya bahkan saat mereka berkembang. Tetapi perusahaan tidak bertindak dalam ruang hampa. Keruntuhan harga inferensi yang lebih luas—didorong oleh pesaing, alternatif sumber terbuka, dan perangkat keras khusus—berarti kekuatan penetapan harga sedang terkikis di seluruh industri .

Bagi perusahaan, ini adalah kabar baik: biaya efektif untuk menjalankan beban kerja AI turun lebih cepat daripada pertumbuhan kemampuannya. Batch API OpenAI sudah menawarkan diskon 50% untuk beban kerja yang ditunda, sementara routing multi-model dapat memotong biaya 40-60% tanpa mengorbankan kualitas . Pertanyaannya adalah, apakah ada penyedia tunggal yang dapat mempertahankan harga premium di pasar di mana model sumber terbuka China menawarkan kemampuan tingkat terdepan dengan biaya yang jauh lebih murah?