Kelebihan Kos Inferens: 10x Lebih Rendah Daripada Model Tertutup

Alat Deep Agents oleh LangChain, yang dioptimumkan untuk Nemotron 3 Ultra, memberikan kos inferens sehingga 10x lebih rendah setiap jalan berbanding beberapa model sumber tertutup terkemuka . Di Artificial Analysis, Nemotron 3 Ultra berharga AS$0.58 setiap 1 juta token berbanding Claude Sonnet 4.6 pada AS$2.31 — pengurangan kos sebanyak 75% . Media kewangan China melaporkan dakwaan bahawa kos inferens adalah ~90% lebih rendah daripada model tertutup .

Prestasi Berbanding Model Tertutup pada Penanda Aras Perusahaan

Nvidia menyatakan bahawa pada penanda aras Deep Agents LangChain, Nemotron 3 Ultra menyamai model dengan skor tertinggi pada tugasan perniagaan (pariti kualiti) . Skor penanda aras utama termasuk:

• Indeks Kepintaran Artificial Analysis: Skor 47.7–48 — tertinggi dalam kalangan model sumber terbuka AS, mendahului Gemma 4 31B (39) dan Nemotron 3 Super (36), tetapi di belakang pemimpin sumber terbuka China Kimi K2.6 (54) dan model termaju proprietari seperti GPT-5.5 (60.2) dan Claude Opus 4.7 (57) .
• GPQA Diamond: Skor 86.7%, setanding dengan model teratas .
• Penanda aras agentik: Pada data yang diterbitkan HuggingFace, Nemotron 3 Ultra mencapai 56.4 pada Terminal Bench 2.1, 46.7 pada GDPVal, dan 70.7 pada SWE-Bench Verified, setanding dengan MiniMax-2.7, GLM-5.1, dan Kimi-K2.6 dalam tugasan agentik .
• Produktiviti Ejen PinchBench: Skor 90–91%, menyamai Kimi K2.6 dan mendahului Qwen 3.5 .

Spesifikasi Seni Bina

Sumber Peningkatan Prestasi

Peningkatan prestasi datang daripada tiga inovasi teras :

• Seni bina Hybrid Mamba-Attention MoE: Menggabungkan lapisan ruang keadaan Mamba 2 dengan lapisan perhatian dalam rangka kerja penghalaan MoE, hanya mengaktifkan 55B daripada 550B parameter setiap token untuk kecekapan besar-besaran.
• Multi-tier On-Policy Distillation (MOPD): Teknik pasca-latihan menggunakan pembelajaran pengukuhan merentas persekitaran interaktif untuk menyuling keupayaan penaakulan.
• Pengaktifan jarang: Nisbah parameter jumlah-ke-aktif 10:1 memberikan penaakulan peringkat termaju pada sebahagian kecil kos pengiraan model padat.

Nemotron 3 Ultra mencapai sehingga 5.9x daya pemprosesan inferens lebih tinggi berbanding GLM-5.1-754B-A40B pada tetapan input 8K token / output 64K token . Pada titik akhir DeepInfra pra-pelepasan, ia melayan lebih 300 token sesaat .

Perkongsian LangChain & Petikan

LangChain menyediakan sokongan Hari 0 untuk Nemotron 3 Ultra dalam alat Deep Agents dan merupakan ahli Gabungan Nemotron . Ketua Pegawai Eksekutif LangChain Harrison Chase berkata perusahaan boleh mencapai prestasi tinggi pada sebahagian kecil kos model tertutup . Nvidia menyatakan bahawa alat Deep Agents LangChain menyelesaikan "lebih banyak tugasan dengan daya pemprosesan lebih tinggi menggunakan Nemotron 3 Ultra sambil memberikan kos inferens sehingga 10x lebih rendah daripada beberapa model tertutup terkemuka" .

Penggunaan Perusahaan

Rakan kongsi global EY dan lain-lain seperti Abridge, Amdocs, dan Box sudah terlibat dengan stack NemoClaw + Nemotron 3 Ultra untuk membina ejen AI perusahaan . Cadence, Siemens, Synopsys, dan Dassault Systèmes juga sedang menggunakan jurutera AI autonomi menggunakan blueplan NemoClaw Nvidia .

Pilihan Akses Pembangun

Pembangun boleh mengakses Nemotron 3 Ultra melalui :

• Hugging Face: Pemberat model di nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16
• NVIDIA Endpoints / Nvidia NIM: Inferens terurus melalui titik akhir awan Nvidia (lalai dalam NemoClaw)
• Ollama: Tersedia di ollama.com/library/nemotron-3-ultra
• Di premis / Awan GPU: Pemberat boleh digunakan pada mana-mana tika awan GPU
• Nvidia NemoClaw: Blueplan sumber terbuka boleh digunakan dengan satu arahan

Reaksi Pasaran Saham

Saham Nvidia (NVDA) naik 4% pada Rabu, 9 Julai, apabila keputusan penanda aras baharu dan pengumuman NemoClaw menunjukkan bahawa Nemotron 3 Ultra boleh mencabar model tertutup dari segi kos dan prestasi perusahaan . Bank of America mengulangi penarafan Beli untuk saham Nvidia berikutan pengumuman itu, memetik kelebihan kos-prestasi dan momentum perusahaan model tersebut .

Garis Masa Pengumuman Utama

• 1 Jun 2026: Jensen Huang mengumumkan Nemotron 3 Ultra di Computex 2026 di Taipei
• 4 Jun 2026: Nvidia secara rasmi mengeluarkan Nemotron 3 Ultra sebagai model sumber terbuka dengan pemberat, data latihan, dan resipi
• 8 Julai 2026 (Selasa): LangChain dan Nvidia mengumumkan blueplan NemoClaw untuk LangChain Deep Agents, menonjolkan kos inferens 10x lebih rendah dan penggunaan perusahaan oleh EY, Abridge, Amdocs, dan Box
• 9 Julai 2026 (Rabu): Saham NVDA naik 4%; Bank of America ulangi Beli

Kelebihan Kos Inferens: 10x Lebih Rendah Daripada Model Tertutup

Alat Deep Agents oleh LangChain, yang dioptimumkan untuk Nemotron 3 Ultra, memberikan kos inferens sehingga 10x lebih rendah setiap jalan berbanding beberapa model sumber tertutup terkemuka . Di Artificial Analysis, Nemotron 3 Ultra berharga AS$0.58 setiap 1 juta token berbanding Claude Sonnet 4.6 pada AS$2.31 — pengurangan kos sebanyak 75% . Media kewangan China melaporkan dakwaan bahawa kos inferens adalah ~90% lebih rendah daripada model tertutup .

Prestasi Berbanding Model Tertutup pada Penanda Aras Perusahaan

Nvidia menyatakan bahawa pada penanda aras Deep Agents LangChain, Nemotron 3 Ultra menyamai model dengan skor tertinggi pada tugasan perniagaan (pariti kualiti) . Skor penanda aras utama termasuk:

• Indeks Kepintaran Artificial Analysis: Skor 47.7–48 — tertinggi dalam kalangan model sumber terbuka AS, mendahului Gemma 4 31B (39) dan Nemotron 3 Super (36), tetapi di belakang pemimpin sumber terbuka China Kimi K2.6 (54) dan model termaju proprietari seperti GPT-5.5 (60.2) dan Claude Opus 4.7 (57) .
• GPQA Diamond: Skor 86.7%, setanding dengan model teratas .
• Penanda aras agentik: Pada data yang diterbitkan HuggingFace, Nemotron 3 Ultra mencapai 56.4 pada Terminal Bench 2.1, 46.7 pada GDPVal, dan 70.7 pada SWE-Bench Verified, setanding dengan MiniMax-2.7, GLM-5.1, dan Kimi-K2.6 dalam tugasan agentik .
• Produktiviti Ejen PinchBench: Skor 90–91%, menyamai Kimi K2.6 dan mendahului Qwen 3.5 .

Spesifikasi Seni Bina

Sumber Peningkatan Prestasi

Peningkatan prestasi datang daripada tiga inovasi teras :

• Seni bina Hybrid Mamba-Attention MoE: Menggabungkan lapisan ruang keadaan Mamba 2 dengan lapisan perhatian dalam rangka kerja penghalaan MoE, hanya mengaktifkan 55B daripada 550B parameter setiap token untuk kecekapan besar-besaran.
• Multi-tier On-Policy Distillation (MOPD): Teknik pasca-latihan menggunakan pembelajaran pengukuhan merentas persekitaran interaktif untuk menyuling keupayaan penaakulan.
• Pengaktifan jarang: Nisbah parameter jumlah-ke-aktif 10:1 memberikan penaakulan peringkat termaju pada sebahagian kecil kos pengiraan model padat.

Nemotron 3 Ultra mencapai sehingga 5.9x daya pemprosesan inferens lebih tinggi berbanding GLM-5.1-754B-A40B pada tetapan input 8K token / output 64K token . Pada titik akhir DeepInfra pra-pelepasan, ia melayan lebih 300 token sesaat .

Perkongsian LangChain & Petikan

LangChain menyediakan sokongan Hari 0 untuk Nemotron 3 Ultra dalam alat Deep Agents dan merupakan ahli Gabungan Nemotron . Ketua Pegawai Eksekutif LangChain Harrison Chase berkata perusahaan boleh mencapai prestasi tinggi pada sebahagian kecil kos model tertutup . Nvidia menyatakan bahawa alat Deep Agents LangChain menyelesaikan "lebih banyak tugasan dengan daya pemprosesan lebih tinggi menggunakan Nemotron 3 Ultra sambil memberikan kos inferens sehingga 10x lebih rendah daripada beberapa model tertutup terkemuka" .

Penggunaan Perusahaan

Rakan kongsi global EY dan lain-lain seperti Abridge, Amdocs, dan Box sudah terlibat dengan stack NemoClaw + Nemotron 3 Ultra untuk membina ejen AI perusahaan . Cadence, Siemens, Synopsys, dan Dassault Systèmes juga sedang menggunakan jurutera AI autonomi menggunakan blueplan NemoClaw Nvidia .

Pilihan Akses Pembangun

Pembangun boleh mengakses Nemotron 3 Ultra melalui :

• Hugging Face: Pemberat model di nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16
• NVIDIA Endpoints / Nvidia NIM: Inferens terurus melalui titik akhir awan Nvidia (lalai dalam NemoClaw)
• Ollama: Tersedia di ollama.com/library/nemotron-3-ultra
• Di premis / Awan GPU: Pemberat boleh digunakan pada mana-mana tika awan GPU
• Nvidia NemoClaw: Blueplan sumber terbuka boleh digunakan dengan satu arahan

Reaksi Pasaran Saham

Saham Nvidia (NVDA) naik 4% pada Rabu, 9 Julai, apabila keputusan penanda aras baharu dan pengumuman NemoClaw menunjukkan bahawa Nemotron 3 Ultra boleh mencabar model tertutup dari segi kos dan prestasi perusahaan . Bank of America mengulangi penarafan Beli untuk saham Nvidia berikutan pengumuman itu, memetik kelebihan kos-prestasi dan momentum perusahaan model tersebut .

Garis Masa Pengumuman Utama

• 1 Jun 2026: Jensen Huang mengumumkan Nemotron 3 Ultra di Computex 2026 di Taipei
• 4 Jun 2026: Nvidia secara rasmi mengeluarkan Nemotron 3 Ultra sebagai model sumber terbuka dengan pemberat, data latihan, dan resipi
• 8 Julai 2026 (Selasa): LangChain dan Nvidia mengumumkan blueplan NemoClaw untuk LangChain Deep Agents, menonjolkan kos inferens 10x lebih rendah dan penggunaan perusahaan oleh EY, Abridge, Amdocs, dan Box
• 9 Julai 2026 (Rabu): Saham NVDA naik 4%; Bank of America ulangi Beli