Nvidia Nemotron 3 Ultra: 550 miljardin parametrin avoin malli rakennettiin tekoälyagenteille

Mikä tekee Nemotron 3 Ultran arkkitehtuurista poikkeuksellisen

Arkkitehtoniset valinnat ovat se kohta, jossa Nvidia eroaa jyrkimmin tavanomaisesta suurten kielimallien suunnittelusta. Tavanomaisen tiiviin Transformerin sijaan malli käyttää hybridiarkkitehtuuria nimeltä Latent Mixture-of-Experts (LatentMoE), joka lomittaa Mamba-2-tilamallikerroksia MoE-kerrosten ja muutamien huomiokerrosten (Attention) kanssa .

Tämä suunnitteluratkaisu pureutuu suoraan kahteen suurimpaan pullonkaulaan pitkäkestoisissa agenttitehtävissä: muistin kulutukseen ja päättelynopeuteen. Mamba-2:n kaltaiset tilamallit skaalautuvat lineaarisesti sekvenssin pituuden mukaan, toisin kuin huomiomekanismit, jotka skaalautuvat neliöllisesti. Yhdistämällä ne MoE-reititykseen – jossa vain murto-osa kokonaisparametreista aktivoidaan kutakin tokenia kohden – Nvidia saavuttaa mallin, joka säilyttää huipputason tarkkuuden ja toimii huomattavasti nopeammin kuin vastaavan älykkyystason kilpailijat .

Arkkitehtuuri sisältää myös Multi-Token Prediction (MTP) -tekniikan, jossa malli ennustaa useita tulevia tokeneita samanaikaisesti generoinnin aikana. Tämä toimii natiivin spekulatiivisen dekoodauksen muotona, mikä lisää suorituskykyä entisestään ilman erillistä luonnostelevaa mallia .

Miljoonan tokenin konteksti-ikkuna on toinen tietoinen valinta. Agenttityönkuluissa mallin on säilytettävä tilansa kymmenien tai satojen työkalukutsujen ajan, pidettävä pitkät suunnitteluhistoriat muistissa ja pääteltävä suurten koodikantojen tai dokumenttikokoelmien yli. Pienempi konteksti-ikkuna pakottaisi agentit typistämään tai tiivistämään tietoa, jolloin kriittistä informaatiota katoaisi. Miljoonan tokenin raja mahdollistaa koko agentin tilan, lokien ja suunnitelmien säilymisen pitkien istuntojen ajan .

Suorituskyky ja vertailuarvot: nopeutta älykkyydestä tinkimättä

Artificial Analysis Intelligence -indeksissä – joka on yhdistelmämittari mallin kyvykkyydelle useilla eri osa-alueilla – Nemotron 3 Ultra saa 48 pistettä, mikä tekee siitä korkeimmalle sijoittuneen avoimen lähdekoodin mallin miltään yhdysvaltalaiselta kehittäjältä . Tulos nostaa sen Llama 3.1 405B:n ja Mixtral 8x22B:n edelle, vaikka se jääkin vielä jälkeen parhaista kiinalaisista avoimista malleista kokonaiskyvykkyyksien osalta .

Mutta merkittävämpi luku saattaa olla päättelynopeus. Nvidian teknisen raportin mukaan Nemotron 3 Ultra saavuttaa jopa noin 6-kertaisen päättelykapasiteetin verrattuna muihin huipputason avoimiin kielimalleihin säilyttäen samalla saman tasoisen tarkkuuden . NVFP4-kvantisointimuodossa Nvidian Blackwell-alustalla ajettuna malli saavuttaa 5-kertaisen päättelynopeuden ja alentaa monimutkaisten agenttitehtävien kokonaiskustannuksia jopa 30 prosenttia .

Teknisestä raportista ilmenevät tarkat suoritustehovertailut osoittavat Nemotron 3 Ultran saavuttavan 5,9-kertaisen suoritustehon verrattuna GLM-5.1-754B:hen, 4,8-kertaisen verrattuna Kimi-K2.6-1T:hen ja 1,6-kertaisen verrattuna Qwen-3.5-397B:hen – kaikki mitattuina asetuksilla, joissa on 8 000 tokenin syöte ja 64 000 tokenin tuloste .

Suorituskyky ei kuitenkaan ole kaikilla mittareilla ylivoimainen. Yksittäisissä vertailuissa, kuten MMLU:ssa, HumanEvalissa ja GSM8K:ssa, malli päihittää Llama 3.1 405B:n ja Mixtral 8x22B:n, mutta lähdetiedot osoittavat ristiriitaisia tuloksia esimerkiksi GPT-4o:ta vastaan tietyillä mittareilla . Itse tekninen raportti kehystääkin edun olevan pikemminkin päättelynopeuden ja tarkkuuden yhteisessä optimoinnissa kuin puhtaassa tarkkuusjohtajuudessa .

Saatavuus: avoimet painot, mutta vakavat rautavaatimukset

Nvidia julkaisi mallin painot Hugging Facessa kahdessa muodossa: NVFP4-kvantisoituna versiona (NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4) maksimaalista nopeutta varten Blackwell-raudalla, ja täytenä BF16-versiona ympäristöihin, jotka tarvitsevat suurinta tarkkuutta . Painot ovat avoimia Linux Foundationin OpenMDW-lisenssillä, ja Nvidia on sitoutunut julkaisemaan myös harjoitusreseptit ja datasetit niiltä osin, kun niiden lisensointi sen sallii .

Rautavaatimukset ovat kuitenkin jyrkät. Käyttöönoton vähimmäiskokoonpano on 4× GB200, 4× B200, 4× GB300, 4× B300 tai 8× H100 -näytönohjainta . Kehittäjille, jotka haluavat kokeilla mallia paikallisesti tai kevyemmällä infrastruktuurilla, on saatavilla GGUF-kvantisoituja versioita Unslothin kautta. Dynaaminen 1-bittinen vaihtoehto vie noin 189 gigatavua levytilaa .

Pilvikäyttöönotto on sujuvaa, sillä malli on heti saatavilla Amazon SageMaker JumpStartissa, mikä tarjoaa yhden klikkauksen käyttöönoton yrityksille, jotka toimivat jo AWS-infrastruktuurissa .

Nvidian laajempi strategia: yritystason agenttipinon haltuunotto

Nemotron 3 Ultra ei ole irrallinen tuotejulkistus. Se on näkyvin osa paljon suurempaa strategista työntöä, jolla Nvidia pyrkii yritysten tekoälyagenttien oletusinfrastruktuurin tarjoajaksi. Tämä työntö jakautuu kolmeen osa-alueeseen.

Nemotron Coalition

Maaliskuussa 2026 GTC-tapahtumassa julkistettu Nemotron Coalition on tekoälylaboratorioiden ja -yritysten yhteistyöryhmä, joka rakentaa edistyksellisiä avoimia malleja Nvidian DGX Cloud -infrastruktuurissa. Jäseniin kuuluvat muun muassa Cursor, Mistral AI, Perplexity ja kymmenet muut. Computexissa Nvidia lisäsi H Companyn, NAVER Cloudin, Nous Researchin ja Prime Intellectin uusiksi jäseniksi .

Koalition tarkoituksena on yhdistää asiantuntemusta, dataa ja laskentatehoa edistyksellisten avoimien mallien kehittämiseksi. Erityisenä painopisteenä on rakentaa parhaat mahdolliset agenttivaljaat näille malleille ja tarjota kattavaa seurantaa agenttien käyttäytymisestä . Koalitiokumppanit saavat varhaisen pääsyn uusiin Nemotron-julkaisuihin jo ennen niiden julkista saatavuutta ja ensisijaisen integraation Nvidian agentti-infrastruktuuriin .

Nvidia Agent Toolkit

Samassa GTC-tapahtumassa Nvidia esitteli Nvidia Agent Toolkitin, avoimen lähdekoodin ohjelmistopinon, joka on suunniteltu purkamaan autonomisten agenttien käyttöönoton monimutkaisuus yhdeksi, Nvidia-optimoimaksi putkeksi. Työkalupakki sisältää NemoClaw'n (Nvidian kovennettu versio OpenClaw-autonomisten agenttien ajonaikaisesta ympäristöstä), OpenShellin turvalliseen suoritukseen, CUDA-X-kirjastot, joihin on esiladattu agenttitaitoja, kuten optimointi ja tiedonhaku, sekä itse Nemotron-malliperheen .

Työkalupakin arkkitehtuuri on huomionarvoinen: se on sovelluskehyksestä riippumaton, eli yritykset voivat käyttää sitä LangChainin, CrewAI:n, AutoGenin tai oman orkestrointikerroksensa kanssa. Panostus on siinä, että tekemällä pinosta aidosti hyödyllinen ja avoimen lähdekoodin, Nvidia varmistaa, että kun yritykset ottavat käyttöön agenttilaivastoja laajassa mittakaavassa, ne päätyvät oletuksena Nvidian näytönohjainten päälle .

Yrityskumppanuudet suuressa mittakaavassa

Yli 150 perustajakumppania on sitoutunut rakentamaan tekoälyagentteja Nvidian infrastruktuurin päälle. Näihin kuuluvat suuret ohjelmistoalustat, kuten CrowdStrike, Palantir, Adobe, Salesforce, SAP, ServiceNow ja Siemens . Maaliskuussa 2026 LangChain – jonka kehykset ovat ylittäneet miljardin latauksen rajapyykin – julkisti kattavan yritystason agenttitekoälyalustan, joka on rakennettu suoraan Nvidian Nemotron-mallien ja Agent Toolkitin varaan. Samalla LangChain liittyi itse Nemotron Coalitioniin .

Näiden integraatioiden syvyydellä on merkitystä. LangChainin LangSmith-agenttisuunnittelualustan ja Nvidian infrastruktuurin yhdistelmä luo kokonaisvaltaisen putken, joka kattaa kehityksen, käyttöönoton, valvonnan ja auditoinnin. Yrityksille, jotka ovat jo sitoutuneet jompaankumpaan toimittajaan, tämä kumppanuus vähentää tuotannollisten agenttijärjestelmien rakentamisen kitkaa merkittävästi .

Kilpailukenttä: Yhdysvaltojen avointen mallien kilpajuoksu

Nvidia asemoi Nemotron 3 Ultran nimenomaisesti älykkäimmäksi yhdysvaltalaiseksi avoimen lähdekoodin painojen malliksi, ja tällä kehyksellä on väliä. Avoimien mallien kärkeä ovat viime kuukausina hallinneet kiinalaiset mallit, kuten DeepSeek ja Qwen. Nemotron 3 Ultra on Nvidian vastaveto – ei välttämättä päihittämällä kiinalaisia malleja raaoissa suorituskykypisteissä, vaan optimoimalla se erityiselle työkuormalle (pitkäkestoiset agentit) ja erityiselle raudalle (Blackwell-näytönohjaimet ja NVFP4), jota yritysasiakkaat todellisuudessa käyttävät .

Malli tukee päättelyaikaisen päättelybudjetin hallintaa, eli käyttäjät voivat tehdä vaihtokaupan nopeuden ja päättelyn syvyyden välillä tehtävästä riippuen . Tämä konfiguroitavuus on tärkeää agenttijärjestelmille, joissa eri osatehtävät vaativat eritasoista kognitiivista ponnistelua – suunnitteluaskel saattaa tarvita syvällistä päättelyä, kun taas työkalukutsussa tarvitaan nopeutta.

Mallin kielituki kattaa englannin, ranskan, espanjan, italian, saksan, japanin, korean, portugalin ja kiinan, mikä tekee siitä käyttökelpoisen monikansallisiin yrityskäyttöönottoihin .

Lopputulos

Nemotron 3 Ultrassa ei ole ensisijaisesti kyse ennätysten rikkomisesta suorituskykymittauksissa. Siinä on kyse yritystason tekoälyagenttien oletusinfrastruktuurin vakiinnuttamisesta. Julkaisemalla avoimen huippuluokan mallin, joka toimii nopeimmin Nvidian omalla raudalla, rakentamalla avoimen lähdekoodin agenttityökalupakin, joka yksinkertaistaa käyttöönoton, ja kokoamalla yhteenliittymän tekoälylaboratorioita ja yritysohjelmistotoimittajia, jotka ovat sitoutuneet tähän pinoon, Nvidia lyö vetoa samalla tavalla kuin CUDA:n kanssa aikoinaan: se, joka omistaa kehittäjäkokemuksen, omistaa lopulta markkinan.

Malli tuo mukanaan merkittäviä teknisiä edistysaskeleita – erityisesti päättelykapasiteetissa ja kontekstin pituudessa – jotka tekevät siitä aidosti sopivan niihin agenttityökuormiin, joita yritykset alkavat nyt ottaa käyttöön. Strategia tähtää kuitenkin yhtä lailla näiden työkuormien päättelyinfrastruktuurin lukitsemiseen. Yrityksille, jotka arvioivat agenttialustoja vuoden 2026 puolivälissä, Nvidian pino on nyt markkinoiden kattavin avoimen lähdekoodin vaihtoehto.