Nvidia rozszerzyła rodzinę Nemotron o trzy modele dla agentów AI: duży, multimodalny Super VL oraz dwa warianty Bolt przeznaczone do pracy lokalnej. Kierunek jest czytelny: część zadań ma trafiać do modeli działających w środowisku firmowym, a część — bezpośrednio na komputerach i urządzeniach z układami Nvidii.
7
Trzy modele, różne zadania
Nemotron 3.5 Super VL to model multimodalny, który łączy obsługę tekstu i informacji wizualnych. Ma 120 mld parametrów, ale w przetwarzaniu każdego tokena aktywnych jest 12 mld. Nvidia pozycjonuje go jako rozwiązanie dla wyspecjalizowanych agentów pracujących stale i realizujących wieloetapowe zadania.
3
Nemotron 3.5 Bolt 74B-A9B 24GB jest przeznaczony do uruchamiania agentów lokalnie, m.in. na systemach Nvidia RTX i DGX Spark. To hybrydowy model typu Mamba–Transformer z architekturą mixture-of-experts; według Nvidii mieści się w 24 GB pamięci. Producent podaje też, że dzięki kwantyzacji do 2 bitów model ma osiągać prędkość dekodowania co najmniej 80 tokenów na sekundę.
13
Nemotron 3.5 Bolt E4B 4GB to mniejszy wariant z rodziny Bolt. Sama nazwa wskazuje na wersję przeznaczoną dla urządzeń z ograniczoną pamięcią, ale dostępne informacje nie pozwalają potwierdzić jego dokładnej liczby parametrów ani pełnej specyfikacji. Nvidia zapowiedziała jego dostępność na 23 października; Super VL i Bolt 74B-A9B udostępniono 15 października.
7
11
12
Co oznacza „otwarty” model w tej zapowiedzi?
Nvidia przedstawia modele jako otwarte i możliwe do dostosowania, a firmy mogą je dodatkowo trenować pod konkretne zastosowania. Nie należy jednak automatycznie zakładać, że określenie „otwarty” oznacza publikację każdego elementu — na przykład wszystkich danych treningowych. Dostępne materiały nie rozstrzygają w pełni, które wagi i zbiory danych udostępniono.
3
6
Dokumentacja opisuje etapy trenowania Super obejmujące m.in. pretraining, dostrajanie nadzorowane, uczenie ze wzmocnieniem z weryfikowalnymi nagrodami oraz destylację wiedzy od wielu modeli-nauczycieli.
6 Z kolei 25 bln tokenów i format NVFP4 podano w dokumentacji wcześniejszego Nemotron 3 Super — nie ma podstaw, by przypisywać te same parametry treningowe wszystkim trzem nowym modelom.
4
Wyniki Nvidii i niezależna ocena
Nvidia deklaruje, że Super VL osiąga na pojedynczym GPU nawet pięciokrotnie większą przepustowość w zadaniach agentowych niż inne otwarte modele z tej samej kategorii wielkości. To wynik przedstawiony przez producenta; rzeczywista szybkość będzie zależeć od sprzętu i konkretnego zadania.
3
W ocenie Artificial Analysis Super VL uzyskał 26 punktów w Intelligence Index, wobec 13 punktów dla Nemotron 3 Super. Według tej analizy model zużywał też około 60% mniej tokenów wyjściowych na zadanie. Serwis określił go jako lidera wśród amerykańskich modeli z otwartymi wagami — nie wśród wszystkich modeli na świecie.
16
Zastosowanie w Navan
Firma Navan poinformowała, że jej agenci AI do obsługi podróży korzystają z Nemotron 3.5 Super VL w produkcji. Navan podał, że po uzyskaniu wczesnego dostępu dostroił model i wdrożył go w ciągu trzech tygodni.
1
8
Według wewnętrznej ewaluacji firmy dostrojona wersja osiągnęła najlepszy wynik ogólny, najniższe opóźnienie i wysoką efektywność. To rezultat testów Navan, a nie niezależne porównanie obejmujące wszystkie modele i zastosowania.
1
Rozszerzenie Nemotron łączy więc dwa cele: udostępnienie większego modelu do złożonych, multimodalnych procesów oraz zaoferowanie lżejszych wariantów do lokalnego uruchamiania agentów. Na razie najwięcej konkretnych parametrów Nvidia podała dla Super VL i Bolt 74B-A9B; szczegóły dotyczące Bolt E4B pozostają ograniczone.