Nvidia maakt lokale AI groter met PAIR en RTX Spark

Nvidia probeert lokale AI minder afhankelijk te maken van losse scripts, handmatige modelinstellingen en één enkele krachtige videokaart. De IFA 2026-aankondigingen vormen samen een bredere stapel: eenvoudiger agentsoftware, snellere lokale inference, het benutten van meerdere apparaten thuis en nieuwe Windows-pc’s met veel gedeeld geheugen. Het doel is niet alleen een model offline draaien, maar ook private AI-workflows met agents praktischer maken. 1021

PAIR verdeelt werk over je thuisnetwerk

De opvallendste introductie is NVIDIA Personal AI Router (PAIR), een gratis opensource-bèta voor lokale inference. Een app of agent krijgt één lokaal adres; PAIR stuurt vervolgens ieder zelfstandig inferenceverzoek naar een gekoppelde computer in het lokale netwerk die daarvoor geschikt en beschikbaar is. De proxy-eindpunten zijn compatibel met interfaces in de stijl van Ollama en OpenAI, zodat bestaande workflows niet voor een nieuw agentframework hoeven te worden verbouwd. 13

Dat is vooral interessant wanneer een AI-agent een opdracht opknipt in gelijktijdige deeltaken of subagents inzet. In plaats van alle verzoeken in de rij te laten staan bij één GPU, kan PAIR afzonderlijke opdrachten doorsturen naar een machine waarop de vereiste engine en het model beschikbaar zijn, rekening houdend met de actuele belasting. PAIR ondersteunt workflows met Ollama en LM Studio. 11011

Wat PAIR wel doet — en niet doet

PAIR is een router voor verzoeken, geen techniek die de GPU’s in huis samenvoegt tot één virtuele videokaart. De documentatie beschrijft dat voor elk zelfstandig verzoek één machine wordt gekozen. Het praktische voordeel zit dus in meer capaciteit voor parallel werk en minder wachttijd bij afzonderlijke taken.

Een enkel verzoek kan daarentegen niet het gecombineerde VRAM van meerdere pc’s gebruiken om een model te laden dat op geen van die systemen afzonderlijk past. 123

Nvidia noemt ondersteuning voor compatibele Windows-systemen met RTX, DGX Spark-systemen en macOS-apparaten. In de gepubliceerde eisen staan onder meer GeForce RTX-GPU’s vanaf de 20-serie, DGX Spark/GB10 en Macs met M4 of nieuwer, naast de vereiste besturingssystemen. 8

Wie bijvoorbeeld een desktop, laptop en geschikte Mac of DGX Spark in hetzelfde netwerk heeft, kan daarmee ongebruikte hardware inzetten voor parallelle lokale taken. Privacy is daarbij een belangrijk onderdeel van de belofte: volgens Nvidia blijven prompts, bestanden en agentcontext binnen het thuisnetwerk van de gebruiker. 48

Minder gedoe bij lokale AI-agents

Nvidia positioneerde ook Hermes Agent, OpenClaw en Perplexity Portable Computer als toegankelijkere manieren om agents op lokale Nvidia-hardware te draaien. De aangekondigde Windows-ervaringen zijn gebouwd op llama.cpp en bevatten Nvidia-optimalisaties voor inference. Daarmee hoeft de gebruiker minder vaak zelf een model te kiezen, een geschikte inference-service te zoeken en instellingen af te regelen. 1521

Dat pakt een van de grootste drempels van lokale AI aan: niet alleen de beschikbare rekenkracht, maar vooral de installatiecomplexiteit. Een begeleide of eenklik-installatie die compatibele hardware herkent en een passende configuratie kiest, kan lokale agents bereikbaar maken voor meer mensen dan een volledig zelfgebouwde technische stack. Nvidia stelt dat Hermes eenklikimplementatie gaat bieden op RTX- en DGX-systemen onder Windows en Linux. OpenClaw moet de installatie op Windows-pc’s met ondersteunde RTX-hardware vereenvoudigen. 21

Software-optimalisaties moeten inference versnellen

Daarnaast kondigde Nvidia bijgewerkte optimalisaties voor llama.cpp en vLLM aan, met volgens het bedrijf lokale inferenceverbeteringen tot 1,9×. De bijgewerkte software is volgens Nvidia rechtstreeks en via LM Studio beschikbaar; een prestatie-update voor Ollama staat nog gepland. 1021

Die 1,9× is een door de leverancier gemelde piekwaarde die afhankelijk is van de werklast, geen garantie voor elk model of iedere GPU. De werkelijke winst hangt onder andere af van modelarchitectuur, kwantisatie, promptlengte, hardware en de vraag of een taak in zelfstandige verzoeken is op te delen. Strategisch zijn de verbeteringen wel relevant: ze landen in bekende opensourcetools, zonder dat gebruikers naar een exclusieve Nvidia-modelinterface hoeven over te stappen. 1017

RTX Spark richt zich op grotere lokale modellen

Aan de hardwarekant verwacht Nvidia in oktober RTX Spark-Windows-pc’s op basis van het Arm-gebaseerde N1X-platform. De krachtigste configuratie combineert een 20-core Grace-CPU met een Blackwell RTX-GPU en biedt maximaal 128 GB unified memory en maximaal één petaflop aan AI-prestaties. 3440

Dat gedeelde geheugen is voor lokale AI bijzonder relevant. Niet alleen de rekensnelheid, maar ook de beschikbare geheugencapaciteit bepaalt welke modellen en hoeveel context lokaal passen. RTX Spark moet een zwaardere Windows-pc-categorie vormen voor lokale agents en grotere private workloads, terwijl de systemen ook reguliere grafische mogelijkheden behouden. Nvidia zegt dat partners, waaronder Lenovo en Acer, RTX Spark-ontwerpen op de markt brengen. 253242

Eén strategie, vier verschillende knelpunten

Samen richten de aankondigingen zich op vier obstakels voor lokale AI:

• Installatie: agentapps moeten het kiezen en configureren van een lokale AI-stack verminderen. 1521
• Prestaties op één apparaat: Nvidia’s werk voor llama.cpp en vLLM is bedoeld om inference sneller te maken. 1017
• Opschalen voor gelijktijdig werk: PAIR maakt ongebruikte, compatibele apparaten beschikbaar voor afzonderlijke lokale verzoeken. 13
• Opschalen voor grotere modellen: RTX Spark biedt een Windows-platform met aanzienlijk meer unified memory dan een doorsnee consumentenconfiguratie met GPU. 4042

De nuance blijft belangrijk: deze onderdelen lossen verschillende problemen op. PAIR is nuttig voor te parallelliseren inference, maar kan een individueel model niet groter maken dan wat één deelnemend systeem kan hosten. RTX Spark kan dat geheugenprobleem wel deels aanpakken met configuraties met veel unified memory, maar is nieuwe hardware en geen gratis upgrade voor een bestaande pc. Ook moeten Nvidia’s prestatieclaims nog blijken in uiteenlopende productieworkloads. 1240

Toch is de lijn helder: Nvidia probeert lokale AI te veranderen van een niche van modellen en command-line-tools in een samenhangender optie voor agents, makers en ontwikkelaars die meer controle willen over waar hun AI-werk draait. 1014