AnswersPublished26 sources
PAIR, ejen AI dan RTX Spark: Langkah NVIDIA ke arah AI tempatan yang lebih praktikal
NVIDIA PAIR ialah perisian beta percuma dan sumber terbuka yang menghalakan permintaan inferens AI berasingan ke komputer serasi dalam rangkaian tempatan. PAIR tidak menggabungkan GPU atau VRAM beberapa PC untuk satu permintaan; kelebihannya ialah lebih banyak tugasan selari dan masa menunggu yang lebih rendah.
Diterbitkan olehDisunting dengan GPT-5.6 TerraImej dijana dengan GPT Image 2
Research answer
Key takeaways
- NVIDIA PAIR ialah perisian beta percuma dan sumber terbuka yang menghalakan permintaan inferens AI berasingan ke komputer serasi dalam rangkaian tempatan.
- PAIR tidak menggabungkan GPU atau VRAM beberapa PC untuk satu permintaan; kelebihannya ialah lebih banyak tugasan selari dan masa menunggu yang lebih rendah.
- NVIDIA turut menumpukan persediaan ejen yang lebih mudah, inferens sehingga 1.9 kali lebih pantas mengikut dakwaan syarikat, serta PC RTX Spark yang dijangka tiba pada Oktober.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Nvidia’s IFA 2026 announcements advance its local-AI strategy, including the free open-source Personal AI Router (PAIR) tool that di. Article summary: Nvidia’s IFA 2026 announcements turned its local-AI strategy into a fuller stack: simpler agent deployment, faster single-device inference, coordinated use of several household machines, and a new Windows hardware tier d. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Pengumuman NVIDIA di IFA 2026 bukan sekadar tentang menjalankan model AI tanpa Internet. Syarikat itu sedang cuba menjadikan AI tempatan — iaitu AI yang berjalan pada komputer sendiri dan bukan semestinya di awan — lebih mudah dipasang, lebih pantas, dan lebih berguna untuk kerja ejen AI yang melibatkan banyak tugasan serentak. Strateginya merangkumi perisian penghalaan, aplikasi ejen, enjin inferens sumber terbuka, serta kelas PC baharu dengan memori besar. 10
21
PAIR menggunakan komputer dalam rumah sebagai kumpulan inferens
Pengumuman paling penting ialah NVIDIA Personal AI Router (PAIR), perisian beta percuma dan sumber terbuka untuk inferens AI tempatan. PAIR memberikan satu alamat tempatan kepada aplikasi atau ejen, kemudian menghalakan setiap permintaan inferens yang bebas antara satu sama lain ke mesin serasi yang dipautkan pada rangkaian tempatan. Ia menyediakan titik akhir proksi yang serasi dengan gaya Ollama dan OpenAI, jadi aliran kerja sedia ada tidak perlu dibina semula dengan rangka kerja ejen baharu. 1
3
Ini berguna apabila ejen AI memecahkan kerja kepada beberapa tugasan kecil, atau menyerahkan kerja kepada subejen yang boleh berjalan serentak. Daripada semua permintaan beratur pada satu GPU, PAIR boleh memilih komputer yang mempunyai enjin dan model yang diperlukan serta kapasiti semasa. PAIR menyokong aliran kerja menggunakan Ollama dan LM Studio. 1
10
11
Penting: PAIR bukan cara mencantumkan semua GPU menjadi satu
Had utamanya perlu difahami dengan jelas. PAIR ialah penghala permintaan, bukannya sistem yang menggabungkan beberapa GPU rumah menjadi satu pemecut besar. Bagi setiap permintaan bebas, ia memilih sebuah mesin untuk melaksanakannya. 1
2
3
Maksud praktikalnya: PAIR boleh meningkatkan kapasiti kerja serentak dan mengurangkan masa menunggu bagi tugasan yang boleh dipisahkan. Namun, ia tidak boleh mencampurkan VRAM daripada beberapa PC untuk memuatkan satu model yang terlalu besar untuk dimuatkan pada mana-mana satu PC itu. 1
2
3
NVIDIA menyenaraikan sokongan bagi sistem Windows dengan RTX yang serasi, sistem DGX Spark dan peranti macOS. Keperluan yang diterbitkan termasuk GPU GeForce RTX siri 20 atau lebih baharu, DGX Spark/GB10 dan Mac dengan cip M4 atau lebih baharu, di samping keperluan sistem pengendalian berkaitan. 8
Jadi, bagi pengguna yang mempunyai desktop, komputer riba dan Mac serasi atau DGX Spark pada rangkaian yang sama, perkakasan yang biasanya tidak digunakan boleh menyumbang kepada kerja AI setempat yang selari. Aspek privasi turut menjadi teras tawaran ini: NVIDIA menyatakan bahawa prom, fail dan konteks ejen kekal dalam rangkaian rumah pengguna. 4
8
Persediaan ejen AI tempatan yang kurang rumit
NVIDIA juga mengetengahkan Hermes Agent, OpenClaw dan Perplexity Portable Computer sebagai laluan yang lebih mudah untuk menjalankan ejen secara tempatan pada perkakasan NVIDIA. Pengalaman Windows yang diumumkan dibina atas llama.cpp dan menggunakan pengoptimuman inferens NVIDIA, sekali gus mengurangkan keperluan memilih model, mencari perkhidmatan inferens serasi dan melaras tetapan secara manual. 15
21
Ini penting kerana halangan AI tempatan selalunya bukan kuasa GPU semata-mata, tetapi proses pemasangan yang rumit. Persediaan berpandu atau satu klik yang mengesan perkakasan serasi dan memilih konfigurasi sesuai boleh menjadikan ejen tempatan lebih mudah didekati berbanding susunan perisian yang perlu dibina sendiri. NVIDIA berkata Hermes akan menawarkan pemasangan satu klik pada sistem RTX dan DGX di Windows serta Linux, manakala OpenClaw memudahkan persediaan pada PC Windows dengan perkakasan RTX yang disokong. 21
Peningkatan kelajuan datang daripada perisian juga
NVIDIA turut mengumumkan pengoptimuman baharu untuk llama.cpp dan vLLM, dengan dakwaan peningkatan inferens tempatan sehingga 1.9 kali ganda. Menurut syarikat itu, perisian terkini tersedia secara terus dan melalui LM Studio, manakala kemas kini prestasi untuk Ollama dirancang. 10
21
Angka tersebut ialah tuntutan maksimum daripada vendor yang bergantung pada beban kerja, bukannya jaminan untuk setiap model atau GPU. Prestasi sebenar boleh berubah mengikut seni bina model, kuantisasi, panjang prom, perkakasan, serta sama ada tugasan boleh dipecahkan kepada permintaan bebas. Namun, langkah ini penting kerana pengoptimuman dibawa ke alat sumber terbuka yang sudah biasa digunakan, bukan memaksa pengguna berpindah kepada antaramuka model khusus NVIDIA. 10
17
RTX Spark menawarkan kelas PC AI tempatan bermemori tinggi
Di bahagian perkakasan, NVIDIA menyatakan PC Windows RTX Spark berasaskan platform N1X dengan CPU berasaskan Arm dijangka tiba pada Oktober. Konfigurasi tertinggi menggabungkan CPU Grace 20-teras dengan GPU Blackwell RTX, serta boleh menawarkan sehingga 128GB memori bersatu dan sehingga satu petaflop prestasi AI. 34
40
Memori bersatu amat relevan untuk AI tempatan kerana saiz model dan konteks sering dihadkan oleh kapasiti memori, bukan kelajuan GPU semata-mata. RTX Spark disasarkan sebagai kategori peranti Windows lebih tinggi untuk ejen AI tempatan dan beban kerja peribadi yang lebih besar, sambil mengekalkan keupayaan grafik biasa. NVIDIA berkata rakan kongsi termasuk Lenovo dan Acer akan membawa reka bentuk RTX Spark ke pasaran. 25
32
42
Empat halangan AI tempatan yang cuba diselesaikan NVIDIA
Secara keseluruhan, pakej IFA 2026 ini menyasar empat masalah utama:
- Pemasangan: Aplikasi ejen mengurangkan kerja manual untuk memilih dan mengkonfigurasi susunan AI tempatan.
15
21
- Prestasi: Pengoptimuman llama.cpp dan vLLM menyasarkan inferens lebih pantas pada satu peranti.
17
- Pengembangan kapasiti untuk kerja serentak: PAIR membolehkan peranti serasi yang tidak digunakan menyokong permintaan tempatan yang berasingan.
1
3
- Kapasiti untuk beban kerja lebih besar: RTX Spark menawarkan platform Windows dengan memori bersatu yang jauh lebih besar berbanding konfigurasi GPU pengguna biasa.
40
42
Namun, setiap komponen menyelesaikan masalah yang berbeza. PAIR bernilai untuk inferens yang boleh diparalelkan, tetapi tidak menjadikan satu model lebih besar daripada kapasiti mana-mana sistem yang mengambil bahagian. RTX Spark pula boleh menangani isu itu melalui konfigurasi memori bersatu yang besar, tetapi ia memerlukan perkakasan baharu — bukannya naik taraf percuma untuk PC sedia ada. Dakwaan prestasi NVIDIA juga masih perlu diuji pada beban kerja sebenar. 1
2
40
Walaupun begitu, hala tujunya jelas: NVIDIA mahu AI tempatan terasa kurang seperti gabungan model dan arahan baris perintah untuk pengguna khusus, sebaliknya menjadi pilihan pengkomputeran peribadi yang lebih bersepadu bagi pengguna ejen AI, pencipta dan pembangun yang mahu lebih kawalan terhadap lokasi kerja AI mereka dijalankan. 10
14
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "PAIR, ejen AI dan RTX Spark: Langkah NVIDIA ke arah AI tempatan yang lebih praktikal"?
NVIDIA PAIR ialah perisian beta percuma dan sumber terbuka yang menghalakan permintaan inferens AI berasingan ke komputer serasi dalam rangkaian tempatan.
What are the key points to validate first?
NVIDIA PAIR ialah perisian beta percuma dan sumber terbuka yang menghalakan permintaan inferens AI berasingan ke komputer serasi dalam rangkaian tempatan. PAIR tidak menggabungkan GPU atau VRAM beberapa PC untuk satu permintaan; kelebihannya ialah lebih banyak tugasan selari dan masa menunggu yang lebih rendah.
What should I do next in practice?
NVIDIA turut menumpukan persediaan ejen yang lebih mudah, inferens sehingga 1.9 kali lebih pantas mengikut dakwaan syarikat, serta PC RTX Spark yang dijangka tiba pada Oktober.