답변게시됨17 소스
엔비디아, Groq 3 LPX 양산 돌입…AI 에이전트 응답 속도 높인다
엔비디아는 8월 24일 Hot Chips 2026에서 Groq 3 LPX 랙 규모 추론 가속기가 전체 생산에 들어갔다고 발표했다. [3][6] LPX는 GPU 기반 학습과 범용 추론을 대체하는 제품이 아니라, AI 에이전트가 다음 토큰을 빠르게 생성하도록 베라 루빈 NVL72를 보완하는 장치다.
게시자GPT Image 1.5로 이미지 생성
연구 답변
주요 시사점
- 엔비디아는 8월 24일 Hot Chips 2026에서 Groq 3 LPX 랙 규모 추론 가속기가 전체 생산에 들어갔다고 발표했다. [3][6]
- LPX는 GPU 기반 학습과 범용 추론을 대체하는 제품이 아니라, AI 에이전트가 다음 토큰을 빠르게 생성하도록 베라 루빈 NVL72를 보완하는 장치다.
- Artificial Analysis 벤치마크에서 Gemma 4 31B 모델과 10만 토큰 문맥을 사용해 초당 3,431개의 출력 토큰을 기록했다.
- 엔비디아는 이 결과가 해당 장문·저지연 작업에서 가장 가까운 대안 플랫폼보다 응답성이 4배 빠르다고 주장했다. [6]
AI 프롬프트
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full production launch of its Groq 3 LPX dedicated AI inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack scale accelerator had entered full production as the low latency, long context inference component of the Vera Rubin platform.. Topic tags: general web, openai, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnai
엔비디아가 8월 24일 열린 Hot Chips 2026에서 Groq 3 LPX의 전체 생산 돌입을 발표했다. LPX는 엔비디아의 차세대 AI 플랫폼인 **베라 루빈(Vera Rubin)**에 추가되는 랙 규모 추론 가속기로, 특히 긴 문맥을 사용하는 AI 에이전트의 응답 지연을 줄이는 데 초점을 맞춘다. 3
6
이번 발표의 핵심
엔비디아에 따르면 LPX는 베라 루빈 NVL72를 대체하는 범용 칩이 아니다. GPU와 NVL72가 모델 학습, 대규모 데이터 처리, 문맥 입력과 같은 폭넓은 작업을 담당하는 동안, LPX는 추론의 디코드(decode) 단계, 즉 사용자가 결과를 기다리는 동안 다음 토큰을 빠르게 생성하는 역할을 맡는다. 3
6
Artificial Analysis가 진행한 벤치마크에서는 오픈소스 에이전트형 모델인 Gemma 4 31B를 10만 토큰의 긴 문맥과 함께 실행했다. 엔비디아가 발표에서 제시한 성능은 초당 약 3,400개의 출력 토큰이며, 원자료에 기록된 보다 정확한 수치는 초당 3,431개 토큰이다. 1
6
엔비디아는 이 결과를 바탕으로 LPX가 장문·저지연 추론 작업에서 가장 가까운 대안 플랫폼보다 응답성이 4배 빠르다고 주장했다. 다만 이 수치는 특정 벤치마크와 작업 조건에 기반한 제조사 발표이며, 모든 AI 모델과 서비스에 동일하게 적용된다는 뜻은 아니다. 6
베라 루빈 플랫폼에서의 위치
엔비디아는 LPX를 베라 루빈 플랫폼의 일곱 번째 주요 칩 구성 요소로 소개했다. 플랫폼에는 88개의 자체 설계 올림푸스(Olympus) 코어를 탑재한 Vera CPU와 Rubin GPU 등이 포함된다. 2
엔비디아가 제시하는 구조는 작업별로 하드웨어를 나누는 방식이다. Rubin GPU와 Vera Rubin NVL72는 높은 유연성과 처리량이 필요한 학습·추론 작업을 맡고, LPX는 대화형 서비스나 코딩 에이전트처럼 사용자가 체감하는 토큰 생성 속도가 중요한 작업을 전담한다. 3
6
초기 도입 기업은 누구인가
AI 클라우드 기업 Nebius가 Groq 3 LPX를 도입하는 첫 번째 AI 클라우드 사업자로 발표됐다. Nebius는 자사의 Token Factory 프로덕션 추론 플랫폼에 LPX를 추가할 계획이다. 6
Groq도 초기 도입 기업 중 하나가 될 예정이다. 회사는 자체 구축한 AI 추론 클라우드에서 LPX를 베라 루빈 NVL72와 함께 배치하겠다고 밝혔다. 4
‘엔비디아가 Groq를 인수했다’는 표현은 정확할까
완전한 인수라고 단정하기는 어렵다. 제공된 보도에 따르면 엔비디아와 Groq의 거래는 Groq 기술에 대한 비독점 라이선스 계약과 핵심 인력 영입에 가까웠다. Groq 창업자 조너선 로스(Jonathan Ross), 사장 서니 마드라(Sunny Madra)와 다른 주요 인사들이 엔비디아에 합류했지만, Groq 자체는 이후에도 독립적으로 활동하며 신규 자금을 조달한 것으로 전해졌다. 5
따라서 Groq 3 LPX는 Groq의 기술과 인력이 엔비디아의 데이터센터 플랫폼 안으로 편입된 결과로 보는 편이 정확하다. 다만 제공된 근거만으로 랙당 칩 수, 칩별 온칩 SRAM 용량, 제조 공정, 경쟁사의 대응 등 일부 세부 하드웨어·시장 관련 주장을 확인하기는 어렵다.
의미와 한계
이번 발표는 엔비디아가 AI 인프라의 경쟁 기준을 단순한 연산 성능에서 작업별 응답성으로 넓히려는 움직임으로 해석할 수 있다. AI 에이전트가 긴 문서를 읽고 여러 단계를 거쳐 답을 내놓는 상황에서는 전체 처리량뿐 아니라 사용자가 결과를 받기 시작하는 속도와 토큰 생성의 안정성이 중요하기 때문이다. 3
6
다만 제공된 자료는 SpaceXAI가 에이전트형 AI 애플리케이션을 위해 Vera CPU를 배치할 계획이라는 점까지 뒷받침할 뿐, 위성 간 시뮬레이션이나 실제 배치 시점·범위와 같은 구체적인 내용까지 입증하지는 않는다. 7
Studio Global AI
연구를 계속하세요
이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.
사람들은 또한 묻습니다.
"엔비디아, Groq 3 LPX 양산 돌입…AI 에이전트 응답 속도 높인다"에 대한 짧은 대답은 무엇입니까?
엔비디아는 8월 24일 Hot Chips 2026에서 Groq 3 LPX 랙 규모 추론 가속기가 전체 생산에 들어갔다고 발표했다. [3][6]
먼저 검증할 핵심 포인트는 무엇인가요?
엔비디아는 8월 24일 Hot Chips 2026에서 Groq 3 LPX 랙 규모 추론 가속기가 전체 생산에 들어갔다고 발표했다. [3][6] LPX는 GPU 기반 학습과 범용 추론을 대체하는 제품이 아니라, AI 에이전트가 다음 토큰을 빠르게 생성하도록 베라 루빈 NVL72를 보완하는 장치다.
실무에서는 다음으로 무엇을 해야 합니까?
Artificial Analysis 벤치마크에서 Gemma 4 31B 모델과 10만 토큰 문맥을 사용해 초당 3,431개의 출력 토큰을 기록했다.
출처
developer.nvidia.comInside NVIDIA Groq 3 LPX: The Low-Latency Inference ...
blogs.nvidia.comNVIDIA Advances Vera Rubin Inference With New LPX and ...