프레임워크가 예고한 데스크톱 상위 모델은 별도 그래픽카드 없이 대형 언어 모델(LLM)을 PC에서 실행하려는 사용자를 겨냥한다. AMD의 16코어 Ryzen AI Max+ PRO 495와 최대 192GB 통합 LPDDR5X-8533 메모리, 초당 273GB의 메모리 대역폭을 한 시스템에 묶은 구성이다.

마이크로소프트 역시 비슷한 통합 메모리 PC를 겨냥한 윈도우 11 기능을 실험 중인 것으로 알려졌다. 다만 이 기능은 아직 공식 발표되지 않았고, 실제 출시 여부도 확정되지 않았다.

두 움직임이 보여주는 방향은 분명하다. 로컬 AI PC의 병목은 이제 프로세서의 연산량만이 아니라, 모델을 담을 수 있는 메모리 용량과 데이터를 옮기는 대역폭이기도 하다. 그렇다고 클라우드 AI가 사라진다는 뜻은 아니다. 현실적으로는 로컬과 클라우드를 함께 쓰는 하이브리드 구조가 확대되는 흐름에 가깝다.

프레임워크 192GB 데스크톱의 구성

예고된 최상위 구성에는 AMD Ryzen AI Max+ PRO 495가 들어간다. 이 칩은 Zen 5 기반 16코어 32스레드 CPU와 Radeon 내장 그래픽, XDNA 2 NPU를 결합한 프로세서다. 메모리는 192GB 통합 LPDDR5X로, 대역폭은 273GB/s로 제시됐다.

기존 Ryzen AI Max+ 395 기반 128GB 구성과 비교하면 메모리 용량은 50% 늘었고, 메모리 대역폭은 256GB/s에서 273GB/s로 약 6.6% 증가했다. 12316

통합 메모리란 CPU와 GPU가 물리적으로 같은 메모리 풀을 공유하는 구조다. 프레임워크에 따르면 이 중 최대 160GB를 내장 GPU에 할당할 수 있다. 일반적인 PC처럼 GPU의 전용 VRAM과 시스템 RAM 사이에서 모델을 쪼개지 않아도 된다는 점이 이 제품의 핵심 매력이다. 110

다만 273GB/s는 작은 데스크톱 기준으로는 상당한 수치지만, 일부 고성능 통합 메모리 시스템보다는 낮다. 모델이 메모리에 들어간다고 해서 빠른 속도로 실행된다는 의미는 아니다. 긴 컨텍스트, 백그라운드 애플리케이션, 여러 사용자가 동시에 메모리 대역폭을 요구하면 실제 응답 속도는 떨어질 수 있다.

어떤 모델을 실행할 수 있나

프레임워크는 Q8 양자화 버전의 DeepSeek V4-Flash를 로컬에서 실행하면서 컨텍스트를 위한 여유 공간도 남는 모습을 시연했다는 보도가 나왔다. 714 다른 보도는 192GB 구성에서 약 2,840억 개 파라미터 규모의 모델을 메모리에 올릴 수 있다고 설명한다. 하지만 이는 모델을 ‘담을 수 있다’는 메모리 용량에 대한 주장이지, 실제 생성 속도를 독립적으로 검증한 벤치마크는 아니다. 4

여기서 양자화가 중요하다. 모델 가중치를 8비트, 4비트처럼 낮은 비트 수로 표현하면 필요한 메모리 용량을 줄일 수 있다. 최종 메모리 요구량은 모델 구조, 실행 소프트웨어의 오버헤드, 컨텍스트 길이, 동시에 실행하는 다른 애플리케이션에 따라 달라진다.

정리하면 메모리 용량은 어떤 모델을 ‘올릴 수 있는지’를 결정한다. 실제 사용성은 메모리 대역폭, 소프트웨어 지원, 연산 성능이 좌우한다. 큰 모델을 실행할 수 있다는 말과 쾌적하게 사용할 수 있다는 말은 같은 뜻이 아니다.

윈도우 11의 ‘IntelligentCarveout’은 무엇을 바꾸나

마이크로소프트가 윈도우 11 실험 빌드 29648.1000에서 ‘IntelligentCarveout’이라는 내부 기능을 시험 중이라는 정황이 포착됐다. 빌드 내부 문자열에는 ‘가속기를 위한 예약 메모리’, ‘그래픽 및 AI 가속을 위한 메모리’와 관련된 문구가 포함된 것으로 전해졌다. 333435

기능의 취지는 통합 메모리 전체를 윈도우가 동적으로 배분하도록 맡기는 대신, 그래픽과 AI 작업을 위해 일정 부분을 미리 예약하는 것으로 보인다. 윈도우 애플리케이션과 LLM 실행기가 같은 메모리 풀을 놓고 경쟁하는 환경에서는 이런 설정이 메모리 접근을 더 예측 가능하게 만들고, 다른 프로그램 때문에 발생하는 할당 실패를 줄일 가능성이 있다.

하지만 IntelligentCarveout은 추가 RAM도, 더 빠른 메모리 버스도, 새로운 AI 가속기도 아니다. 메모리를 AI에 예약하면 그만큼 일반 윈도우 애플리케이션이 사용할 수 있는 공간은 줄어든다. 마이크로소프트는 최종 사용자 인터페이스, 지원 하드웨어, 출시 시점, 실제 출시 여부를 확인하지 않았다. 364044

따라서 이 기능이 128GB 시스템을 160GB 시스템으로 바꿔주는 것은 아니다. 이미 존재하는 통합 메모리를 어떤 작업에 우선 배정할지 조정하는 운영체제 수준의 기능에 가깝다.

업그레이드성과 운영체제 호환성

프레임워크 데스크톱은 경쟁 제품보다 모듈화와 수리 용이성을 강조하는 소형 PC다. 새 구성도 확장성이 열려 있는 PCIe x4 슬롯을 유지할 것으로 예상돼, 호환되는 확장 카드를 추가할 여지가 있다. 13

반면 메모리는 일반적인 DIMM 램처럼 교체할 수 없다. 192GB LPDDR5X는 메인보드에 직접 납땜되는 보드 내장형 메모리이므로, 구매자는 선택한 용량을 사실상 고정 사양으로 봐야 한다. 향후 더 많은 메모리가 필요하다면 보통의 램 교체가 아니라 메인보드 교체가 필요할 가능성이 크다. 13

프레임워크는 윈도우와 리눅스 사용 사례를 함께 제시하고 있으며, 리눅스 사전 설치 옵션도 안내하고 있다. 2 다만 로컬 추론의 호환성은 운영체제보다 어떤 실행 환경과 가속 경로를 선택하느냐에 달려 있다.

AMD 기반 시스템은 ROCm이나 Vulkan을 활용할 수 있지만, 애플 실리콘은 Metal·MLX 생태계를, 엔비디아 시스템은 CUDA 생태계를 중심으로 한다. 이들은 서로 완전히 호환되지 않는다. 한 플랫폼에서 잘 실행되는 모델이 다른 플랫폼에서는 별도의 런타임이나 최적화가 필요할 수 있고, 같은 수준의 성능을 내지 못할 수도 있다. 1924

가격과 출시일은 아직 미정

2026년 8월 31일 기준, 프레임워크는 Ryzen AI Max+ PRO 495와 192GB 메모리를 탑재한 데스크톱을 ‘출시 예정’으로 표시하고 있다. 가격, 예약 판매일, 배송일, 광범위한 판매 지역은 공개하지 않았다. 21011

따라서 현재 성능과 가성비를 단정하기는 이르다. 지금까지 공개된 것은 미리보기와 제조사 시연이며, 토큰 생성 속도, 발열, 전력 소비, 모델별 호환성, 장시간 부하 성능은 독립적인 실사용 테스트가 필요하다. 6

애플과 다른 통합 메모리 PC와 비교하면

프레임워크가 통합 메모리 구조를 처음 만든 것은 아니다. 애플 실리콘은 CPU와 GPU가 메모리를 공유하는 방식을 일찍부터 활용해 왔으며, 일부 구성에서는 더 높은 대역폭을 제공하는 것으로 알려졌다. 예를 들어 M4 Max 기반 구성은 128GB 메모리와 546GB/s 대역폭을 제공한다는 자료가 있다. 1720

AMD Ryzen AI Max+ 395를 탑재한 GMKtec과 Beelink 계열의 소형 PC도 128GB 통합 메모리 구성을 제공하는 대안이다. 엔비디아의 DGX Spark급 시스템은 비슷한 소형·고용량 메모리 영역에서 CUDA 호환성을 강점으로 내세운다. 1924

제품을 비교할 때는 다음 다섯 가지를 봐야 한다.

• 용량: 양자화 모델을 메모리 밖으로 많이 밀어내지 않고 올릴 수 있는지 결정한다.
• 대역폭: 추론 중 모델 데이터를 얼마나 빠르게 이동시킬 수 있는지에 큰 영향을 준다.
• 소프트웨어: 어떤 런타임, 커널, 모델 서버 도구가 제대로 작동하는지 좌우한다.
• 업그레이드성: 통합 LPDDR5X 메모리는 구매 후 교체하기 어려운 경우가 많아 초기 선택이 중요하다.
• 가격과 판매 여부: 공개된 시제품 사양이 실제 구매 가능한 제품인지 판단하게 해준다.

로컬 AI의 다음 병목은 ‘NPU TOPS’가 아니다

프레임워크 데스크톱의 가장 중요한 사양은 NPU의 TOPS 수치가 아니다. 대형 모델을 담을 수 있는 넉넉한 공유 메모리 풀이다. 마이크로소프트가 검토 중인 메모리 예약 기능 역시 같은 변화를 뒷받침한다. PC에서 더 큰 모델을 실행할수록 운영체제의 메모리 관리가 AI 사용 경험의 일부가 된다는 뜻이다.

그렇다고 로컬 PC가 클라우드 추론을 대체하는 것은 아니다. 통합 메모리 시스템은 민감한 데이터를 외부로 보내지 않고 한 대의 기기에서 모델을 실행하거나, 인터넷 연결 없이 작업하거나, 반복적인 사용 비용을 줄이고 싶은 경우 매력적이다. 반면 최첨단 대규모 모델, 탄력적인 용량 확장, 협업, 다중 GPU의 높은 처리량이 필요한 작업에는 여전히 클라우드 인프라가 적합하다.

더 현실적인 결론은 ‘AI PC’의 범위가 단순한 NPU 기반 비서에서 개인용 로컬 모델 서버로 넓어지고 있다는 것이다. 충분한 통합 메모리를 갖춘 소형 데스크톱은 대형 모델을 담는 상자가 될 수 있다. 다만 구매자는 메모리 용량만 보고 판단해서는 안 된다. 대역폭, 소프트웨어 생태계, 고정형 메모리, 실제 벤치마크, 확정된 가격과 판매일을 함께 확인해야 한다.

프레임워크가 예고한 데스크톱 상위 모델은 별도 그래픽카드 없이 대형 언어 모델(LLM)을 PC에서 실행하려는 사용자를 겨냥한다. AMD의 16코어 Ryzen AI Max+ PRO 495와 최대 192GB 통합 LPDDR5X-8533 메모리, 초당 273GB의 메모리 대역폭을 한 시스템에 묶은 구성이다.

마이크로소프트 역시 비슷한 통합 메모리 PC를 겨냥한 윈도우 11 기능을 실험 중인 것으로 알려졌다. 다만 이 기능은 아직 공식 발표되지 않았고, 실제 출시 여부도 확정되지 않았다.

두 움직임이 보여주는 방향은 분명하다. 로컬 AI PC의 병목은 이제 프로세서의 연산량만이 아니라, 모델을 담을 수 있는 메모리 용량과 데이터를 옮기는 대역폭이기도 하다. 그렇다고 클라우드 AI가 사라진다는 뜻은 아니다. 현실적으로는 로컬과 클라우드를 함께 쓰는 하이브리드 구조가 확대되는 흐름에 가깝다.

프레임워크 192GB 데스크톱의 구성

예고된 최상위 구성에는 AMD Ryzen AI Max+ PRO 495가 들어간다. 이 칩은 Zen 5 기반 16코어 32스레드 CPU와 Radeon 내장 그래픽, XDNA 2 NPU를 결합한 프로세서다. 메모리는 192GB 통합 LPDDR5X로, 대역폭은 273GB/s로 제시됐다.

기존 Ryzen AI Max+ 395 기반 128GB 구성과 비교하면 메모리 용량은 50% 늘었고, 메모리 대역폭은 256GB/s에서 273GB/s로 약 6.6% 증가했다. 12316

통합 메모리란 CPU와 GPU가 물리적으로 같은 메모리 풀을 공유하는 구조다. 프레임워크에 따르면 이 중 최대 160GB를 내장 GPU에 할당할 수 있다. 일반적인 PC처럼 GPU의 전용 VRAM과 시스템 RAM 사이에서 모델을 쪼개지 않아도 된다는 점이 이 제품의 핵심 매력이다. 110

다만 273GB/s는 작은 데스크톱 기준으로는 상당한 수치지만, 일부 고성능 통합 메모리 시스템보다는 낮다. 모델이 메모리에 들어간다고 해서 빠른 속도로 실행된다는 의미는 아니다. 긴 컨텍스트, 백그라운드 애플리케이션, 여러 사용자가 동시에 메모리 대역폭을 요구하면 실제 응답 속도는 떨어질 수 있다.

어떤 모델을 실행할 수 있나

프레임워크는 Q8 양자화 버전의 DeepSeek V4-Flash를 로컬에서 실행하면서 컨텍스트를 위한 여유 공간도 남는 모습을 시연했다는 보도가 나왔다. 714 다른 보도는 192GB 구성에서 약 2,840억 개 파라미터 규모의 모델을 메모리에 올릴 수 있다고 설명한다. 하지만 이는 모델을 ‘담을 수 있다’는 메모리 용량에 대한 주장이지, 실제 생성 속도를 독립적으로 검증한 벤치마크는 아니다. 4

여기서 양자화가 중요하다. 모델 가중치를 8비트, 4비트처럼 낮은 비트 수로 표현하면 필요한 메모리 용량을 줄일 수 있다. 최종 메모리 요구량은 모델 구조, 실행 소프트웨어의 오버헤드, 컨텍스트 길이, 동시에 실행하는 다른 애플리케이션에 따라 달라진다.

정리하면 메모리 용량은 어떤 모델을 ‘올릴 수 있는지’를 결정한다. 실제 사용성은 메모리 대역폭, 소프트웨어 지원, 연산 성능이 좌우한다. 큰 모델을 실행할 수 있다는 말과 쾌적하게 사용할 수 있다는 말은 같은 뜻이 아니다.

윈도우 11의 ‘IntelligentCarveout’은 무엇을 바꾸나

마이크로소프트가 윈도우 11 실험 빌드 29648.1000에서 ‘IntelligentCarveout’이라는 내부 기능을 시험 중이라는 정황이 포착됐다. 빌드 내부 문자열에는 ‘가속기를 위한 예약 메모리’, ‘그래픽 및 AI 가속을 위한 메모리’와 관련된 문구가 포함된 것으로 전해졌다. 333435

기능의 취지는 통합 메모리 전체를 윈도우가 동적으로 배분하도록 맡기는 대신, 그래픽과 AI 작업을 위해 일정 부분을 미리 예약하는 것으로 보인다. 윈도우 애플리케이션과 LLM 실행기가 같은 메모리 풀을 놓고 경쟁하는 환경에서는 이런 설정이 메모리 접근을 더 예측 가능하게 만들고, 다른 프로그램 때문에 발생하는 할당 실패를 줄일 가능성이 있다.

하지만 IntelligentCarveout은 추가 RAM도, 더 빠른 메모리 버스도, 새로운 AI 가속기도 아니다. 메모리를 AI에 예약하면 그만큼 일반 윈도우 애플리케이션이 사용할 수 있는 공간은 줄어든다. 마이크로소프트는 최종 사용자 인터페이스, 지원 하드웨어, 출시 시점, 실제 출시 여부를 확인하지 않았다. 364044

따라서 이 기능이 128GB 시스템을 160GB 시스템으로 바꿔주는 것은 아니다. 이미 존재하는 통합 메모리를 어떤 작업에 우선 배정할지 조정하는 운영체제 수준의 기능에 가깝다.

업그레이드성과 운영체제 호환성

프레임워크 데스크톱은 경쟁 제품보다 모듈화와 수리 용이성을 강조하는 소형 PC다. 새 구성도 확장성이 열려 있는 PCIe x4 슬롯을 유지할 것으로 예상돼, 호환되는 확장 카드를 추가할 여지가 있다. 13

반면 메모리는 일반적인 DIMM 램처럼 교체할 수 없다. 192GB LPDDR5X는 메인보드에 직접 납땜되는 보드 내장형 메모리이므로, 구매자는 선택한 용량을 사실상 고정 사양으로 봐야 한다. 향후 더 많은 메모리가 필요하다면 보통의 램 교체가 아니라 메인보드 교체가 필요할 가능성이 크다. 13

프레임워크는 윈도우와 리눅스 사용 사례를 함께 제시하고 있으며, 리눅스 사전 설치 옵션도 안내하고 있다. 2 다만 로컬 추론의 호환성은 운영체제보다 어떤 실행 환경과 가속 경로를 선택하느냐에 달려 있다.

AMD 기반 시스템은 ROCm이나 Vulkan을 활용할 수 있지만, 애플 실리콘은 Metal·MLX 생태계를, 엔비디아 시스템은 CUDA 생태계를 중심으로 한다. 이들은 서로 완전히 호환되지 않는다. 한 플랫폼에서 잘 실행되는 모델이 다른 플랫폼에서는 별도의 런타임이나 최적화가 필요할 수 있고, 같은 수준의 성능을 내지 못할 수도 있다. 1924

가격과 출시일은 아직 미정

2026년 8월 31일 기준, 프레임워크는 Ryzen AI Max+ PRO 495와 192GB 메모리를 탑재한 데스크톱을 ‘출시 예정’으로 표시하고 있다. 가격, 예약 판매일, 배송일, 광범위한 판매 지역은 공개하지 않았다. 21011

따라서 현재 성능과 가성비를 단정하기는 이르다. 지금까지 공개된 것은 미리보기와 제조사 시연이며, 토큰 생성 속도, 발열, 전력 소비, 모델별 호환성, 장시간 부하 성능은 독립적인 실사용 테스트가 필요하다. 6

애플과 다른 통합 메모리 PC와 비교하면

프레임워크가 통합 메모리 구조를 처음 만든 것은 아니다. 애플 실리콘은 CPU와 GPU가 메모리를 공유하는 방식을 일찍부터 활용해 왔으며, 일부 구성에서는 더 높은 대역폭을 제공하는 것으로 알려졌다. 예를 들어 M4 Max 기반 구성은 128GB 메모리와 546GB/s 대역폭을 제공한다는 자료가 있다. 1720

AMD Ryzen AI Max+ 395를 탑재한 GMKtec과 Beelink 계열의 소형 PC도 128GB 통합 메모리 구성을 제공하는 대안이다. 엔비디아의 DGX Spark급 시스템은 비슷한 소형·고용량 메모리 영역에서 CUDA 호환성을 강점으로 내세운다. 1924

제품을 비교할 때는 다음 다섯 가지를 봐야 한다.

• 용량: 양자화 모델을 메모리 밖으로 많이 밀어내지 않고 올릴 수 있는지 결정한다.
• 대역폭: 추론 중 모델 데이터를 얼마나 빠르게 이동시킬 수 있는지에 큰 영향을 준다.
• 소프트웨어: 어떤 런타임, 커널, 모델 서버 도구가 제대로 작동하는지 좌우한다.
• 업그레이드성: 통합 LPDDR5X 메모리는 구매 후 교체하기 어려운 경우가 많아 초기 선택이 중요하다.
• 가격과 판매 여부: 공개된 시제품 사양이 실제 구매 가능한 제품인지 판단하게 해준다.

로컬 AI의 다음 병목은 ‘NPU TOPS’가 아니다

프레임워크 데스크톱의 가장 중요한 사양은 NPU의 TOPS 수치가 아니다. 대형 모델을 담을 수 있는 넉넉한 공유 메모리 풀이다. 마이크로소프트가 검토 중인 메모리 예약 기능 역시 같은 변화를 뒷받침한다. PC에서 더 큰 모델을 실행할수록 운영체제의 메모리 관리가 AI 사용 경험의 일부가 된다는 뜻이다.

그렇다고 로컬 PC가 클라우드 추론을 대체하는 것은 아니다. 통합 메모리 시스템은 민감한 데이터를 외부로 보내지 않고 한 대의 기기에서 모델을 실행하거나, 인터넷 연결 없이 작업하거나, 반복적인 사용 비용을 줄이고 싶은 경우 매력적이다. 반면 최첨단 대규모 모델, 탄력적인 용량 확장, 협업, 다중 GPU의 높은 처리량이 필요한 작업에는 여전히 클라우드 인프라가 적합하다.

더 현실적인 결론은 ‘AI PC’의 범위가 단순한 NPU 기반 비서에서 개인용 로컬 모델 서버로 넓어지고 있다는 것이다. 충분한 통합 메모리를 갖춘 소형 데스크톱은 대형 모델을 담는 상자가 될 수 있다. 다만 구매자는 메모리 용량만 보고 판단해서는 안 된다. 대역폭, 소프트웨어 생태계, 고정형 메모리, 실제 벤치마크, 확정된 가격과 판매일을 함께 확인해야 한다.