Jingang GC3는 어떻게 RISC-V와 데이터플로 컴퓨팅으로 영상 AI 병목을 줄이려 하나

Jingang GC3(킹콩 GC3)는 SmarCo HT Tech의 전문 영상 AI·생성형 AI 프로세서로 소개되고 있다. 영상 디코딩, AI 추론, 영상 생성을 서로 다른 장치가 나눠 처리하는 대신, 이 과정을 데이터플로 중심의 하나의 아키텍처 안에 묶으려는 설계다. 알려진 사양은 12개 RISC-V 코어, 200 TOPS의 INT8 연산 성능, 128GB LPDDR5 ECC 통합 메모리다. 35

다만 주목할 부분은 단순히 ‘200 TOPS’라는 숫자가 아니다. GC3가 겨냥하는 문제는 영상 AI 작업에서 실제 계산만큼 큰 비중을 차지하는 데이터 이동이다. 프레임, 모델 데이터, 중간 결과를 프로세서와 메모리 사이에서 반복적으로 옮기는 비용을 줄이겠다는 것이 이 칩의 핵심 주장이다.

영상 AI에서 데이터 이동이 병목이 되는 이유

일반적인 영상 분석 파이프라인에서는 먼저 영상 스트림을 디코딩해 프레임으로 만든다. 이후 프레임을 GPU로 보내 비전 모델 추론을 실행하고, 결과를 다시 여러 후처리 단계로 전달한다. 동시에 처리하는 스트림 수가 늘어나면 연산량뿐 아니라 프레임 전송과 장치 간 동기화도 병목이 될 수 있다. 3

영상 생성도 비슷한 문제를 안고 있다. 확산 모델과 트랜스포머 기반 시스템은 대규모 모델 파라미터와 중간 결과를 다룬다. GC3 관련 보도에 따르면 이러한 중간 데이터가 수백 GB 규모에 이를 수 있어, 반복적인 읽기·쓰기와 장치 간 전송이 메모리 대역폭과 전력, 처리 시간에 부담을 준다. 3

즉 GC3가 해결하려는 과제는 연산 유닛이 부족하다는 문제만이 아니다. 서로 병렬로 돌아가는 여러 처리 단계가 데이터를 주고받고 작업을 맞추는 데 드는 비용까지 줄이려는 접근이다.

GC3가 결합한 설계 요소

데이터플로 컴퓨팅

전통적인 제어 흐름 중심 설계에서는 중앙 프로세서나 스케줄러가 명령을 가져와 실행 순서를 정하고, 데이터는 메모리 계층을 따라 이동한다. 유연하다는 장점이 있지만, 규칙적이고 대규모 병렬 처리가 필요한 일부 영상 작업에는 비효율이 생길 수 있다고 GC3 관련 자료는 설명한다. 3

데이터플로 방식에서는 특정 연산에 필요한 데이터가 준비됐을 때 해당 연산이 진행되도록 구성한다. 이론적으로는 작업의 병렬성을 더 많이 드러내고, 중앙 스케줄링이나 전체 시스템 조율을 기다리며 발생하는 유휴 시간을 줄일 수 있다. 영상 처리에서는 작업을 하나의 중앙 제어 경로로 계속 몰아넣지 않고 여러 단계가 더 끊김 없이 실행되도록 하는 것이 목표다. 3

다만 이는 아키텍처가 추구하는 방향이지, 특정한 성능 향상을 입증하는 결과는 아니다. 현재 공개된 자료에는 CPU, GPU 또는 특정 영상 AI 플랫폼과의 독립적인 종단 간 비교 벤치마크가 제시되지 않았다.

RISC-V 제어 코어

보고된 설계에서 12개의 RISC-V 코어는 프로그래밍 가능한 제어 계층을 담당한다. 영상 및 AI 전용 경로가 특화된 연산을 처리하는 동안, RISC-V 코어는 범용 제어와 스케줄링을 맡는 구조다. 35

따라서 GC3에서 RISC-V는 전체 연산 엔진이라기보다 데이터플로 엔진, 영상 처리 기능, AI 전용 기능과 함께 작동하는 제어 기반에 가깝다. 범용 프로그래밍 가능성을 확보하면서도 처리량이 중요한 작업은 전용 하드웨어에 맡기는 방식이다.

128GB 통합 메모리

GC3는 CPU, VPU, GPU, NPU 경로가 함께 사용하는 128GB LPDDR5 ECC 통합 메모리를 탑재한 것으로 보고됐다. 35 통합 메모리의 의도된 장점은 CPU 메모리와 GPU 메모리처럼 분리된 메모리 풀 사이에서 데이터를 복사해야 하는 상황을 줄이는 데 있다.

공유 메모리 풀을 사용하면 디코딩된 프레임, 모델 가중치, 중간 텐서를 여러 처리 블록이 같은 공간에서 참조할 수 있다. ECC는 메모리 오류를 감지하거나 보호하는 기능을 제공하며, RISC-V 프로세서에서도 ECC 보호 메모리를 활용해 내고장성을 높이는 연구가 진행돼 왔다. 1

그렇다고 통합 메모리가 모든 대역폭 한계를 없애는 것은 아니다. 통합 메모리는 여러 연산 블록이 데이터에 접근하는 방식을 바꾸는 기술이며, 실제 효과는 메모리 대역폭, 소프트웨어 스택, 작업 스케줄링, 구체적인 워크로드에 따라 달라진다.

영상 처리와 AI 경로의 통합

보고된 설계는 영상 인코딩·디코딩 기능과 AI 연산을 하나의 플랫폼에 결합한다. 이론적으로는 영상 입력에서 분석으로 넘어가는 경로, 생성된 콘텐츠에서 인코딩으로 이어지는 경로를 더 직접적으로 만들 수 있다. 35

예상되는 처리 흐름은 다음과 같다.

• 플랫폼 안에서 영상을 디코딩한다.
• 프레임을 필요한 AI 처리 경로에서 바로 사용할 수 있도록 유지한다.
• 별도 장치 사이를 반복적으로 오가지 않고 영상 이해 또는 생성을 수행한다.
• 같은 통합 시스템에서 결과물을 인코딩한다.

모든 작업이 하나의 불가분 단계로 실행된다는 뜻은 아니다. 서로 다른 프로세서와 메모리 시스템 사이에서 발생하는 불필요한 인계와 복사를 줄이도록 설계됐다는 의미에 가깝다.

비용·전력·지연 시간을 줄이려는 방식

GC3가 기대하는 경제적 효과는 아키텍처에서 직접 나온다. 데이터 복사와 메모리 왕복, 장치 간 동기화가 줄어들면 계산 자체보다 데이터 이동에 쓰이는 시간과 에너지도 줄어들 수 있다. 이는 다중 스트림 영상 분석, 로컬 영상 처리, 대규모 중간 텐서를 사용하는 영상 생성 작업에서 특히 의미가 있을 수 있다. 3

잠재적인 이점은 세 가지로 정리할 수 있다.

• 지연 시간: 디코딩, AI 처리, 인코딩 단계 사이의 전송이 줄어들면 입력 프레임이 결과로 바뀌는 경로가 짧아질 수 있다.
• 전력: 메모리 접근과 인터커넥트 트래픽이 감소하면 데이터 이동에 필요한 에너지를 줄일 가능성이 있다.
• 비용: 여러 특화 장치를 따로 구성하고 조율하는 대신 통합 플랫폼을 사용하면 인프라와 운영 부담이 낮아질 수 있다.

그러나 이는 공개 자료가 제시한 설계 목표와 제조사 측 포지셔닝이지, 독립적으로 검증된 성과는 아니다. 현재 자료만으로는 영상 한 편당 비용, 스트림당 소비전력, 종단 간 지연 시간이 실제로 얼마나 줄어드는지 확인할 수 없다.

사양표가 말해주는 것과 말해주지 않는 것

200 TOPS는 INT8 정밀도에서의 AI 연산 능력을 나타내는 수치이지, 실제 애플리케이션 성능을 보장하는 지표는 아니다. 영상 AI 처리량은 모델 호환성, 정밀도, 메모리 대역폭, 컴파일러와 런타임 지원, 영상 포맷, 배치 크기, 동시 스트림 수, 데이터플로 스케줄러의 완성도에 따라서도 달라진다.

128GB 통합 메모리 역시 대형 모델과 중간 데이터를 수용하는 데 도움이 될 수 있지만, 메모리 용량만으로 특정 영상 생성 모델이 효율적으로 실행된다고 단정할 수는 없다. 실제 메모리 트래픽과 소프트웨어 지원이 여전히 중요하다.

결론

Jingang GC3는 영상 AI 처리 경로를 데이터 근접성 중심으로 다시 설계하려는 시도로 이해하는 것이 가장 정확하다. 데이터플로 실행, RISC-V 제어 코어, CPU·VPU·GPU·NPU 경로의 통합, 128GB 통합 메모리를 결합해 기존 CPU·GPU 파이프라인에서 발생하는 데이터 전송과 동기화 장벽을 겨냥한다. 35

하드웨어와 소프트웨어가 의도대로 작동한다면 다중 스트림 영상 분석과 영상 생성을 더 효율적으로 처리할 가능성은 있다. 다만 현재 확인 가능한 근거가 보여주는 가장 신중한 결론은 GC3가 설득력 있는 아키텍처 전략과 제조사 측 사양을 제시했다는 점이다. 비용, 전력 소비, 지연 시간이 실제로 낮아졌다는 독립 검증 결과까지 확보된 것은 아니다.