황은 엔비디아의 역할을 자주 이렇게 설명한다. 엔비디아는 최종 AI 서비스를 만드는 회사가 아니라, 수천 개 기업이 AI 서비스를 만들 수 있게 하는 기반 플랫폼이라는 것이다.
엔비디아의 AI 스택에는 다음과 같은 요소들이 포함된다.
황은 이런 시스템을 **“AI 공장(AI factory)”**이라고 표현하기도 한다. 기업들이 필요할 때마다 지능을 생산하듯 AI 서비스를 만들어내는 인프라라는 의미다.
황이 가장 강조하는 변화 중 하나는 AI 에이전트의 등장이다.
기존 챗봇이 질문에 답하는 수준이었다면, 에이전트 AI는 여러 단계를 계획하고 도구를 활용해 실제 작업을 수행할 수 있다. 그는 이런 시스템이 곧 업무와 일상생활 모두에서 사용될 것이라고 말했다.
그가 그린 미래 시나리오는 꽤 급진적이다. 예를 들어 엔비디아가 10년 후 약 7만5천 명의 직원을 보유하더라도, 동시에 수백만 개의 AI 에이전트가 함께 일할 수 있다는 것이다.
황은 이런 변화가 인간의 일을 완전히 없애기보다는 오히려 업무 속도를 높여 사람들을 더 바쁘게 만들 가능성이 있다고도 말했다. 프로젝트 규모와 속도가 모두 커지기 때문이다.
온라인에서는 황이 업무에서 Anthropic의 Claude 같은 AI 도구를 사용한다거나, 가족이 집안 관리에 AI 에이전트를 활용한다는 이야기들이 퍼져 있다.
하지만 대만 방문 관련 주요 언론 보도에서는 이런 일화가 명확하게 확인되지 않았다. 따라서 해당 사례들은 공식 발언이라기보다 확인되지 않은 전언이나 요약으로 보는 것이 안전하다.
황이 강조한 또 다른 포인트는 컴퓨팅 성능만으로는 AI를 확장할 수 없다는 점이다.
그는 앞으로 AI 성능을 좌우하는 핵심 제약이 메모리 용량과 메모리 대역폭이 될 것이라고 지적했다.
대형 AI 모델은 실시간으로 사고하고 응답해야 하기 때문에 막대한 양의 고대역폭 메모리(HBM)가 필요하다. 모델이 커질수록 GPU뿐 아니라 메모리 시스템 자체가 핵심 경쟁력이 된다는 뜻이다.
이번 대만 방문은 또 하나의 현실을 보여준다. AI 산업의 중심에는 여전히 반도체 공급망이 있다는 점이다.
엔비디아의 최첨단 칩 대부분은 대만의 TSMC가 생산한다. 황은 AI 수요가 급증하면서 향후 10년 동안 TSMC의 생산 능력이 두 배 이상 확대될 가능성도 있다고 말했다.
이는 AI 확장이 단순한 소프트웨어 경쟁이 아니라 제조 능력과 공급망 경쟁이기도 하다는 것을 보여준다.
지정학적 긴장과 수출 규제에도 불구하고 황은 중국을 중요한 AI 시장으로 계속 언급하고 있다.
그는 중국 정부가 자국 산업 보호와 AI 인프라 확대 사이에서 균형을 잡게 되면, 장기적으로 AI 칩 시장이 다시 열릴 가능성이 있다고 말했다.
동시에 엔비디아의 최첨단 칩 생산에서 대만이 핵심 제조 허브로 남을 것이라고도 강조했다.
황은 AI 시대에 하나의 칩 구조가 모든 것을 지배할 것이라는 생각에도 동의하지 않는다.
그는 미래 AI 시스템이 GPU, CPU, 네트워크 프로세서 등 다양한 칩이 함께 작동하는 이종 컴퓨팅 구조로 발전할 것이라고 본다.
모델 학습, 추론, 메모리 관리, 에이전트 조정 같은 작업은 각각 다른 종류의 하드웨어가 더 효율적으로 처리할 수 있기 때문이다.
젠슨 황의 발언을 종합하면 AI 산업의 방향은 비교적 분명하게 정리된다.
황의 전망이 맞다면, 지금 우리가 보는 AI 붐은 끝이 아니라 더 큰 기술 인프라 시대의 출발점일 가능성이 크다.