젠슨 황이 말한 AI의 다음 단계: 에이전트, 인프라, 그리고 컴퓨팅의 한계

엔비디아(Nvidia) CEO 젠슨 황(Jensen Huang)은 최근 대만 방문과 여러 인터뷰에서 인공지능 산업의 향후 방향에 대해 비교적 명확한 메시지를 던졌다. 그의 핵심 주장은 단순하다. 지금의 AI 붐은 정점이 아니라 시작점에 가깝다는 것이다.

황은 특히 AI를 단순한 소프트웨어 혁신이 아니라 거대한 산업 인프라 구축 과정으로 설명했다. 그리고 앞으로의 AI 시대는 챗봇이 아니라 실제 일을 수행하는 **AI 에이전트(agentic AI)**와 이를 움직이는 초대형 컴퓨팅 인프라가 중심이 될 것이라고 말했다.

AI 인프라는 아직 “초기 단계”

젠슨 황은 여러 인터뷰에서 현재 AI 산업을 장기적인 인프라 구축의 초입으로 규정했다. 그는 AI 인프라 건설이 여전히 **“가장 초기 단계(earliest stage)”**에 있으며, 앞으로 최소 10년 이상 산업 전반에서 확장이 계속될 것이라고 전망했다.

이 관점에서 보면 엔비디아는 단순한 반도체 회사라기보다 AI 경제를 떠받치는 플랫폼 기업에 가깝다. 기업들이 AI 시스템을 도입하면서 데이터센터, 네트워크, 메모리, 소프트웨어 스택까지 포함된 새로운 인프라가 구축되고 있기 때문이다.

GPU 기업에서 ‘AI 인프라 플랫폼’으로

황은 엔비디아의 역할을 자주 이렇게 설명한다. 엔비디아는 최종 AI 서비스를 만드는 회사가 아니라, 수천 개 기업이 AI 서비스를 만들 수 있게 하는 기반 플랫폼이라는 것이다.

엔비디아의 AI 스택에는 다음과 같은 요소들이 포함된다.

• GPU 기반 가속 컴퓨팅 하드웨어
• AI 네트워킹 기술
• 데이터센터 인프라
• 모델 학습과 추론을 위한 소프트웨어 플랫폼

황은 이런 시스템을 **“AI 공장(AI factory)”**이라고 표현하기도 한다. 기업들이 필요할 때마다 지능을 생산하듯 AI 서비스를 만들어내는 인프라라는 의미다.

챗봇 다음 단계: AI 에이전트

황이 가장 강조하는 변화 중 하나는 AI 에이전트의 등장이다.

기존 챗봇이 질문에 답하는 수준이었다면, 에이전트 AI는 여러 단계를 계획하고 도구를 활용해 실제 작업을 수행할 수 있다. 그는 이런 시스템이 곧 업무와 일상생활 모두에서 사용될 것이라고 말했다.

그가 그린 미래 시나리오는 꽤 급진적이다. 예를 들어 엔비디아가 10년 후 약 7만5천 명의 직원을 보유하더라도, 동시에 수백만 개의 AI 에이전트가 함께 일할 수 있다는 것이다.

황은 이런 변화가 인간의 일을 완전히 없애기보다는 오히려 업무 속도를 높여 사람들을 더 바쁘게 만들 가능성이 있다고도 말했다. 프로젝트 규모와 속도가 모두 커지기 때문이다.

개인적 AI 사용에 대한 일부 주장

온라인에서는 황이 업무에서 Anthropic의 Claude 같은 AI 도구를 사용한다거나, 가족이 집안 관리에 AI 에이전트를 활용한다는 이야기들이 퍼져 있다.

하지만 대만 방문 관련 주요 언론 보도에서는 이런 일화가 명확하게 확인되지 않았다. 따라서 해당 사례들은 공식 발언이라기보다 확인되지 않은 전언이나 요약으로 보는 것이 안전하다.

AI 성장의 숨은 병목: 메모리

황이 강조한 또 다른 포인트는 컴퓨팅 성능만으로는 AI를 확장할 수 없다는 점이다.

그는 앞으로 AI 성능을 좌우하는 핵심 제약이 메모리 용량과 메모리 대역폭이 될 것이라고 지적했다.

대형 AI 모델은 실시간으로 사고하고 응답해야 하기 때문에 막대한 양의 고대역폭 메모리(HBM)가 필요하다. 모델이 커질수록 GPU뿐 아니라 메모리 시스템 자체가 핵심 경쟁력이 된다는 뜻이다.

왜 대만이 AI 공급망의 중심인가

이번 대만 방문은 또 하나의 현실을 보여준다. AI 산업의 중심에는 여전히 반도체 공급망이 있다는 점이다.

엔비디아의 최첨단 칩 대부분은 대만의 TSMC가 생산한다. 황은 AI 수요가 급증하면서 향후 10년 동안 TSMC의 생산 능력이 두 배 이상 확대될 가능성도 있다고 말했다.

이는 AI 확장이 단순한 소프트웨어 경쟁이 아니라 제조 능력과 공급망 경쟁이기도 하다는 것을 보여준다.

중국 시장은 여전히 중요

지정학적 긴장과 수출 규제에도 불구하고 황은 중국을 중요한 AI 시장으로 계속 언급하고 있다.

그는 중국 정부가 자국 산업 보호와 AI 인프라 확대 사이에서 균형을 잡게 되면, 장기적으로 AI 칩 시장이 다시 열릴 가능성이 있다고 말했다.

동시에 엔비디아의 최첨단 칩 생산에서 대만이 핵심 제조 허브로 남을 것이라고도 강조했다.

AI 컴퓨팅의 미래: 이종(heterogeneous) 시스템

황은 AI 시대에 하나의 칩 구조가 모든 것을 지배할 것이라는 생각에도 동의하지 않는다.

그는 미래 AI 시스템이 GPU, CPU, 네트워크 프로세서 등 다양한 칩이 함께 작동하는 이종 컴퓨팅 구조로 발전할 것이라고 본다.

모델 학습, 추론, 메모리 관리, 에이전트 조정 같은 작업은 각각 다른 종류의 하드웨어가 더 효율적으로 처리할 수 있기 때문이다.

큰 그림

젠슨 황의 발언을 종합하면 AI 산업의 방향은 비교적 분명하게 정리된다.

• AI 인프라 구축은 아직 초기 단계다.
• AI 에이전트가 실제 업무와 일상에서 사람과 협력하게 된다.
• 메모리와 반도체 생산 능력이 AI 확장의 핵심 병목이다.
• 엔비디아는 칩 회사가 아니라 AI 인프라 플랫폼이 되려 한다.

황의 전망이 맞다면, 지금 우리가 보는 AI 붐은 끝이 아니라 더 큰 기술 인프라 시대의 출발점일 가능성이 크다.