젠슨 황이 말한 AI의 다음 단계: 에이전트, 인프라, 그리고 컴퓨팅의 한계

그가 그린 미래 시나리오는 꽤 급진적이다. 예를 들어 엔비디아가 10년 후 약 7만5천 명의 직원을 보유하더라도, 동시에 수백만 개의 AI 에이전트가 함께 일할 수 있다는 것이다.

황은 이런 변화가 인간의 일을 완전히 없애기보다는 오히려 업무 속도를 높여 사람들을 더 바쁘게 만들 가능성이 있다고도 말했다. 프로젝트 규모와 속도가 모두 커지기 때문이다.

개인적 AI 사용에 대한 일부 주장

온라인에서는 황이 업무에서 Anthropic의 Claude 같은 AI 도구를 사용한다거나, 가족이 집안 관리에 AI 에이전트를 활용한다는 이야기들이 퍼져 있다.

하지만 대만 방문 관련 주요 언론 보도에서는 이런 일화가 명확하게 확인되지 않았다. 따라서 해당 사례들은 공식 발언이라기보다 확인되지 않은 전언이나 요약으로 보는 것이 안전하다.

AI 성장의 숨은 병목: 메모리

황이 강조한 또 다른 포인트는 컴퓨팅 성능만으로는 AI를 확장할 수 없다는 점이다.

그는 앞으로 AI 성능을 좌우하는 핵심 제약이 메모리 용량과 메모리 대역폭이 될 것이라고 지적했다.

대형 AI 모델은 실시간으로 사고하고 응답해야 하기 때문에 막대한 양의 고대역폭 메모리(HBM)가 필요하다. 모델이 커질수록 GPU뿐 아니라 메모리 시스템 자체가 핵심 경쟁력이 된다는 뜻이다.

왜 대만이 AI 공급망의 중심인가

이번 대만 방문은 또 하나의 현실을 보여준다. AI 산업의 중심에는 여전히 반도체 공급망이 있다는 점이다.

엔비디아의 최첨단 칩 대부분은 대만의 TSMC가 생산한다. 황은 AI 수요가 급증하면서 향후 10년 동안 TSMC의 생산 능력이 두 배 이상 확대될 가능성도 있다고 말했다.

이는 AI 확장이 단순한 소프트웨어 경쟁이 아니라 제조 능력과 공급망 경쟁이기도 하다는 것을 보여준다.

중국 시장은 여전히 중요

지정학적 긴장과 수출 규제에도 불구하고 황은 중국을 중요한 AI 시장으로 계속 언급하고 있다.

그는 중국 정부가 자국 산업 보호와 AI 인프라 확대 사이에서 균형을 잡게 되면, 장기적으로 AI 칩 시장이 다시 열릴 가능성이 있다고 말했다.

동시에 엔비디아의 최첨단 칩 생산에서 대만이 핵심 제조 허브로 남을 것이라고도 강조했다.

AI 컴퓨팅의 미래: 이종(heterogeneous) 시스템

황은 AI 시대에 하나의 칩 구조가 모든 것을 지배할 것이라는 생각에도 동의하지 않는다.

그는 미래 AI 시스템이 GPU, CPU, 네트워크 프로세서 등 다양한 칩이 함께 작동하는 이종 컴퓨팅 구조로 발전할 것이라고 본다.

모델 학습, 추론, 메모리 관리, 에이전트 조정 같은 작업은 각각 다른 종류의 하드웨어가 더 효율적으로 처리할 수 있기 때문이다.

큰 그림

젠슨 황의 발언을 종합하면 AI 산업의 방향은 비교적 분명하게 정리된다.

• AI 인프라 구축은 아직 초기 단계다.
• AI 에이전트가 실제 업무와 일상에서 사람과 협력하게 된다.
• 메모리와 반도체 생산 능력이 AI 확장의 핵심 병목이다.
• 엔비디아는 칩 회사가 아니라 AI 인프라 플랫폼이 되려 한다.

황의 전망이 맞다면, 지금 우리가 보는 AI 붐은 끝이 아니라 더 큰 기술 인프라 시대의 출발점일 가능성이 크다.