엔비디아의 황젠슨 CEO가 ‘안전하지 않은 AI’를 개발하는 고객에게 칩 공급을 끊을 수 있느냐는 질문에 “가정적인 상황이지만, 그렇다”고 답했다. 다만 실제 공급 중단을 결정한 것은 아니며, 어떤 AI를 위험하다고 판단할지 기준도 밝히지 않았다. 황 CEO는 조치에 앞서 고객과 먼저 대화하겠다고 말했다.
1
10
엔비디아는 같은 날 영국의 에이전트형 AI 안전·보안 연구를 위해 5년간 2억5,000만 달러 규모의 컴퓨팅 자원을 지원하겠다고 발표했다. 현금 2억5,000만 달러를 지급하는 것이 아니라 연구에 필요한 컴퓨팅 이용 기회를 제공하는 약속이다.
3
“가정적인 상황”이라고 선을 그은 칩 공급 중단 발언
황 CEO는 10월 14일 런던에서 블룸버그의 에밀리 창과 인터뷰했다. 무책임한 AI 개발자에게 칩 공급을 중단하겠느냐는 질문에 그는 “가정적인 상황이지만, 그렇다”고 답했다. 다만 공급을 끊기 전에 해당 고객과 대화하겠다고 덧붙였다.
1
그는 엔비디아가 다른 회사의 사업을 운영하는 것은 아니며, 고객이 자사 기술을 어떻게 쓰는지 판단하는 데도 한계가 있다고 설명했다.
1 따라서 이번 발언은 구체적인 공급 중단 조치나 확정된 집행 정책이라기보다 가능성을 묻는 가정적 답변에 가깝다. 보도에는 특정 고객의 이름이나 ‘안전하지 않은 AI’를 가르는 기준이 나오지 않았다.
1
10
AI 안전 우려를 보는 황 CEO의 시각
황 CEO는 현재 제기되는 AI 우려의 수준이 정당화되지 않는다고 말했다. 그는 개발 속도를 늦추기보다는 차단·감시 기술을 더 빠르게 발전시키고, AI를 활용해 AI를 안전하게 관리하는 등 공학적 방법으로 위험에 대응해야 한다는 입장이다.
1
9
이는 AI 위험을 다루는 방법에 대한 황 CEO의 견해이지, 모든 AI 시스템이 통제되거나 안전하게 배포될 수 있다는 증거는 아니다. 그의 접근은 안전 문제를 해결하기 위해 AI 개발 속도를 늦춰야 한다는 일부 업계 인사들의 주장과 대비된다.
9
17
황 CEO는 9월 말 뉴욕에서도 “AI가 통제 불능 상태로 날뛰지는 않을 것”이라고 말했다. 당시 그는 AI를 정렬·통제·감시할 수 있는 소프트웨어로 설명했다. 런던 발언과 마찬가지로, 이는 기술적 안전장치에 대한 그의 자신감을 보여주는 말이지 AI 위험을 둘러싼 논쟁을 끝내는 근거는 아니다.
28
영국 AI 안전 연구에 5년간 2억5,000만 달러 규모 지원
엔비디아가 발표한 지원은 영국의 에이전트형 AI 안전·보안 연구를 위한 5년간의 컴퓨팅 자원 기부로, 회사가 밝힌 가치는 2억5,000만 달러다. 현금 지원이 아니라 컴퓨팅 자원을 제공하는 방식이며, 단순히 5년으로 나누면 연평균 가치는 5,000만 달러다.
3
엔비디아는 영국 연구계 전반을 지원하고, 지원분 일부를 BOLD, SOFAIR, 임페리얼 칼리지 런던에 제공할 계획이라고 밝혔다. 전체 지원액을 이 세 곳이 나눠 받는다는 뜻은 아니다.
3
컴퓨팅 자원은 영국 기반 클라우드 파트너를 통해 제공될 예정이지만, 파트너 선정과 상업적 조건은 아직 합의되지 않은 것으로 보도됐다.
40 이번 약속은 기술 연구를 통해 AI 안전을 높이겠다는 황 CEO의 강조와 맞닿아 있지만, 엔비디아가 고객의 AI 개발을 어떤 기준으로 위험하다고 판단할지는 여전히 밝혀지지 않았다.