알트먼·아모데이·하사비스·황이 말하는 AGI는 서로 다르다

AGI(범용인공지능)는 이제 하나의 기술적 목표라기보다 서로 다른 기대를 담는 포괄어가 됐다. 누군가에게는 대부분의 경제 활동을 수행하는 자율형 디지털 노동자이고, 다른 누군가에게는 노벨상 수상자급 과학 연구자다. 인간이 가진 모든 인지 능력을 갖춘 시스템이라는 뜻으로 쓰이기도 하며, 광범위한 시험에서 사람을 이기는 모델이면 충분하다는 기준도 있다.

그래서 AI 업계 수장들이 자신 있게 서로 다른 시점을 말해도, 실제로는 같은 사건의 날짜를 예측하는 것이 아닐 수 있다. 더 큰 문제는 ‘AGI 달성’ 선언을 판정할 공통의 독립 기준이 없다는 점이다.

네 명의 리더, 네 개의 기준선

샘 알트먼: 경제적으로 가치 있는 일을 자율 수행하는 AI

오픈AI가 널리 인용되는 정의에서 AGI는 대부분의 경제적으로 가치 있는 업무에서 인간을 능가하는 고도의 자율 시스템이다. 이 기준의 중심은 인간의 사고를 완벽히 재현했는지가 아니라, 실제 경제에서 가치 있는 일을 대규모로 해낼 수 있느냐다.

최근 오픈AI의 공개 메시지는 인간의 주도권을 강조한다. 회사는 사람들이 스스로 선택한 목표를 이루도록 돕는 시스템을 만들겠다는 입장이며, 모든 것을 완전히 자동화하는 미래는 위험할 뿐 아니라 보람도 없다고 밝힌다. 23 일자리 전환 프레임워크에서도 업무 일부의 자동화가 곧 직업 자체의 소멸을 뜻하지는 않는다고 본다. 결과물 제공, 감독, 책임의 영역에서 사람이 여전히 핵심일 수 있기 때문이다. 25

다만 이 정의는 유능한 도구, 자율 에이전트, AGI 사이의 경계가 넓고 계속 움직인다는 문제를 남긴다. 현실 경제의 파급력을 추적하는 데는 유용할 수 있지만, 누구나 통과 여부를 확인할 수 있는 과학적 시험은 아니다.

다리오 아모데이: 구체적이지만 비범한 역량 묶음으로서의 ‘강력한 AI’

앤트로픽의 다리오 아모데이 CEO는 AGI보다 **‘강력한 AI(powerful AI)’**라는 표현을 주로 쓴다. 앤트로픽이 정책 문서에서 제시한 강력한 AI는 현 시스템을 크게 뛰어넘는 단계다. 대부분의 분야에서 노벨상 수상자와 같거나 더 높은 지적 능력을 보이고, 인간 디지털 노동자가 쓰는 인터페이스를 활용하며, 복잡한 일을 자율적으로 수행할 수 있어야 한다. 3

앤트로픽은 이런 시스템이 2026년 말 또는 2027년 초에 등장할 것으로 예상했다. 아모데이는 이를 데이터센터 안의 ‘천재들로 이뤄진 국가’에 비유하며, 능력의 집중이 낳을 경제·안보·지정학적 함의를 강조했다. 6 7

일반적인 AGI라는 말보다 조건은 구체적이다. 하지만 분야 전반의 전문성, 도구 사용, 자율성, 장기간의 신뢰성을 하나의 예측에 묶는다. 모델이 이 조건들 일부를 충족하는 시점과 전부를 충족하는 시점은 크게 다를 수 있다.

데미스 하사비스: 인간의 인지 능력 전체를 갖춘 AI

구글 딥마인드의 데미스 하사비스 CEO는 AGI의 문턱을 더 높게 둔다. 그의 기준은 인간이 가진 모든 인지 능력을 갖춘 시스템이다. 그는 인간 수준 AI가 이번 10년 안에 등장할 가능성을 언급하면서도, 현재 시스템은 인간 수준 AGI와는 “거리가 멀다”고 평가했다. 33 38

이 관점에서 AGI는 제품 출시의 이정표라기보다 견고한 일반성을 갖춘 과학적 임계점이다. 일부 전문 영역이나 시험에서의 뛰어난 성적만으로는 충분하지 않다. 인간의 인지가 다루는 넓은 범위에서 작동해야 한다는 뜻이다.

젠슨 황: 폭넓은 시험에서 인간을 앞서는 성능

엔비디아의 젠슨 황 CEO는 비교적 벤치마크 중심의 기준을 제시해 왔다. 그는 2024년 AI가 사실상 모든 시험에서 사람보다 잘할 수 있다면 AGI는 5년 안에 도래할 수 있다고 말했다. 2026년 보도에서는 그가 더 느슨한 실용적 기준 아래 AGI가 달성됐다고 본 것으로 전해졌다. 34

이 방식의 장점은 명료함이다. 시험은 점수로 비교할 수 있다. 반대로 한계도 뚜렷하다. 여러 시험을 통과했다고 해서 복잡하고 예측하기 어려운 현실 환경에서 장기적으로 독립 수행할 능력, 건전한 판단, 안전한 행동이 자동으로 증명되지는 않는다.

같은 카운트다운이 아닌 이유

이들은 하나의 사건에 대해 서로 다른 날짜를 찍는 것이 아니다. 애초에 목적지가 다르다.

• 알트먼·오픈AI: 대부분의 경제적으로 가치 있는 업무에서의 자율적 성과
• 아모데이·앤트로픽: 폭넓은 노벨상급 지적 작업과 장기간 자율적 디지털 업무 수행
• 하사비스·딥마인드: 인간 인지 능력의 완전한 범위
• 황·엔비디아: 광범위한 시험에서 인간을 넘어서는 성능

AI가 많은 벤치마크에서 최고점을 받아도, 몇 주간의 연구 프로젝트를 독립적으로 끝내지는 못할 수 있다. 반대로 디지털 업무의 상당 부분을 자동화해도 인간의 모든 인지 레퍼토리를 보인다고 단정할 수는 없다. 따라서 이 예측들의 날짜를 하나의 ‘AGI 도래 시계’로 읽어서는 안 된다.

AGI가 ‘검증 불가능하다’거나 ‘영적인 개념’처럼 보이는 이유

문제는 AI의 능력을 측정할 수 없어서가 아니다. 측정은 가능하다. 문제는 AGI에 대해 독립적으로 운영되는 공통의 합격·불합격 규칙이 없다는 데 있다.

한 학술 제안은 AGI를 논쟁적인 개념으로 규정하면서, ‘대부분의 과업에서 적어도 인간 수준의 능력을 보이는 시스템’으로 조작적으로 정의한다. 50 이 정의는 용어를 측정 가능하게 만들려는 시도이면서 동시에 해결되지 않은 질문을 드러낸다. 어떤 과업을 넣을 것인가, 어떤 인간을 기준으로 할 것인가, 어느 수준의 신뢰성이 필요한가, 어떤 조건에서 평가할 것인가.

신뢰할 만한 공개 검증 체계라면 적어도 다음이 필요하다.

1. 시연 사례가 아니라 명확히 규정된 과업 분포
2. 실패 빈도를 포함한 성능·신뢰성 기준
3. 일회성 답변뿐 아니라 장기 자율성 및 도구 사용 평가
4. 평가에 맞춘 과도한 사전 훈련을 막는 장치
5. 결과를 재현하거나 감사할 수 있는 독립적 접근권

이런 기반이 없다면 AGI는 결승선을 정할 유인이 가장 큰 기업이 내세우는 지위 선언이 될 수 있다. AI 나우 인스티튜트는 현재 제시되는 지표들이 대체로 협소하고 모호하며 자기이익적이라고 비판했다. 62

용어 논쟁 뒤에 있는 신뢰의 문제

AGI를 둘러싼 다툼은 더 넓은 신뢰의 문제이기도 하다. 기업은 혁신적 역량을 폭넓게 주장할 수 있지만, 노동자와 고객이 실제로 마주하는 시스템은 여전히 성능 편차가 크고 오류가 나며 안정적 배포가 어려울 수 있다. 그렇다고 장기 전망이 모두 틀렸다는 뜻은 아니다. 다만 예외적으로 큰 주장은 관찰 가능한 증거와 책임 있는 예측을 필요로 한다.

일자리 논쟁이 이를 잘 보여준다. 오픈AI는 AI가 일을 재편하고 일부 일자리는 사라질 수 있다고 인정하면서도, 지금까지의 근거는 AI가 대체자라기보다 보조자에 가깝다는 점을 시사한다고 말한다. 17 이는 반드시 모순은 아니다. 과업 자동화, 직업의 변화, 일자리 소멸은 서로 다른 결과이기 때문이다. 그러나 대규모 변화를 예고하면서 실제 노동시장 영향에 대한 투명한 측정치를 함께 내놓지 않으면 공적 신뢰는 약해질 수밖에 없다.

AGI 인증보다 ‘역량 기반’ 감독으로

더 강한 거버넌스 모델은 시스템이 AGI에 도달했는지 선언하는 데 덜 집착하고, 그 시스템이 실제로 보이는 특정 역량과 위험에 집중한다.

앤트로픽의 AI 안전 수준(ASL) 접근은 명시적인 조건부 구조를 사용한다. 모델이 특정한 위험 역량을 보인다면, 일정한 보호조치가 갖춰질 때까지 배포하거나 더 강력한 모델로 확장하지 않는다는 방식이다. 5 앤트로픽의 후속 정책 프레임워크는 투명성, 독립 평가, 위험한 배포를 차단하거나 억제할 정부 권한을 제안한다. 10

알트먼 역시 강력한 모델에 대해 출시 전 시험, 평가 결과 공개를 포함한 외부 검증과 독립적 위험 평가를 요구해 왔다. 49

하사비스는 미국 주도의 ‘프런티어 AI 표준 기구’를 제안했다. 월가의 금융산업규제기구(FINRA)처럼 업계가 재원을 대되 공적 감독 아래 독립적으로 운영하며, 프런티어 모델을 출시 전에 평가하는 조직을 구상한 것이다. 52 여러 선도 AI 기업 지도자들 사이에서도 제3자가 첨단 시스템을 시험하고 정책용 표준 개발에 참여해야 한다는 공감대가 형성되고 있다는 보도도 나왔다. 51

물론 제안과 강제력 있는 실행 사이에는 큰 간극이 있다. 미래생명연구소의 2026년 AI 안전성 지수는 프런티어 AI 위험과 그에 대응하는 평가 절차를 명시적으로 다루는 구속력 있는 국가 규제나 표준이 없다고 지적했다. 59

믿을 만한 AI 주장이 갖춰야 할 것

공공이 던져야 할 질문은 ‘AGI가 왔는가’가 아니다. 이 모델은 정확히 무엇을 할 수 있으며, 얼마나 안정적으로 해내고, 무엇이 잘못될 수 있고, 그 답을 누가 독립적으로 검증했는가다.

그에 따라 필요한 것은 다음과 같은 역량별 요구사항이다.

• 고위험 사이버·생물학·기만 역량에 대한 공개 평가 프로토콜
• 배포 전 독립 시험과 레드팀 평가
• 신뢰성, 사고, 배포 조건의 중대한 변경에 대한 보고
• 입증된 위험 기준을 넘었을 때 적용되는 안전조치와 접근 제한
• 자율적 주장만이 아니라 미준수에 법적 결과를 부과하는 체계

AGI는 앞으로도 강력한 열망이자 마케팅 용어, 철학적 질문으로 남을 수 있다. 그러나 공개 증거가 뒷받침되지 않는 한, 좋은 규제 발동 기준은 되기 어렵다. 개발사가 결승선을 다시 정의하고, 도달을 선언하고, 안전성까지 스스로 인증할 수 없게 될 때 신뢰는 비로소 쌓이기 시작할 것이다.