답변게시됨22 소스
앤드루 응 “AI 인류 멸종론은 과학보다 SF에 가깝다”…안전 논쟁의 다른 해법
앤드루 응은 AI 인류 멸종론을 “과학보다 공상과학에 훨씬 가깝다”고 일축했다. [10] 응은 AI의 불확실성이 개발 중단의 근거가 아니라, 시험·안전장치·공학으로 관리할 문제라고 봤다. [10] 그는 종말론적 경고가 AI의 사회적 효용에 대한 논의를 가리고, 홍보나 규제 틀을 형성하는 데 활용될 수 있다고 지적했다.
게시자GPT Image 2로 이미지 생성
연구 답변
주요 시사점
- 앤드루 응은 AI 인류 멸종론을 “과학보다 공상과학에 훨씬 가깝다”고 일축했다. [10]
- 응은 AI의 불확실성이 개발 중단의 근거가 아니라, 시험·안전장치·공학으로 관리할 문제라고 봤다. [10]
- 그는 종말론적 경고가 AI의 사회적 효용에 대한 논의를 가리고, 홍보나 규제 틀을 형성하는 데 활용될 수 있다고 지적했다. [8][10]
- 다리오 아모데이, 샘 올트먼, 제프리 힌턴 등은 통제 상실 위험을 이유로 최첨단 AI의 개발 속도를 의도적으로 조절해야 한다는 쪽에 더 가깝다.
AI 프롬프트
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
“멸종 위험”보다 검증 가능한 실패에 집중해야 한다
AI 연구자이자 구글 브레인 공동 창립자, 코세라 공동 창립자인 앤드루 응은 9월 17일 블룸버그 TV 인터뷰에서 AI가 인류 멸종을 초래할 가능성이 높다는 주장을 **“과학보다 공상과학에 훨씬 가깝다”**고 말했다. 10
그의 요지는 AI가 완벽히 예측 가능한 기술이 될 수는 없더라도, 그 불확실성 자체가 사회 전체의 개발 중단을 뜻하지는 않는다는 것이다. 충분한 테스트, 안전장치, 반복적인 공학 개선을 통해 시스템을 받아들일 수 있는 수준까지 신뢰성 있게 만들 수 있다는 입장이다. 10
응은 안전을 무시하자고 한 것이 아니다. 특히 사이버보안처럼 예상 가능한 구체적 피해와 실패 가능성에는 엄격한 검증과 보호장치를 적용해야 한다고 강조했다. 또 AI 개발을 광범위하게 늦추면 안전 기술의 진전까지 늦어질 수 있다고 경고했다. 10
왜 ‘종말론’ 메시지를 경계했나
응은 대형 AI 연구소의 연구자와 경영진이 내놓는 실존적 위험 경고가 AI가 사회에 줄 수 있는 최대의 편익을 실현하는 데 오히려 해로울 수 있다고 봤다. 그는 이전 AI 붐에서도 업계가 잠재적 재앙에 대한 공포를 부각해 관심을 끌고 규제의 방향을 형성하려 했던 사례가 있었다고 언급했다. 8
즉, 응의 비판은 안전 규칙 자체보다도 검증하기 어려운 인류 멸종 서사가 논의를 지배하는 방식을 향한다. 그가 선호하는 접근은 추상적인 종말 시나리오보다 실제로 측정·시험·완화할 수 있는 위험을 안전공학의 과제로 다루는 것이다. 8
10
감속론 진영과의 핵심 차이
AI 업계에서는 응과 다른 결론에 도달한 인사들도 적지 않다.
- 제이컵 콕슨: 오픈AI와 앤트로픽에서 일했던 전 연구원으로, 자기개선형 시스템을 향한 빠른 경쟁이 심각한 재앙 위험을 만들 수 있다며 개발 속도를 늦춰야 한다고 주장했다.
2
14
- 다리오 아모데이: 앤트로픽 최고경영자(CEO)는 최첨단 모델의 능력 향상 속도를 늦추고 위험 관리 시간을 확보하자고 제안했다. 독립 평가자를 포함하는 3단계 방안도 내놨다.
3
- 샘 올트먼: 오픈AI CEO는 인간이 통제하기 어려운 시스템에 가까워질 수 있다는 우려 속에서, 감속과 안전장치의 기본 취지에 동조했다.
1
9
- 제프리 힌턴: AI가 인간의 통제에서 벗어날 위험이 상당하다고 보며, 출시 전 테스트 등을 포함한 더 느린 개발과 강한 보호조치를 지지했다.
16
차이는 위험의 확률 판단과 정책 우선순위에 있다. 콕슨·아모데이·올트먼·힌턴은 통제 상실 가능성이 충분히 크므로 최첨단 AI의 능력 발전 속도를 의도적으로 조절해야 한다고 본다. 반면 응은 멸종 주장을 지나치게 추측적인 것으로 보고, 가까운 시일 내 관찰 가능한 피해를 시험과 안전공학으로 해결하는 데 무게를 둔다. 3
10
16
개발 감속에 반대하는 목소리와는 어디가 다른가
젠슨 황 엔비디아 CEO, 마크 저커버그 메타 CEO, 도널드 트럼프 미국 대통령, 중국 정부 관계자들은 업계 전반의 AI 개발 감속 요구에 반대하거나 회의적인 태도를 보였다. 황은 새로운 AI 전용 법이 필요하지 않다고 했고, 트럼프는 AI 위험론을 “사기”라고 부르며 미국의 경쟁력, 특히 중국과의 경쟁을 강조했다. 중국 외교부 대변인도 최첨단 AI 개발을 늦추라는 요구에 반대했다. 5
11
17
이들의 결론은 응의 ‘전면 감속 반대’와 일부 겹치지만 출발점은 같지 않다. 응은 경쟁 우위보다 구체적 위험에 대한 기술적 통제와 검증을 중심에 둔다. 반면 황·트럼프·중국 측의 발언은 혁신 속도와 국가·기업 경쟁력, 추가 규제에 대한 회의론을 더 강하게 전면에 내세웠다. 5
10
11
한편, 제공된 보도만으로는 에이단 고메즈와 스티브 아이즈먼이 업계 전반의 감속, 안전 연구, 규제, 국제 거버넌스 각각에 대해 어떤 입장을 취했는지를 단정하기에 충분한 근거를 확인하기 어렵다.
Studio Global AI
연구를 계속하세요
이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.
사람들은 또한 묻습니다.
"앤드루 응 “AI 인류 멸종론은 과학보다 SF에 가깝다”…안전 논쟁의 다른 해법"에 대한 짧은 대답은 무엇입니까?
앤드루 응은 AI 인류 멸종론을 “과학보다 공상과학에 훨씬 가깝다”고 일축했다. [10]
먼저 검증할 핵심 포인트는 무엇인가요?
앤드루 응은 AI 인류 멸종론을 “과학보다 공상과학에 훨씬 가깝다”고 일축했다. [10] 응은 AI의 불확실성이 개발 중단의 근거가 아니라, 시험·안전장치·공학으로 관리할 문제라고 봤다. [10]
실무에서는 다음으로 무엇을 해야 합니까?
그는 종말론적 경고가 AI의 사회적 효용에 대한 논의를 가리고, 홍보나 규제 틀을 형성하는 데 활용될 수 있다고 지적했다. [8][10]
출처