답변게시됨19 소스
국제 감시기구부터 ‘GPU 독점’까지…올트먼이 말한 초지능의 세 가지 시나리오
올트먼은 국제 감시기구, 주요 AI 연구소의 공동 조직, 경쟁사의 컴퓨팅 자원까지 차단할 수 있는 단일 개발자라는 세 가지 시나리오를 설명한 것으로 전해졌다. 보도에 따르면 그는 국제적 감독 방안을 선호하고, 한 개발자가 경쟁자를 배제하는 시나리오는 끔찍하다고 평가했다.
게시자GPT-6 Luna로 편집GPT Image 2로 이미지 생성
연구 답변
주요 시사점
- 올트먼은 국제 감시기구, 주요 AI 연구소의 공동 조직, 경쟁사의 컴퓨팅 자원까지 차단할 수 있는 단일 개발자라는 세 가지 시나리오를 설명한 것으로 전해졌다.
- 보도에 따르면 그는 국제적 감독 방안을 선호하고, 한 개발자가 경쟁자를 배제하는 시나리오는 끔찍하다고 평가했다. [1][4][6]
- ‘엘리에저 플랜’이라는 이름만으로 엘리에저 유드코스키가 기업의 독점을 지지한다고 볼 수는 없다. 그의 2022년 가상 시나리오와 경쟁사 배제 시나리오는 구분할 필요가 있다.
AI 프롬프트
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
샘 올트먼 오픈AI 최고경영자(CEO)가 직원들에게 초지능을 어떻게 관리할지에 관한 세 가지 시나리오를 설명했다는 보도가 나왔다. 국제 감시기구를 두는 방안, 주요 AI 연구소를 하나의 공동 조직으로 묶는 방안, 한 개발자가 압도적인 힘을 얻어 경쟁자의 컴퓨팅 자원까지 막는 방안이다. 보도에 따르면 올트먼은 첫 번째에 무게를 뒀고, 세 번째 시나리오는 끔찍하다고 평가했다. 다만 이는 가능한 미래에 대한 논의이지, 오픈AI가 채택한 정책 세 가지를 뜻하지는 않는다. 1
4
6
세 가지 시나리오
1. 국제원자력기구(IAEA)식 감시기구
첫 번째 방안은 국제원자력기구(IAEA)와 비슷한 국제기구를 만들어 AI 안전 기준을 마련하거나 집행하는 것이다. 보도에 따르면 이 기구는 고도화된 AI 시스템을 감독하고, 검사나 감사를 수행하는 구상을 포함한다. 1
4
6
다만 현재 보도된 내용만으로는 이 기구에 어떤 권한을 부여할지 구체적인 설계까지 확인하기 어렵다. 연산 자원과 에너지 사용량을 모두 추적한다는 세부 내용이나, 이번 내부 논의가 2023년 5월의 특정 제안에서 직접 이어졌다는 점도 확인된 사실로 단정하기 어렵다.
2. ‘데미스 플랜’
두 번째는 ‘데미스 플랜’이다. 구글 딥마인드의 데미스 허사비스 이름을 딴 것으로, 주요 AI 연구소를 하나의 CERN식 조직으로 합치거나 공동 기구 아래서 협력하게 하는 구상이다. 기자 아미르 에프라티는 이 아이디어를 2017년 무렵의 제안과 연결했다. 5
23
한 보도는 이 조직이 협력하는 국가들에 모델을 제공하는 방안도 설명한다. 5 핵심은 각 연구소가 따로 경쟁하는 대신, 공동 소유나 공동 거버넌스를 통해 개발을 조율하는 데 있다.
3. ‘엘리에저 플랜’
세 번째 시나리오는 AI 안전 연구자 엘리에저 유드코스키의 이름을 따 ‘엘리에저 플랜’으로 불렸다. 올트먼의 논의에 등장한 버전에서는 한 개발자가 스스로를 개선하는 AI를 통해 결정적인 우위를 차지하고, 그 힘으로 경쟁자들의 컴퓨팅 자원 접근을 제한한다. 이 시나리오는 “다른 모든 사람의 GPU를 녹인다”는 표현으로 요약됐다. 보도에 따르면 올트먼은 이 결과를 받아들일 수 없다고 봤다. 3
5
6
여기서 ‘GPU를 녹인다’는 말은 그래픽처리장치(GPU)를 물리적으로 파괴한다는 뜻이 아니라, 경쟁자들이 연산 자원을 이용하지 못하게 한다는 비유다.
유드코스키의 가상 시나리오와 ‘엘리에저 플랜’은 같은 말일까
이 명칭은 서로 다른 두 구상을 혼동하게 만들 수 있다. 유드코스키의 2022년 글과 관련한 설명에는 정렬된 인공지능 일반지능(AGI)이 정렬되지 않은 AGI의 개발을 막는 ‘결정적 행동(pivotal act)’이 등장한다. 7
10 이는 한 기업이 우위를 이용해 경쟁 개발자를 밀어내는 시나리오와 동일하지 않다.
별도 보도에 따르면 유드코스키는 이후 자신이 든 ‘모든 GPU를 불태운다’는 예시는 제안이 아니었다고 밝혔다. 34 다만 현재 확인 가능한 자료만으로는 그의 전체 답변과 세부 단서를 모두 재구성하기 어렵다. 구분해야 할 핵심은 정렬되지 않은 AGI를 막기 위한 가상 개입과, 특정 개발자가 연산 자원 접근을 독점하는 시나리오다.
또한 오픈AI 직원들이 ‘엘리에저 플랜’이라는 이름을 앤스로픽을 겨냥한 조롱으로 받아들였다는 점은 현재 자료로 확인되지 않는다. 시나리오에 유드코스키의 이름이 붙었다는 사실만으로 앤스로픽이 이를 지지한다거나 해당 명칭이 앤스로픽을 겨냥했다고 볼 수는 없다.
핵심은 권력이 어디에 모이느냐
세 시나리오의 차이는 권한의 소재에 있다. 국제 감시기구에 감독 권한을 맡길지, 주요 연구소가 공동 조직을 꾸릴지, 아니면 한 개발자가 압도적 우위를 차지할지의 문제다. 올트먼이 첫 번째 방안을 선호하고 세 번째를 거부했다는 보도에서 가장 분명하게 드러나는 대조는 공동 감독과 권력 집중 사이의 간극이다. 1
4
6
Studio Global AI
연구를 계속하세요
이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.
사람들은 또한 묻습니다.
"국제 감시기구부터 ‘GPU 독점’까지…올트먼이 말한 초지능의 세 가지 시나리오"에 대한 짧은 대답은 무엇입니까?
올트먼은 국제 감시기구, 주요 AI 연구소의 공동 조직, 경쟁사의 컴퓨팅 자원까지 차단할 수 있는 단일 개발자라는 세 가지 시나리오를 설명한 것으로 전해졌다.
먼저 검증할 핵심 포인트는 무엇인가요?
올트먼은 국제 감시기구, 주요 AI 연구소의 공동 조직, 경쟁사의 컴퓨팅 자원까지 차단할 수 있는 단일 개발자라는 세 가지 시나리오를 설명한 것으로 전해졌다. 보도에 따르면 그는 국제적 감독 방안을 선호하고, 한 개발자가 경쟁자를 배제하는 시나리오는 끔찍하다고 평가했다. [1][4][6]
실무에서는 다음으로 무엇을 해야 합니까?
‘엘리에저 플랜’이라는 이름만으로 엘리에저 유드코스키가 기업의 독점을 지지한다고 볼 수는 없다. 그의 2022년 가상 시나리오와 경쟁사 배제 시나리오는 구분할 필요가 있다.
출처
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI