Sam Altman據報曾向OpenAI員工講解三種治理超級智能的可能方案：成立國際監督機構、讓主要AI實驗室在共同組織下合作，或者由一間開發者取得壓倒性優勢，限制對手使用運算資源。報道指Altman似乎較支持國際監督，並形容第三種情況「很糟糕」。要留意，這三種是討論中的可能走向，並非OpenAI已採納的三項政策。146

三種方案各自代表甚麼？

1. 仿照國際原子能機構的監督模式

第一種構想是成立類似國際原子能機構（IAEA）的國際組織，負責訂立或執行AI安全標準。相關報道提到，這類機構可能監督先進AI系統，並進行檢查或審核；據報Altman較認同這個方向。146

不過，現有報道未交代這個機構的完整權限和具體安排，也不足以確認有關監察運算資源及能源使用等細節，或證明這次內部討論是直接延續某項特定的2023年5月提案。

2. 「Demis方案」：主要實驗室共建一個機構

第二種被稱為「Demis方案」，名稱來自Google DeepMind的Demis Hassabis。構想是由大型AI實驗室組成一個類似歐洲核子研究中心（CERN）的組織，或在共同機構之下合作。報道指，記者Amir Efrati曾將這個想法連繫到約2017年的提案。523

其中一則報道提到，這個組織可能會向合作國家提供模型。5 方案的核心，是透過共同擁有或共同管治來協調研發，而不是讓各實驗室各自競逐。

3. 「Eliezer方案」：一間公司壟斷對手的算力

第三種以AI安全研究者Eliezer Yudkowsky命名。據報在Altman描述的情境中，一間開發者憑自我改進的AI取得決定性領先，再利用由此累積的力量，限制競爭者取得運算資源。報道以「熔晒其他人嘅GPU」概括這個情境，並指Altman不認同這種結果。356

GPU是支援大量運算工作的晶片；這裏的說法是形容對手可能被切斷算力，並非指真的把晶片熔掉。

「Eliezer方案」不等於Yudkowsky主張壟斷

這個名稱可能令人將兩種不同想法混為一談。對Yudkowsky在2022年文章的報道，提到「關鍵行動」（pivotal act）的假設：由一個已對齊的通用人工智能（AGI）阻止其他人開發未對齊、可能造成危險的AGI。710 這跟一間公司利用技術優勢壟斷算力、排除競爭者，並不是同一個情境。

另一則報道指，Yudkowsky後來澄清，他以「燒掉所有GPU」為例並非提出一項方案。34 現有來源未有提供他完整回應的所有內容，因此不宜替他補上未有證實的解釋。可以確認的重點是：一種是假設以介入方式阻止不安全AGI出現；另一種則是單一開發者壟斷運算資源。

目前亦沒有足夠報道證據，證明OpenAI員工把「Eliezer方案」理解為影射Anthropic。單憑方案以Yudkowsky命名，不能推論Anthropic支持這種做法，或認定這個名稱是針對該公司。

三條路，焦點在權力由誰掌握

三種情境最大的分別，是權力落在甚麼地方：國際監督機構、各大實驗室共同組成的組織，還是某一間佔盡優勢的開發者。據報Altman較支持第一種、反對第三種，令「共同監督」與「權力集中」之間的取捨，成為這次討論最清晰的訊息。146

Sam Altman據報曾向OpenAI員工講解三種治理超級智能的可能方案：成立國際監督機構、讓主要AI實驗室在共同組織下合作，或者由一間開發者取得壓倒性優勢，限制對手使用運算資源。報道指Altman似乎較支持國際監督，並形容第三種情況「很糟糕」。要留意，這三種是討論中的可能走向，並非OpenAI已採納的三項政策。146

三種方案各自代表甚麼？

1. 仿照國際原子能機構的監督模式

第一種構想是成立類似國際原子能機構（IAEA）的國際組織，負責訂立或執行AI安全標準。相關報道提到，這類機構可能監督先進AI系統，並進行檢查或審核；據報Altman較認同這個方向。146

不過，現有報道未交代這個機構的完整權限和具體安排，也不足以確認有關監察運算資源及能源使用等細節，或證明這次內部討論是直接延續某項特定的2023年5月提案。

2. 「Demis方案」：主要實驗室共建一個機構

第二種被稱為「Demis方案」，名稱來自Google DeepMind的Demis Hassabis。構想是由大型AI實驗室組成一個類似歐洲核子研究中心（CERN）的組織，或在共同機構之下合作。報道指，記者Amir Efrati曾將這個想法連繫到約2017年的提案。523

其中一則報道提到，這個組織可能會向合作國家提供模型。5 方案的核心，是透過共同擁有或共同管治來協調研發，而不是讓各實驗室各自競逐。

3. 「Eliezer方案」：一間公司壟斷對手的算力

第三種以AI安全研究者Eliezer Yudkowsky命名。據報在Altman描述的情境中，一間開發者憑自我改進的AI取得決定性領先，再利用由此累積的力量，限制競爭者取得運算資源。報道以「熔晒其他人嘅GPU」概括這個情境，並指Altman不認同這種結果。356

GPU是支援大量運算工作的晶片；這裏的說法是形容對手可能被切斷算力，並非指真的把晶片熔掉。

「Eliezer方案」不等於Yudkowsky主張壟斷

這個名稱可能令人將兩種不同想法混為一談。對Yudkowsky在2022年文章的報道，提到「關鍵行動」（pivotal act）的假設：由一個已對齊的通用人工智能（AGI）阻止其他人開發未對齊、可能造成危險的AGI。710 這跟一間公司利用技術優勢壟斷算力、排除競爭者，並不是同一個情境。

另一則報道指，Yudkowsky後來澄清，他以「燒掉所有GPU」為例並非提出一項方案。34 現有來源未有提供他完整回應的所有內容，因此不宜替他補上未有證實的解釋。可以確認的重點是：一種是假設以介入方式阻止不安全AGI出現；另一種則是單一開發者壟斷運算資源。

目前亦沒有足夠報道證據，證明OpenAI員工把「Eliezer方案」理解為影射Anthropic。單憑方案以Yudkowsky命名，不能推論Anthropic支持這種做法，或認定這個名稱是針對該公司。

三條路，焦點在權力由誰掌握

三種情境最大的分別，是權力落在甚麼地方：國際監督機構、各大實驗室共同組成的組織，還是某一間佔盡優勢的開發者。據報Altman較支持第一種、反對第三種，令「共同監督」與「權力集中」之間的取捨，成為這次討論最清晰的訊息。146