英王查理斯三世 9 月 17 日在蘇格蘭艾爾郡（Ayrshire）的鄧弗里斯宮（Dumfries House）召集 AI 企業與英國政府高層閉門會面，討論怎樣讓人工智能造福社會，同時不致脫離人類控制。出席者包括 Nvidia、Google DeepMind、OpenAI、Anthropic 的代表，以及英國 AI 國務大臣 Kanishka Narayan。會議重點是探討共同原則，並非達成具約束力的監管協議。1912

查理斯三世：保障措施不能等到出事後

查理斯三世形容 AI 既令人期待，也令人憂慮。他促請業界確保技術服務於人、社群和地球，並警告強大系統一旦落入不當人士手中、被用作造成災難性後果，可能帶來「存在性危險」。他的重點是：保障措施必須在「太遲」之前認真建立。91113

這個說法反映前沿 AI 管治的一個關鍵憂慮：模型能力急速提升時，監管制度、安全實務和社會規範會否追不上。峰會正是要討論如何在維護人類尊嚴和社會利益的同時，限制這類風險。19

黃仁勳的主張：規管 AI 應用產品，而非 AI 一概而論

Nvidia 行政總裁黃仁勳並非認為 AI 安全不重要。他認為，公司有責任嚴格測試系統；如果對產品安全沒有信心，就不應推出。對他來說，這是基本工程責任。182330

不過，他與要求制定全面 AI 規則的一方，分歧在於規管對象。黃仁勳認為，AI 是支撐不同產品的底層技術，不是一件像社交媒體般單一的消費產品。因此，監管機構應集中處理採用 AI 的產品與服務：留意哪些部署出了問題，發現法律缺口時才在現有法例上加訂條文。他以醫療、交通和娛樂等已有監管制度的行業為例。2628

換言之，這是一套以產品和行業場景為本的做法：

• 按具體用途評估風險，例如醫療或交通產品；
• AI 部署造成問題或暴露法規缺口時，沿用或擴展相關行業規則；
• 產品推出前，先在受控環境作審慎、嚴格測試。2328

這種思路較少依賴一部涵蓋所有 AI 的大型新法，也不支持以特別安排強制放慢模型研發。

與峰會「預防為先」取向有何不同？

查理斯三世關心的，是嚴重濫用，以及可能在有明確問題產品出現前已形成的風險。這屬較前瞻的管治取向：要及早建立保障和國際合作機制，避免災難性結果發生。111

Anthropic 行政總裁 Dario Amodei 早前則呼籲放慢前沿模型的開發速度，好讓安全措施追得上能力進展。黃仁勳反駁，毋須新增法律或特別協調安排來推動減速；他主張靠工程、測試和既有法律工具處理。830

實際爭議，是在哪個環節介入：

取向	主要焦點	較理想的介入時機
黃仁勳的做法	採用 AI 的產品與具體部署	上市前測試；當風險出現或發現法規缺口時，透過行業規則處理
峰會所呈現的預防取向	能力日益強大的 AI 所帶來、跨行業甚至災難性的系統風險	在風險或能力超出控制之前，先建立更強保障措施

兩方都支持安全與人類監督，但責任分配不同。黃仁勳較著重開發者的推出紀律、工程標準和個別產品的監管者；查理斯三世的發言，以及峰會對共同原則的討論，則強調某些 AI 風險或需在單一行業產品失效前，已有協調一致的護欄。92328

重點：目標一致，路線未有共識

鄧弗里斯宮會議沒有為 AI 監管之爭定論，卻把分界說得更清楚：AI 是否主要可透過既有產品法規和嚴格測試來管治；抑或前沿系統帶來跨行業風險，必須以新的、預防性的協調機制處理？

峰會的共同目標很直接：AI 應服務人類，並維持在人類控制之下；至於怎樣做到，仍然存在重大分歧。91228

英王查理斯三世 9 月 17 日在蘇格蘭艾爾郡（Ayrshire）的鄧弗里斯宮（Dumfries House）召集 AI 企業與英國政府高層閉門會面，討論怎樣讓人工智能造福社會，同時不致脫離人類控制。出席者包括 Nvidia、Google DeepMind、OpenAI、Anthropic 的代表，以及英國 AI 國務大臣 Kanishka Narayan。會議重點是探討共同原則，並非達成具約束力的監管協議。1912

查理斯三世：保障措施不能等到出事後

查理斯三世形容 AI 既令人期待，也令人憂慮。他促請業界確保技術服務於人、社群和地球，並警告強大系統一旦落入不當人士手中、被用作造成災難性後果，可能帶來「存在性危險」。他的重點是：保障措施必須在「太遲」之前認真建立。91113

這個說法反映前沿 AI 管治的一個關鍵憂慮：模型能力急速提升時，監管制度、安全實務和社會規範會否追不上。峰會正是要討論如何在維護人類尊嚴和社會利益的同時，限制這類風險。19

黃仁勳的主張：規管 AI 應用產品，而非 AI 一概而論

Nvidia 行政總裁黃仁勳並非認為 AI 安全不重要。他認為，公司有責任嚴格測試系統；如果對產品安全沒有信心，就不應推出。對他來說，這是基本工程責任。182330

不過，他與要求制定全面 AI 規則的一方，分歧在於規管對象。黃仁勳認為，AI 是支撐不同產品的底層技術，不是一件像社交媒體般單一的消費產品。因此，監管機構應集中處理採用 AI 的產品與服務：留意哪些部署出了問題，發現法律缺口時才在現有法例上加訂條文。他以醫療、交通和娛樂等已有監管制度的行業為例。2628

換言之，這是一套以產品和行業場景為本的做法：

• 按具體用途評估風險，例如醫療或交通產品；
• AI 部署造成問題或暴露法規缺口時，沿用或擴展相關行業規則；
• 產品推出前，先在受控環境作審慎、嚴格測試。2328

這種思路較少依賴一部涵蓋所有 AI 的大型新法，也不支持以特別安排強制放慢模型研發。

與峰會「預防為先」取向有何不同？

查理斯三世關心的，是嚴重濫用，以及可能在有明確問題產品出現前已形成的風險。這屬較前瞻的管治取向：要及早建立保障和國際合作機制，避免災難性結果發生。111

Anthropic 行政總裁 Dario Amodei 早前則呼籲放慢前沿模型的開發速度，好讓安全措施追得上能力進展。黃仁勳反駁，毋須新增法律或特別協調安排來推動減速；他主張靠工程、測試和既有法律工具處理。830

實際爭議，是在哪個環節介入：

取向	主要焦點	較理想的介入時機
黃仁勳的做法	採用 AI 的產品與具體部署	上市前測試；當風險出現或發現法規缺口時，透過行業規則處理
峰會所呈現的預防取向	能力日益強大的 AI 所帶來、跨行業甚至災難性的系統風險	在風險或能力超出控制之前，先建立更強保障措施

兩方都支持安全與人類監督，但責任分配不同。黃仁勳較著重開發者的推出紀律、工程標準和個別產品的監管者；查理斯三世的發言，以及峰會對共同原則的討論，則強調某些 AI 風險或需在單一行業產品失效前，已有協調一致的護欄。92328

重點：目標一致，路線未有共識

鄧弗里斯宮會議沒有為 AI 監管之爭定論，卻把分界說得更清楚：AI 是否主要可透過既有產品法規和嚴格測試來管治；抑或前沿系統帶來跨行業風險，必須以新的、預防性的協調機制處理？

峰會的共同目標很直接：AI 應服務人類，並維持在人類控制之下；至於怎樣做到，仍然存在重大分歧。91228