查爾斯三世於 9 月 17 日在蘇格蘭艾爾郡（Ayrshire）的鄧弗里斯宮（Dumfries House），邀集 AI 產業與英國政府高層閉門會談。與會者包括 Nvidia、Google DeepMind、OpenAI、Anthropic 的代表，以及英國 AI 部長卡尼什卡・納拉揚（Kanishka Narayan）。這場會議聚焦於如何讓 AI 造福社會、維護人類尊嚴，同時不失去人類控制；報導顯示，會中討論的是可共同遵循的原則，而非達成具法律約束力的監管協議。1912

查爾斯三世：防護不能等到為時已晚

查爾斯三世形容 AI 既令人期待，也令人深感憂慮。他要求科技領袖確保這項技術始終服務於人類、社群與地球，並警告強大系統若落入不當人士之手、遭到災難性利用，可能帶來「生存層面的危險」。他的核心訴求是：防護措施必須及早思考與建立，不能等到太晚。91113

這反映當前「前沿 AI」治理的一項根本焦慮：模型能力快速進步之際，監管制度、安全實務與社會規範，是否跟得上？峰會要處理的，正是如何兼顧 AI 的社會效益與這類風險。19

黃仁勳的主張：管 AI 應用產品，而非把 AI 一體立法

Nvidia 執行長黃仁勳並未否定 AI 安全的重要性。他主張，企業必須嚴格測試系統；如果對產品安全沒有把握，就不應推出。他將此視為基本的工程責任。182330

不過，他與峰會的預防性語調不同之處，在於監管的對象。黃仁勳認為，AI 是底層技術，並非像社群媒體那樣的單一消費產品。因此，監管應瞄準使用 AI 建成的具體產品與服務；監督實際部署何時出問題；若發現法律缺口，再補進既有法規。他指出，醫療、交通、娛樂等產業原本就已有監管架構。2628

這可概括為一種以產品與產業別為中心的治理方式：

• 先檢視具體使用情境的風險，例如醫療或交通產品；
• 當 AI 應用出現問題，或明確發現法律缺口時，適用或擴充相關產業規範；
• 在上市前，進行審慎且受控的嚴格測試。2328

換句話說，黃仁勳較不支持制定涵蓋整項技術的全面 AI 法，或以特別安排強制暫緩模型開發。

分歧真正在哪裡？介入時點與治理層次

查爾斯三世所警告的，是嚴重濫用及某些風險可能在有害產品尚未明確可辨前就已浮現。這是一種更重視預先防範的治理思路：必須足夠早建立安全措施與國際協作，才能避免災難性後果。111

Anthropic 執行長達里奧・阿莫迪（Dario Amodei）此前曾呼籲放慢前沿模型的開發速度，讓安全措施有機會跟上。黃仁勳則反對為協調放緩而制定新法律或特別安排，認為工程實作、測試及既有法律工具已足以處理。830

實際爭點因此在於：應在哪個環節介入？

路線	主要關注點	偏好的介入時點
黃仁勳的路線	AI 驅動的產品與特定部署	上市前測試；風險出現或確認法律缺口時，透過產業規範處理
峰會提出的預防性路線	能力日益提升的 AI 所帶來、可能跨產業且具災難性的系統性風險	在風險或能力超越既有控制之前，先建立更強的防護與協調機制

兩方都支持安全與人類監督，但責任分配不同。黃仁勳更倚重開發者的上市紀律、工程標準及特定產品的主管機關；查爾斯三世的談話及推動共同原則的努力，則強調部分 AI 風險或許需要在某一產業產品失控前，就以跨領域的護欄加以應對。92328

結論：目標一致，治理方法仍未定論

鄧弗里斯宮會議沒有終結 AI 監管辯論，反而把分界線說得更清楚：AI 是否主要可透過既有產品法規與嚴格測試來治理？還是前沿系統已帶來跨產業風險，必須建立新的、預先性的協調機制？

會中共享的目標並不複雜：AI 應服務人類，並維持在人類掌控之下；但如何達成，仍是各方持續角力的問題。91228

查爾斯三世於 9 月 17 日在蘇格蘭艾爾郡（Ayrshire）的鄧弗里斯宮（Dumfries House），邀集 AI 產業與英國政府高層閉門會談。與會者包括 Nvidia、Google DeepMind、OpenAI、Anthropic 的代表，以及英國 AI 部長卡尼什卡・納拉揚（Kanishka Narayan）。這場會議聚焦於如何讓 AI 造福社會、維護人類尊嚴，同時不失去人類控制；報導顯示，會中討論的是可共同遵循的原則，而非達成具法律約束力的監管協議。1912

查爾斯三世：防護不能等到為時已晚

查爾斯三世形容 AI 既令人期待，也令人深感憂慮。他要求科技領袖確保這項技術始終服務於人類、社群與地球，並警告強大系統若落入不當人士之手、遭到災難性利用，可能帶來「生存層面的危險」。他的核心訴求是：防護措施必須及早思考與建立，不能等到太晚。91113

這反映當前「前沿 AI」治理的一項根本焦慮：模型能力快速進步之際，監管制度、安全實務與社會規範，是否跟得上？峰會要處理的，正是如何兼顧 AI 的社會效益與這類風險。19

黃仁勳的主張：管 AI 應用產品，而非把 AI 一體立法

Nvidia 執行長黃仁勳並未否定 AI 安全的重要性。他主張，企業必須嚴格測試系統；如果對產品安全沒有把握，就不應推出。他將此視為基本的工程責任。182330

不過，他與峰會的預防性語調不同之處，在於監管的對象。黃仁勳認為，AI 是底層技術，並非像社群媒體那樣的單一消費產品。因此，監管應瞄準使用 AI 建成的具體產品與服務；監督實際部署何時出問題；若發現法律缺口，再補進既有法規。他指出，醫療、交通、娛樂等產業原本就已有監管架構。2628

這可概括為一種以產品與產業別為中心的治理方式：

• 先檢視具體使用情境的風險，例如醫療或交通產品；
• 當 AI 應用出現問題，或明確發現法律缺口時，適用或擴充相關產業規範；
• 在上市前，進行審慎且受控的嚴格測試。2328

換句話說，黃仁勳較不支持制定涵蓋整項技術的全面 AI 法，或以特別安排強制暫緩模型開發。

分歧真正在哪裡？介入時點與治理層次

查爾斯三世所警告的，是嚴重濫用及某些風險可能在有害產品尚未明確可辨前就已浮現。這是一種更重視預先防範的治理思路：必須足夠早建立安全措施與國際協作，才能避免災難性後果。111

Anthropic 執行長達里奧・阿莫迪（Dario Amodei）此前曾呼籲放慢前沿模型的開發速度，讓安全措施有機會跟上。黃仁勳則反對為協調放緩而制定新法律或特別安排，認為工程實作、測試及既有法律工具已足以處理。830

實際爭點因此在於：應在哪個環節介入？

路線	主要關注點	偏好的介入時點
黃仁勳的路線	AI 驅動的產品與特定部署	上市前測試；風險出現或確認法律缺口時，透過產業規範處理
峰會提出的預防性路線	能力日益提升的 AI 所帶來、可能跨產業且具災難性的系統性風險	在風險或能力超越既有控制之前，先建立更強的防護與協調機制

兩方都支持安全與人類監督，但責任分配不同。黃仁勳更倚重開發者的上市紀律、工程標準及特定產品的主管機關；查爾斯三世的談話及推動共同原則的努力，則強調部分 AI 風險或許需要在某一產業產品失控前，就以跨領域的護欄加以應對。92328

結論：目標一致，治理方法仍未定論

鄧弗里斯宮會議沒有終結 AI 監管辯論，反而把分界線說得更清楚：AI 是否主要可透過既有產品法規與嚴格測試來治理？還是前沿系統已帶來跨產業風險，必須建立新的、預先性的協調機制？

會中共享的目標並不複雜：AI 應服務人類，並維持在人類掌控之下；但如何達成，仍是各方持續角力的問題。91228