三位講者一致拒絕咗將AI鎖喺少數資金雄厚嘅實驗室嘅做法。佢哋嘅核心論點:將權力集中喺幾間公司,比起開放分佈帶嚟嘅風險更加危險。佢哋擔心,設立「閘門」會拖慢創新、鞏固現有巨頭地位,仲會畀幾間公司決定全世界可以整乜嘢。
Yun-Hee Kim將呢場座談會形容為歷史性交匯,而喺呢個基本點上,三位先驅確實達成共識。不過,當討論由原則轉到實際操作,共識即刻粉碎。
Geoffrey Hinton清楚劃分咗開放源碼軟件同開放權重模型。「開放源碼係好嘢。你公開啲碼,好多人睇住啲碼話:『喂,呢度有蟲。』開放權重係你訓練一個大模型,然後將權重畀人。呢個好唔同。」佢警告話,開放權重會令黑客用低成本去微調模型做網絡攻擊——但同時承認呢場仗已經輸咗:「我覺得呢場仗已經輸咗……太遲喇。」
吳恩達對開放權重就放心得多。佢將呢個問題講成競爭力問題,仲分享咗一個親身經歷:當佢團隊需要對開源代理工具OpenWorker做安全審查時,佢哋轉向咗中國嘅開放權重模型Kimi K3同GLM-5.2,因為美國嘅封閉模型拒絕提供幫助。「根據我見到嘅情況,我認為開放權重模型比起封閉權重模型更安全。」吳恩達話。
李飛飛就完全拒絕咗呢個二元分類,叫「開放對封閉」係一個虛假二分法。佢主張更細緻、按行業劃分嘅方法,而唔係將開放當成一個全有或全無嘅選擇。
吳恩達喺呢點上講得最直接:「我唔想要有閘門。呢個限制咗我哋所有人點樣使用AI。」佢指責大公司誇大AI危險,目的係鎖定監管優勢及凍結細競爭者。佢嘅處方係:「推動開放……因為AI係驚人嘅技術,我想佢落到每個人手上。」
Hinton同李飛飛都同意AI唔應該由少數實驗室控制,即使Hinton對無限制分發嘅風險擔心得多。
吳恩達明確將開放講成一個軟實力同競爭力問題,指向中國嘅開放權重模型。佢話如果美國限制開放模型,中國快速進步嘅開放權重生態——包括阿里巴巴嘅Qwen 3.8-Max同智譜嘅GLM-5.2——就會爬頭。佢指出一個矛盾:中國嘅開放模型反而幫到美國安全研究人員做美國封閉模型拒絕做嘅工作。
Hinton承認有競爭壓力,但始終更擔心模型被濫用。佢認為無論美國政策點樣,個「精靈」已經放咗出樽。
三人一致同意需要某啲監管,但對於範圍同方法分歧好大。
呢度暴露咗座談會嘅最深層分裂。李飛飛明確叫二元分類係虛假嘅——佢主張一條中間路線,開放程度按行業、風險水平同應用場景調校。Hinton都同意唔係二元,但由相反角度出發:佢想要一個世界,權重可以開放但有安全制動,即使佢唔再相信呢個世界可以實現。吳恩達最接近全有或全無嘅姿態——開放係核心藥方,佢抗拒畀現有巨頭利用嘅例外情況。
三位先驅一致反對由少數實驗室控制AI嘅未來,但對於用乜嘢載具去達成呢個目標,佢哋分歧好大。Hinton無奈接受開放權重不可逆轉,但擔心被濫用。吳恩達擁抱開放作為對抗權力集中嘅核心藥方,仲係對抗中國嘅戰略武器。李飛飛拒絕二元分類,呼籲按行業制定規則。呢場辯論捕捉咗2026年AI管治嘅真實張力:同一開放分佈,一方面令更多人可以用到AI,另一方面亦令災難性濫用更難控制。
三位講者一致拒絕咗將AI鎖喺少數資金雄厚嘅實驗室嘅做法。佢哋嘅核心論點:將權力集中喺幾間公司,比起開放分佈帶嚟嘅風險更加危險。佢哋擔心,設立「閘門」會拖慢創新、鞏固現有巨頭地位,仲會畀幾間公司決定全世界可以整乜嘢。
Yun-Hee Kim將呢場座談會形容為歷史性交匯,而喺呢個基本點上,三位先驅確實達成共識。不過,當討論由原則轉到實際操作,共識即刻粉碎。
Geoffrey Hinton清楚劃分咗開放源碼軟件同開放權重模型。「開放源碼係好嘢。你公開啲碼,好多人睇住啲碼話:『喂,呢度有蟲。』開放權重係你訓練一個大模型,然後將權重畀人。呢個好唔同。」佢警告話,開放權重會令黑客用低成本去微調模型做網絡攻擊——但同時承認呢場仗已經輸咗:「我覺得呢場仗已經輸咗……太遲喇。」
吳恩達對開放權重就放心得多。佢將呢個問題講成競爭力問題,仲分享咗一個親身經歷:當佢團隊需要對開源代理工具OpenWorker做安全審查時,佢哋轉向咗中國嘅開放權重模型Kimi K3同GLM-5.2,因為美國嘅封閉模型拒絕提供幫助。「根據我見到嘅情況,我認為開放權重模型比起封閉權重模型更安全。」吳恩達話。
李飛飛就完全拒絕咗呢個二元分類,叫「開放對封閉」係一個虛假二分法。佢主張更細緻、按行業劃分嘅方法,而唔係將開放當成一個全有或全無嘅選擇。
吳恩達喺呢點上講得最直接:「我唔想要有閘門。呢個限制咗我哋所有人點樣使用AI。」佢指責大公司誇大AI危險,目的係鎖定監管優勢及凍結細競爭者。佢嘅處方係:「推動開放……因為AI係驚人嘅技術,我想佢落到每個人手上。」
Hinton同李飛飛都同意AI唔應該由少數實驗室控制,即使Hinton對無限制分發嘅風險擔心得多。
吳恩達明確將開放講成一個軟實力同競爭力問題,指向中國嘅開放權重模型。佢話如果美國限制開放模型,中國快速進步嘅開放權重生態——包括阿里巴巴嘅Qwen 3.8-Max同智譜嘅GLM-5.2——就會爬頭。佢指出一個矛盾:中國嘅開放模型反而幫到美國安全研究人員做美國封閉模型拒絕做嘅工作。
Hinton承認有競爭壓力,但始終更擔心模型被濫用。佢認為無論美國政策點樣,個「精靈」已經放咗出樽。
三人一致同意需要某啲監管,但對於範圍同方法分歧好大。
呢度暴露咗座談會嘅最深層分裂。李飛飛明確叫二元分類係虛假嘅——佢主張一條中間路線,開放程度按行業、風險水平同應用場景調校。Hinton都同意唔係二元,但由相反角度出發:佢想要一個世界,權重可以開放但有安全制動,即使佢唔再相信呢個世界可以實現。吳恩達最接近全有或全無嘅姿態——開放係核心藥方,佢抗拒畀現有巨頭利用嘅例外情況。
三位先驅一致反對由少數實驗室控制AI嘅未來,但對於用乜嘢載具去達成呢個目標,佢哋分歧好大。Hinton無奈接受開放權重不可逆轉,但擔心被濫用。吳恩達擁抱開放作為對抗權力集中嘅核心藥方,仲係對抗中國嘅戰略武器。李飛飛拒絕二元分類,呼籲按行業制定規則。呢場辯論捕捉咗2026年AI管治嘅真實張力:同一開放分佈,一方面令更多人可以用到AI,另一方面亦令災難性濫用更難控制。