AI究竟應該踩煞車,還是要加速追趕?法國財政部長Roland Lescure將這場爭論看成不只是安全問題,更是實力與主導權之爭。
他於9月16日表示,呼籲放慢AI發展的人,正是行業內「班上最頂尖」的一批;若要所有落後者一同減速,便會有助這些領先者留在第一位,當中有明顯的自身利益。Lescure認為,法國及歐洲應加快採用和建立AI能力,才能成為有能力管理相關風險的領導者。
2
Lescure的重點:有能力,先有管理風險的本錢
Lescure並非否認AI存在風險。他的論點是,若歐洲過度依賴外國的尖端AI供應商,便較難實際掌握技術如何被部署、使用和管治。換句話說,提升本身的AI使用與技術能力,是管理風險的一部分。
2
這亦呼應他較早前對歐洲AI自主性的警告:歐洲不能把AI前途押在單一公司身上。他主張建立更完整的生態系統,而非將所有期望集中於一個「國家隊」式企業。
17
與Anthropic「控速」主張有何分別?
Anthropic行政總裁Dario Amodei主張,AI公司應放慢提升前沿模型能力的速度,讓安全工作和管治措施有更多時間跟上。他提出的方案包括讓獨立評估者持續接觸系統,以核實安全承諾、報告事故,以及評估模型在訓練期間的安全對齊情況。
1
5
路透社報道,OpenAI行政總裁Sam Altman亦屬支持協調減速的業界領袖之一,因此在短期政策取向上,較接近Amodei的「控速」主張,而非Lescure所強調的加快建立能力。
4
所以,爭論不宜簡化成「發展速度」對「AI安全」。Amodei一方認為,模型能力增長要受到節制,安全措施才追得上;Lescure則認為,歐洲若不迅速建設和採用AI,便難以取得足夠能力去治理其後果。
1
2
現有報道證實了甚麼?
現有資料支持Amodei對失控風險的警告,包括他所說:未來6至12個月內,一群AI代理或可具備接管互聯網大部分範圍的能力。
3
9
同時,他提出的並非全面停止AI研發,而是為最前沿的發展「定速」或「控速」,以爭取安全研究和獨立監督所需的時間。
1
8
不過,所提供的來源未能證實一些常被附加到這場爭論的更具體說法:例如,未能核實Anthropic研究人員曾表示快速AI進展會導致人類滅絕;也未能核實Lescure曾點名AI在網絡安全或教育方面的特定風險,或曾表示對存亡威脅作出確定預測會讓社會逃避集體責任。
對歐洲而言,真正的兩難
Lescure的發言點出了一個非領先AI地區面對的政策難題:放慢尖端AI發展,可能讓安全控制有更多準備時間;但若出現廣泛協調的減速,也可能固化那些已擁有最強模型、算力和部署規模公司的優勢。
1
2
他的答案是:歐洲要一邊建立自身能力,一邊維持管理風險的能力。現有報道清楚呈現了這項策略分歧,但不足以支持有關網絡安全、教育、人類滅絕或集體責任的額外具體歸因。
2
4