AI公司之間就安全合作,原則上未必有問題;但美國聯邦貿易委員會(FTC)主席Andrew Ferguson提出的核心疑問係:安全會唔會被用作競爭對手共同控制市場嘅藉口?
Ferguson表示,當AI公司一方面要求華府加設新規管、另一方面又要求獲得反壟斷法豁免時,「人人都應該深表懷疑」。路透社報道指,他當時是以個人身分發言。他擔心,一旦新規定加上讓龍頭公司協調嘅特別許可,較細規模對手會更難進場或擴張。
3
Anthropic點解想要窄幅反壟斷豁免?
Anthropic行政總裁Dario Amodei提出,前沿AI模型嘅能力提升應該「控制節奏」(pace),唔係永久停止發展,而係騰出時間畀安全措施追上。佢嘅三步方案包括:
- 讓具「員工級別」存取權嘅常駐獨立評估員,核實公司有冇遵守安全做法;
- 由前沿AI公司協調安全標準,同時限制不受約束嘅能力發展;
- 就相關風險推動國際合作。
2
Amodei認為,政府調解或者一項界線清楚嘅窄幅反壟斷豁免,可能係競爭對手之間進行部分安全討論所必需。當中嘅法律張力好直接:企業共同建立有意義嘅安全防線固然有價值,但同業之間嘅溝通,亦可能被視為競爭對手協調行動。
2
3
「6至12個月內接管互聯網」係警告,唔係已證實事實
Amodei認為,AI能力進步得太快,安全安排需要更多時間追上。他警告,6至12個月內,一群協同運作嘅AI代理有可能接管整個互聯網。呢個係佢對未來風險嘅預測同警告,並非指現時系統已證實具備呢種能力。
1
2
路透社報道亦提及,業界正憂慮AI被濫用於網絡行動、監控、詐騙及與武器相關嘅工作。
2
Ferguson嘅底線:安全政策唔可以變成入場門檻
Ferguson表示,美國總統特朗普而唔係FTC,會決定聯邦AI政策。不過,佢嘅言論反映咗對一種制度設計嘅質疑:支持新增AI規則嘅公司,同時又要求獲准同主要競爭對手協調,究竟係為咗安全,定係可能借安全之名鞏固既有優勢?
3
競爭層面嘅憂慮在於結構性成本。新合規要求通常涉及固定成本,資金雄厚嘅大型企業較容易承擔;假如同一批公司又可協調技術發展嘅速度或條件,批評者擔心,佢哋既可影響規則,亦可影響實際競爭嘅界線。
Cohere聯合創辦人Aidan Gomez批評有關構想,形容係矽谷「卡特爾」試圖鞏固權力。他認為,唔應由一小撮有共同商業利益嘅公司,為影響廣泛公眾嘅技術訂立規則。
5
OpenAI同Google點樣參與討論?
路透社報道,OpenAI行政總裁Sam Altman支持讓獨立評估員獲得類似員工嘅存取權。OpenAI遊說人士Chris Lehane則表示,OpenAI、Anthropic同Google已就AI安全討論咗數星期,並認為呢類討論毋須反壟斷豁免。
2
3
路透社確認Google參與咗相關安全討論,但未有報道Google就Amodei提出嘅豁免要求發表獨立公開立場。
3
點解有專家話現行反壟斷法已經足夠?
路透社引述嘅專家認為,現行反壟斷法可以容納經嚴格設計、目標明確嘅合作,以避免災難性風險;他們亦提到,美國反壟斷執法機構過去曾發出指引,容許企業分享網絡安全資訊。
3
分別在於合作內容。分享威脅情報、測試方法或者事故應變做法,可以專注於減低傷害,而未必直接左右商業競爭;相反,競爭對手協議限制產出、延遲產品推出,或者封頂模型能力,就可能直接壓低競爭,因此會引起更嚴重嘅反壟斷問題。
爭議真正焦點:邊種安全協調先至合理?
呢場爭論唔單止係「AI安全」對「市場競爭」,而係安全協調應該點樣設計。
按路透社引述專家嘅看法,針對獨立測試同事故應變嘅窄幅合作,有機會符合一般反壟斷原則;但如果由幾間前沿AI實驗室共同決定整個行業可以行幾快,Ferguson最擔心嘅情況就會出現:安全管治可能變成既有龍頭公司按自身利益塑造市場嘅工具。
3