歐盟執委會主席馮德萊恩(Ursula von der Leyen)在「國情咨文」演說中傳達的重點,並不是要讓所有人工智慧停下來,而是採取雙軌策略:對能力最強、風險也最高的前沿AI模型更審慎;對能改善產業、公共服務與安全的應用,則要加速落地。
1
對前沿AI:不是立即禁令,而是「放慢前沿」
馮德萊恩表示,將邀請主要前沿AI實驗室對話,討論公部門如何支持業界「放慢前沿」(pace the frontier)的努力。這項宣布指向安全協作與政策討論,不是立即實施的歐盟AI研發暫停令,也不是一刀切的全面禁令。
1
6
她關切的核心,是能力日益提升、包括可自我改進或自我遞迴的模型。她警告,這類系統可能帶來前所未見規模的駭客攻擊能力,且可能很快落入敵對行為者手中。
1
15
這波主張也反映AI業界內部的爭論。路透社報導,Anthropic執行長達里奧・阿莫迪(Dario Amodei)曾呼籲放緩先進AI的發展速度,並獲OpenAI執行長山姆・阿特曼(Sam Altman)及伊隆・馬斯克(Elon Musk)支持;但外界同時爭論,這些警告究竟是相稱的預防措施,還是過度渲染末日風險的「AI末日論」。
17
在國際合作上,馮德萊恩也提出與加拿大、英國及其他理念相近夥伴深化AI安全合作,涵蓋前沿模型評估及相關資安措施。
9
兒少數位保護:擬推《EU Kids Act》分齡管理
歐盟執委會擬議的《EU Kids Act》不只針對傳統社群媒體,也涵蓋影片分享平台、線上遊戲與AI聊天機器人;其設計是依年齡提供不同程度的保護。不過,這仍是法案提案,並不會因宣布而立即成為可執行的新規則。
1
目前公布的分齡方向包括:
- 13歲以下不得使用社群媒體。
1
- 13歲至未滿15歲,僅能使用由家長設立及監督的有限帳戶,功能與使用時間都會受限。
1
- 15歲至18歲,平台必須提供「安全內建」(safe by design)的服務。
這套設計的關鍵在於:責任不應只由孩子與家長承擔。數位服務本身須履行安全內建義務;相關報導指出,企業預期須驗證使用者年齡,並處理例如無限捲動等可能造成過度使用的產品設計。
7
對產業AI:鎖定六大高價值領域加速導入
在提高前沿模型管控的同時,馮德萊恩把AI定位為歐洲經濟與安全的基礎技術,例如可用於自動駕駛與國防;她主張歐洲應從這項技術創造實際價值。
1
歐盟執委會點名具備相關資料與能力、最值得優先發展產業AI的領域:
- 醫療
- 交通
- 農糧
- 先進製造
- 國防與太空
1
執委會表示,將在11月公布橫跨這些領域的「改變遊戲規則」措施。
1
這套政策真正代表什麼?
歐盟的方向可概括為「高風險能力放慢、實用產業部署加速」。對前沿AI,執委會希望透過更強的模型評估、跨國協調與安全導向的節奏控制,降低最具破壞性的能力躍升所帶來的風險;對更廣泛的經濟應用,則希望加快AI進入與公共服務、產業競爭力及安全密切相關的領域。
1
9
因此,這不是「放慢所有AI」的政策宣言,而是在前沿模型周圍加上更嚴格的安全護欄,同時加快有益、面向產業的AI應用。
1