瑪麗亞・瑞薩(Maria Ressa)的警告,並不是把 AI 的風險全都放在遙遠未來的「超級機器」上。她認為,技術已經歷三波逐步升高的影響:先左右人們注意什麼,再透過親密互動影響情緒與行為,下一步則可能直接取代或削弱人類自行選擇的能力。
她的核心問題是:如果公民失去有意義的自主性,民主社會又如何真正自我治理?
1
瑞薩所說的 AI 三波衝擊
第一波:社群媒體劫持注意力
瑞薩把社群媒體視為第一波。平台競逐使用者注意力,並造成社會極化與個人孤立。她所擔心的是,當公共討論無法維持共同的注意力、基本信任與共享資訊環境時,社會更容易被分化,也更難進行集體審議。
1
第二波:聊天機器人利用親密需求
第二波是對話式 AI。瑞薩認為,聊天機器人可能藉由回應人類對親密感的需求,進而「操弄」人的生物本能。重點不只是人們頻繁使用聊天機器人,而是以情感吸引力為設計核心的系統,可能為影響脆弱使用者開闢新的管道。
1
第三波:代理式 AI 威脅人類自主
瑞薩所說的最後一波,是代理式與多代理式 AI(agentic and multi-agentic AI):能替人執行行動,也可能做出不符合人類利益之行動的系統。她警告,若社會沒有在這類系統深度嵌入前立法設限,人類的「自主性」——也就是獨立作出選擇的能力——可能被逐步奪走。
1
這三波形成一條遞進路徑:從爭奪注意力、透過親密感施加影響,到自動化系統代替人們處理更具後果的決定。
為何她要求以「公共安全」看待 AI 監管
瑞薩主張,AI 治理不應主要被框定成言論自由爭議或科技競賽,而應視為公共安全問題。她呼籲公民推動 AI 監管運動,向民選政治人物施壓,使其採取立法行動。
1
她提出的方向包括:
- 讓大型科技公司為產品造成的傷害承擔法律責任。
1
- 移除針對成人與青少年的成癮式產品功能,而非只保護未成年人。
1
- 為相關技術設下使用年齡限制。
1
- 放慢 AI 的開發與部署,以便在規則與保護機制到位前避免風險擴大。
1
她也反駁一種常見說法:西方國家若加強監管,便等於把 AI 競賽拱手讓給中國。據路透社報導,瑞薩認為,不監管所付出的代價更根本——可能是民主所依賴的人類自主性。
1
不只限制風險,也要打造公共利益替代方案
瑞薩的主張不只在於約束有害系統。她同時呼籲記者與社群建置並掌握能維護資訊完整性的技術。在諾貝爾和平會議上,她表示,新聞工作者必須成為技術建構者,並掌握自己的資料與技術。
9
這也指向以社群為中心、較安全的溝通空間,例如 Rappler Communities。其精神在於建立支持民主參與的基礎設施,而不是把「最大化互動」的平台誘因視為預設規則。
關鍵在於:代理式 AI 普及前,能否守住選擇權
瑞薩的三波框架,實際上是要求社會在代理式系統成為日常決策者之前採取行動。依她的觀點,前兩波已顯示數位系統如何大規模利用注意力與親密需求;第三波所提出的政策考驗,則是人類能否在更自主的 AI 廣泛扎根前,保有選擇權、問責機制與民主控制。
1