雷薩(Maria Ressa)嘅警告,唔係指遙遠將來先會出現一部「失控機械人」。佢認為,科技已經一浪接一浪咁影響人:先決定我哋留意乜嘢,再利用人對親密關係嘅需要,下一步就可能代替人作出重要決定。當公民逐漸失去真正嘅自主選擇能力,民主社會賴以自我管治嘅基礎亦會被動搖。
1
雷薩所講嘅 AI 三波浪潮
第一波:社交媒體搶走注意力
雷薩將社交媒體視為第一波。佢指出,平台為咗爭奪用戶注意力,令社會更兩極化,亦令人更孤立。問題唔只係大家花太多時間碌手機,而係當公眾難以維持共同關注、互信同基本共享嘅資訊環境,社會就更容易被分化,亦較難進行有意義嘅集體討論。
1
第二波:聊天機械人瞄準親密需求
第二波係對話式 AI,例如聊天機械人。雷薩認為,呢類系統可透過迎合人對親密感嘅需要,影響人嘅生理和情感反應。佢憂慮嘅重點並非單純「人會唔會成日用 chatbot」,而係以令人投入、依戀嘅互動作設計核心嘅系統,可能為影響脆弱用戶開闢新渠道。
1
第三波:代理式 AI 威脅人類自主權
最後一波,係雷薩所講嘅「代理式 AI」(agentic AI)同多代理 AI:即系統可以代人採取行動,甚至做出違背使用者利益嘅行動。佢警告,如果社會未及早立法設限,呢類系統一旦深入日常生活,人類自主權——即獨立作選擇嘅能力——可能被逐步抽走。
1
三波風險係逐級加深:由爭奪注意力,去到透過親密感施加影響,再到自動化系統可能代替人處理更具後果嘅決定。
點解佢話 AI 監管係公共安全問題?
雷薩主張,AI 管治唔應主要被當成言論自由爭議,或者國際科技競賽,而應視為公共安全議題。佢呼籲市民推動 AI 監管,向民選政治人物施壓,促使政府立法。
1
佢提出嘅措施包括:
- 科技巨企要為產品造成嘅傷害承擔法律責任。
1
- 移除針對成人同青少年嘅成癮式產品功能,而唔係只保護未成年人。
1
- 為相關科技設定使用年齡限制。
1
- 放慢 AI 開發同部署速度,讓規則和保障措施可以先到位。
1
對於「西方監管 AI 就等於將競賽讓畀中國」嘅講法,雷薩並不認同。據路透社報道,佢認為唔監管所付出嘅代價更根本:人類可能失去民主制度所需要嘅自主權。
1
唔止要限制,亦要建設替代方案
雷薩嘅主張唔只係約束有害系統。佢亦呼籲新聞工作者同社群建立並擁有有助維護資訊完整性嘅科技,包括掌握自身數據同基建,而唔係完全依賴主導市場嘅平台。佢喺諾貝爾和平會議上表示,要守住資訊完整性,新聞工作者要成為科技建設者。
9
呢個方向包括以社群為本、較安全嘅溝通空間,例如 Rappler Communities:其目標係支援民主參與,而唔係將「盡量拉長互動時間」當成平台嘅首要誘因。
關鍵係:趁仲未成常態前設防線
雷薩嘅「三波」框架,核心係提醒社會唔好等代理式系統成為日常決策者先至處理。喺佢睇嚟,頭兩波已顯示數碼系統可以大規模利用注意力同親密需求;第三波要問嘅,係社會能否喺更自主嘅 AI 廣泛紮根前,守住人類選擇、問責同民主控制。
1