教宗良十四世9月28日結束訪法、搭機返回羅馬時表示,對人工智慧(AI)可能失控、造成嚴重後果的擔憂,不是「假新聞」。他說,AI專家的疑慮應該受到重視;人們需要坐下來討論,不能「袖手旁觀,假裝什麼事都不會發生」。
2
6
這番話的重點不是宣稱災難必然發生,而是提醒外界:不能只因風險難以預測,就把專家的警告一概排除。
與川普對AI風險的說法形成對照
美國總統川普曾把AI可能失控的疑慮形容為「騙局」。
2 相較之下,教宗主張認真看待專家提出的安全問題;路透社報導也指出,他批評了主張AI不應設置防護限制的科技業執行長。
7
兩人的分歧,也牽涉AI競爭與監管之間如何取捨。美國在全球AI競賽中面臨與中國競爭的考量;相關報導指出,川普淡化限制AI發展的必要性,理由之一是不希望美國失去競爭優勢。 教宗的談話則強調,不能因此忽視可能造成的傷害。
Anthropic的稽核主張是背景,不是教宗機上談話的內容
與這場討論相關的一項背景是,Anthropic執行長達里奧・阿莫迪曾呼籲訂定規則,要求對先進AI模型進行獨立稽核。
1 不過,這是阿莫迪公開立場的報導,不能據此說教宗在返程談話中引用了Anthropic研究人員的特定警告。
同樣地,現有報導無法確認輝達執行長黃仁勳對AI監管的具體立場,因此不宜把教宗的發言描述成直接回應黃仁勳。
教宗當時呼籲了什麼?
就返羅馬途中的談話而言,教宗明確呼籲的是:認真看待AI專家的疑慮、坐下來討論問題,不要假裝風險不存在。
2
6 目前引用的報導並未顯示他當時提出一套針對政治領袖、科技公司與公民社會的具體行動方案。
他在訪法期間的其他發言,則呈現了更廣泛的關切。在愛麗舍宮演說時,他警告人們不要在「機器的樂園」中失去人性,並呼籲培養倫理判斷力,以因應科技對日常生活的影響。
8 這可以補充理解他對AI的整體看法,但應與他在返程飛機上對記者所說的話區分開來。