Palantir行政總裁Alex Karp提出的警告,重點不是AI已經能「讀心」,而是預測技術可能愈走愈遠:由推測一個人會做甚麼,進一步推測他在私人生活中可能會想甚麼。
3
10
兩者有分別。現有報道呈現的是對AI預測能力及私隱風險的提醒,並沒有證明AI可以直接讀取人的思想,或準確知道一個人將會想甚麼。
3
10
從戰場預測到日常生活
在與 Palantir Sovereign 負責人 Louis Robson 的訪問中,Karp據報談到,戰場上用來預測行動的系統,亦可能用於日常生活場景,推測人的行為,甚至預測下一個念頭。
3
10
換言之,值得關注的不只是AI能否「猜中」一個人的想法,而是它會否利用大量資料和行為模式,推測一個人可能採取的行動或作出的選擇。這仍然是預測,不等同直接讀取腦內想法;相關報道亦未證實這類預測的準確程度。
3
10
社交平台上一則相關摘要稱,Karp支持加強國內用途的私隱保障,但反對限制戰時AI,以免美國在軍事上處於劣勢。
31不過,這則摘要並非訪問逐字稿,當中的準確措辭和理據,未能由現有資料獨立確認。
AI系統要怎樣守規矩?
現有報道未能證實Karp曾提出一套具體方案,說明AI模型應如何協調,才能遵守法律、道德界線或指揮層級。
若把這些疑慮轉化為實際防護措施,可以考慮限制系統接觸敏感資料、只准它在獲授權的用途內行動、對重大決定保留人手審批,並記錄系統做過甚麼及其原因。這些是可考慮的保障方向,並非已確認由Karp提出的引述或完整方案。
與Karp早前談AI監管有何關係?
Karp在9月17日接受 CNBC 訪問時,提到AI的「無限風險」,主張制定「合理指引」,亦表示風險和法律責任可能令領先AI實驗室需要被國有化。
6他另稱,AI開發者應為自己的行為負責。
1
2
這些說法並不完全相同:強調開發者責任,不代表政府監管是他唯一提出的保障;而報道將國有化描述為與風險及法律責任有關的可能做法,並非無條件要求政府接管AI公司。
1
6
Palantir股價下跌,能說明甚麼?
一則市場報道指,Palantir股價在10月13日(星期二)下跌約0.8%,報近209美元。
9這只反映當日報道的股價變動,無法證明跌幅是由Karp的言論造成,也不能代表投資者對國內私隱保障的看法。
要處理的核心問題,是如何為AI預測能力訂立可執行的界線,同時不把對未來能力的憂慮當成已證實的本領。Karp的警告點出國內私隱與軍事用途之間的拉鋸,但現有資料未能解答界線應如何劃定,也未能核實所有歸於他的細節。