Palantir執行長Alex Karp(亞歷克斯・卡普)談到的,是AI預測能力可能走多遠:從預判行為,延伸到推測一個人在日常生活中可能會怎麼想、怎麼做。現有報導呈現的是對這種可能性及其隱私影響的警告,並非證明AI能直接讀取人的思想。
3
10
卡普談到的預測能力與隱私
據報導,卡普在接受Palantir Sovereign負責人Louis Robson訪問時,將戰場上用來預測行動的系統,連結到AI在民間情境中的可能用途,包括預測人們接下來可能會怎麼想。
3
10
這個差別很重要:相關報導描述的是對「預測」能力的警示,並未證明AI能直接取得某人的思想,也沒有證實它能準確知道一個人將會想什麼。
3
10
社群平台上流傳的一則摘要稱,卡普支持加強國內用途的隱私保障,但反對對戰時AI施加可能使美國處於劣勢的限制。由於這項說法來自社群貼文,而非訪談逐字稿,現有資料無法獨立確認其精確措辭與完整理由。
31
AI系統的防護措施可以怎麼理解?
現有報導沒有證實卡普曾提出一套具體方案,說明如何讓不同模型遵守法律、道德界線或指揮體系。若把這些疑慮轉化為實務上的防護方向,可以考慮在AI系統各環節設下限制:控制敏感資料的存取、限定系統只能用於獲授權的目的、對重大決策保留人工核准,並記錄系統做了什麼及其理由。
這些是可供討論的防護措施,不是已獲證實的卡普原話,也不代表他提出了這樣一套具體藍圖。
與卡普9月談AI風險的說法有何關聯?
在9月17日接受CNBC訪問時,卡普提到AI的「無限風險」,主張應訂立「合理指引」,並表示由於技術風險與責任問題,領先的AI實驗室可能需要國有化。
6他也主張,AI開發者應為自身行為負責。
1
2
這幾項說法彼此相關,但不能混為一談:卡普強調開發者責任,不代表他提出的防護方式只有政府監管。CNBC相關報導將國有化描述為與風險及責任問題相連的一種可能性,而不是無條件要求AI公司國有化。
1
6
Palantir股價下跌,能說明什麼?
一則市場報導指出,Palantir股價在10月13日(星期二)下跌約0.8%,來到接近209美元。這只能說明該股當日的報導價格變動,不能證明下跌是由卡普的談話引起,也無法反映投資人如何看待國內隱私保障。
9
更大的問題,是如何為預測型AI訂出可執行的界線,同時不把推測中的能力當成已證實的事實。卡普的警告凸顯居家隱私與軍事AI用途之間的張力;但現有資料並未決定界線該如何劃定,也無法確認所有歸於他的細節。