而家新嘅桌面程式將 Chat、Work 同 Codex 放埋一齊,亦逐步加入同 App、檔案、畫面及其他軟件協作嘅能力。 Apple Messages 插件,就係將呢種代理式工作流程帶入個人通訊工具嘅一個例子。
閱讀同發送,風險並唔一樣。一次錯誤摘要可能只係唔完整或理解偏差;但一條已經發出嘅訊息,就可能即時造成社交、工作、金錢或名譽上嘅後果。一般使用時,最好保留每次發送前審批,尤其係面對陌生收件人或敏感話題。
OpenAI 表示,插件會喺用戶部 Mac 上本地運作,亦唔會建立一個包含所有訊息嘅完整索引。不過,現有報道及文件未足以證明每一條訊息都只會留喺 Mac,或者永遠唔會由 OpenAI 處理及保留。
較穩妥嘅理解係:插件利用 Mac 本地嘅 Messages 存取權限去搵相關對話,但 ChatGPT 要分析、總結或草擬回覆,仍然需要取得你所選對話嘅內容,或者由內容衍生出嚟嘅資料。現有資料唔支持更強嘅「所有內容完全留喺本機」講法。
另外,訊息入面唔只係你自己嘅資料,仲可能包括朋友、家人、同事或群組成員嘅個人資料,例如驗證碼、工作內容、法律或醫療資訊。換句話講,開放廣泛存取權限,影響嘅唔止係帳戶持有人嘅私隱,亦可能牽涉第三方。插件推出時,相關報道亦提出 Apple 生態及私隱方面嘅疑慮。
對 AI 代理嚟講,訊息係不受信任嘅輸入。當 ChatGPT 閱讀對話時,其他人發出嘅惡意文字可能試圖影響佢下一步行動。呢種情況叫做提示注入(prompt injection):一段原本只係訊息內容嘅文字,可能被代理錯誤當成操作指令。
你本身可能只係想處理一個對話,但如果插件獲得比實際需要更廣泛嘅 Messages 存取權限,其他聊天內容亦可能被讀取,或者意外出現喺摘要及工作流程之中。代理可以查看嘅對話越多,無關私隱資料曝光嘅機會亦越大。
ChatGPT 可能寫出睇落合理、實際上卻唔準確嘅回覆,亦可能誤解上下文或揀錯收件人。涉及金錢、登入資料、機密工作、健康資料,或者人際爭拗時,呢類錯誤嘅後果會更加嚴重。
有關 AI agent skills 嘅安全研究指出,持續而且無細分嘅權限係重要風險:一次批准可能延續到日後工作階段,並涵蓋多種操作,而唔需要每次重新確認。 放喺訊息功能上,即係一次性確認可能變成長期授權,容許代理持續代你同人溝通。
Codex 嘅安全模型包括沙盒及審批政策;按其文件所述,代理環境預設會關閉網絡存取。 呢啲控制措施有幫助,但唔可以取代人手檢查一條即將離開裝置、送到另一個人手上嘅訊息。
Apple Messages 整合係 OpenAI 將 ChatGPT 由單純問答工具,推向「可以執行工作嘅代理」嘅一部分。桌面程式將 Chat、Work 同 Codex 結合,並逐步連接電郵、檔案、畫面、App 及其他軟件。
方向其實好清晰:ChatGPT 唔再只係喺獨立對話框入面生成答案,而係會自行搵資料、理解上下文、完成多步驟工作,並喺用戶日常使用嘅工具入面採取行動。訊息功能尤其顯眼,因為結果唔只係畀你參考嘅建議,而係可能變成一段以你名義發出嘅外部通訊。
取捨亦相當直接:每加入一個整合,就可以減少人手搜尋、複製及點擊;但同時亦會增加 AI 系統接觸個人資料嘅範圍,並提高錯誤或惡意指令造成損害嘅代價。
如果只係搵返舊對話、整理聊天記錄或整一份草稿,插件可能相當方便。但處理敏感內容時,建議採取保守設定:
ChatGPT 而家可以喺支援嘅 Mac 上直接處理 iMessage、SMS 同 RCS,確實係一個幾吸引嘅功能升級。不過,最安全嘅定位仍然係:由 ChatGPT 提議行動、由你作最後決定,而唔係畀一個無人看管、擁有長期權限嘅系統代你開口。