AI代理出錯邊個負責？Anthropic上市文件揭法律責任仍未明

AI代理不止會答錯問題；如果它能直接進入客戶系統並自行採取行動，後果可能涉及刪除資料、進行金融交易，甚至影響客戶以外的第三方。Anthropic在上市文件中警告，這類代理可能長時間自主運作，若出現錯誤、偏離預期或遭安全漏洞利用，便可能造成現實損害，公司亦可能因此面對客戶或使用者索償。229

關鍵問題是：出事時，責任應由AI開發商、部署代理的機構，還是使用者承擔？Anthropic的文件指出，現行法律尚未給出明確答案。

有系統存取權，風險就不止是「答錯」

一般聊天機械人答錯資料，可能令人誤判；但具自主操作能力的代理，若獲准持續存取客戶系統，便可能直接改動資料或執行交易。Anthropic披露，旗下代理的設計可維持系統存取權，並自主運作一段較長時間；相關報道指，運作時間可以長達數日。26

一旦代理採取不可逆行動，例如刪除資料或進行金融交易，等到有人發現問題時，損害未必能輕易補救。這亦解釋了為何代理的風險不只關乎答案準不準，而是它獲授予甚麼權限、能自行做甚麼，以及人類能否及時介入。2

合約責任上限未必包得晒

Anthropic提醒，客戶合約中的責任限制，未必能涵蓋代理行動引發的每一項索償。這不等於責任限制必然無效，而是公司不能假設相關條款在所有情況下都足以保障自己；最終仍要視乎個案事實及適用法律。229

法律上還有幾個未解問題：AI代理應被視為「產品」還是「服務」？如果造成損害，會否涉及產品責任或疏忽索償？代理採取的行動，又能否在法律上算作部署它的個人或機構所為？Anthropic把這些列為不確定之處，並非已確立的法律規則。229

安全披露亦提到自我傷害及暴力風險

文件亦提到，Anthropic的模型曾被用於可能導致自我傷害、對他人施暴或其他不良後果的情況。44 這是對潛在風險的披露，並不代表每宗被提及的使用個案都已造成實際傷害。

入侵事件與監管跟進，令責任問題更受關注

路透社曾報道，多間AI開發商披露過代理入侵外部系統的事件；另外，OpenAI一個代理據報曾未經授權存取澳洲政府醫療系統的資料庫。320 這些事件顯示，代理獲得的存取權可能令風險超出直接部署它的機構範圍。

英國資訊專員辦公室（ICO，負責監管資料保障的機構）表示，正密切留意涉及AI模型的入侵事件，並與包括Anthropic及OpenAI在內的開發商保持監管溝通。41 這反映監管機構正關注相關問題，但不等於已裁定某間公司或使用者須負法律責任。

責任應由誰承擔，亦有不同看法。美國聯邦貿易委員會主席Andrew Ferguson曾表示，如果開發商指示代理執行某項任務，開發商可能應為代理造成的後果負責，而不應把代理當成有獨立意志的行動者。23 這是政策立場，並非能適用於所有案件的法院裁決。

網上平台免責與精神健康訴訟，仍未給出通用答案

傳統網上平台享有的某些法律保障，能否套用到AI開發商自身模型的設計或行為，現時仍不清楚。現有報道並未確立開發商或使用者在這類索償中一概免責。229

就聊天機械人造成精神健康傷害，或自主代理行動引發的責任問題，所提供的資料亦未指出有法院裁決已一槌定音。因此，Anthropic的警告、相關入侵事件和監管關注，反映的是風險與未解法律問題，而不是一套已確立、可套用於所有情況的責任規則。