個水印 survive 到 copy-paste 同輕度編輯,但如果大幅改寫就會 degraded 。Anthropic 喺官方網誌話,呢個方法係一種統計模式,唔會影響輸出質素,而且對簡單篡改有一定抵抗力 。
呢個公布即刻喺 Reddit 引爆激烈爭論。用戶分成兩大陣營,唔少媒體都有報導呢場論戰 。
學生同專業人士怕被「捉到」用 AI。 好多用戶擔心,老師、僱主或者抄襲偵測工具會 detect 到 Claude 嘅水印,從而踢爆學生用 Claude 做功課,或者打工仔用嚟寫電郵、報告甚至 code 。批評者認為咁會造成寒蟬效應:就算係正當嘅 AI 輔助工作,例如 brainstorm、編輯、草擬,都可能俾人當成 misconduct 。
個水印係咪變相 claim 咗用戶嘅功勞? Reddit 上好多人覺得,永久 tagging 輸出做「AI 生成」,即係 Anthropic 喺度 claim 返個 credit,但明明用戶有俾 prompt、有篩選、有編輯 。《福布斯》專欄作家 Dan Fitzpatrick 一語道破:「水印證實咗 Claude 有份,但唔代表邊個寫嘅」——批評者話呢個分別喺現實應用中會 lost in translation 。
用爬返嚟嘅人類數據訓練模型,然後反過頭 watermark 輸出,係咪好諷刺? 唔少 Reddit 留言指出呢個 irony:Anthropic 要 watermark AI 輸出嚟標明來源,但 Claude 本身係用咗 billions 個由公開網路 scrape 返嚟嘅字詞訓練——當中大量係人類作者嘅內容,未經明確同意或者補償 。批評者話呢個係雙重標準:公司要求 AI 輸出要 traceable,但對於用來訓練模型嘅人類創作者數據,就唔肯俾返同樣嘅 traceability 或者 credit 。
冇得 opt-out,仲要全球強制。 Reddit 用戶批評冇開關掣,尤其係非歐盟用戶,根本冇得 say no 。有人形容呢個政策係「苛刻嘅陰謀」,針對全世界無辜嘅用戶 。
準確度同 false positive 嘅憂慮。 有網民質疑水印偵測係咪可靠,擔心 false positives 會冤枉冇用過 Claude 嘅人 。
透明同對抗「AI slop」係正當目標。 支持者話,水印係對付越來越多無法 detect 嘅 AI 垃圾內容(污染搜尋結果、新聞、學術文章)嘅合理回應 。有 Reddit 用戶指出,Anthropic 嘅方法係設計成大規模統計先 detect 到,唔係針對個別用戶,所以算係注重私隱嘅設計 。
水印只證明有用過,唔代表有罪——而且大幅改寫就可以擺脫。 支持者話,大幅 rewrite 會令水印 degraded,所以真係有編輯同改寫嘅用戶根本唔使驚 。水印只係證明 Claude 有份,但單靠佢唔足以證明作弊或者 plagiarism 。
遵守法律冇得揀。 有人認為鬧 Anthropic 遵守歐盟法例係捉錯用神——如果佢想喺歐洲做生意,根本冇乜選擇 。有 Reddit 留言仲話,呢次 backlash 反而暴露咗好多人用 Claude 係因為唔想俾人 detect,呢個本身就係一個令人擔憂嘅 admission 。
其實兩邊都同意一樣嘢:水印政策徹底改變咗用戶同 AI 工具嘅關係——由一個默許信任嘅模式,變成永久、機器可讀嘅 attribution。問題係,呢個轉變究竟係 accountability 嘅必要一步,定係一種監控機制,懲罰普通用戶,但精叻嘅用戶總有方法繞過?
個水印 survive 到 copy-paste 同輕度編輯,但如果大幅改寫就會 degraded 。Anthropic 喺官方網誌話,呢個方法係一種統計模式,唔會影響輸出質素,而且對簡單篡改有一定抵抗力 。
呢個公布即刻喺 Reddit 引爆激烈爭論。用戶分成兩大陣營,唔少媒體都有報導呢場論戰 。
學生同專業人士怕被「捉到」用 AI。 好多用戶擔心,老師、僱主或者抄襲偵測工具會 detect 到 Claude 嘅水印,從而踢爆學生用 Claude 做功課,或者打工仔用嚟寫電郵、報告甚至 code 。批評者認為咁會造成寒蟬效應:就算係正當嘅 AI 輔助工作,例如 brainstorm、編輯、草擬,都可能俾人當成 misconduct 。
個水印係咪變相 claim 咗用戶嘅功勞? Reddit 上好多人覺得,永久 tagging 輸出做「AI 生成」,即係 Anthropic 喺度 claim 返個 credit,但明明用戶有俾 prompt、有篩選、有編輯 。《福布斯》專欄作家 Dan Fitzpatrick 一語道破:「水印證實咗 Claude 有份,但唔代表邊個寫嘅」——批評者話呢個分別喺現實應用中會 lost in translation 。
用爬返嚟嘅人類數據訓練模型,然後反過頭 watermark 輸出,係咪好諷刺? 唔少 Reddit 留言指出呢個 irony:Anthropic 要 watermark AI 輸出嚟標明來源,但 Claude 本身係用咗 billions 個由公開網路 scrape 返嚟嘅字詞訓練——當中大量係人類作者嘅內容,未經明確同意或者補償 。批評者話呢個係雙重標準:公司要求 AI 輸出要 traceable,但對於用來訓練模型嘅人類創作者數據,就唔肯俾返同樣嘅 traceability 或者 credit 。
冇得 opt-out,仲要全球強制。 Reddit 用戶批評冇開關掣,尤其係非歐盟用戶,根本冇得 say no 。有人形容呢個政策係「苛刻嘅陰謀」,針對全世界無辜嘅用戶 。
準確度同 false positive 嘅憂慮。 有網民質疑水印偵測係咪可靠,擔心 false positives 會冤枉冇用過 Claude 嘅人 。
透明同對抗「AI slop」係正當目標。 支持者話,水印係對付越來越多無法 detect 嘅 AI 垃圾內容(污染搜尋結果、新聞、學術文章)嘅合理回應 。有 Reddit 用戶指出,Anthropic 嘅方法係設計成大規模統計先 detect 到,唔係針對個別用戶,所以算係注重私隱嘅設計 。
水印只證明有用過,唔代表有罪——而且大幅改寫就可以擺脫。 支持者話,大幅 rewrite 會令水印 degraded,所以真係有編輯同改寫嘅用戶根本唔使驚 。水印只係證明 Claude 有份,但單靠佢唔足以證明作弊或者 plagiarism 。
遵守法律冇得揀。 有人認為鬧 Anthropic 遵守歐盟法例係捉錯用神——如果佢想喺歐洲做生意,根本冇乜選擇 。有 Reddit 留言仲話,呢次 backlash 反而暴露咗好多人用 Claude 係因為唔想俾人 detect,呢個本身就係一個令人擔憂嘅 admission 。
其實兩邊都同意一樣嘢:水印政策徹底改變咗用戶同 AI 工具嘅關係——由一個默許信任嘅模式,變成永久、機器可讀嘅 attribution。問題係,呢個轉變究竟係 accountability 嘅必要一步,定係一種監控機制,懲罰普通用戶,但精叻嘅用戶總有方法繞過?