拆解生成式AI的「原罪」：國際特赦組織為何呼籲全面禁用

國際特赦組織將這種自動化的資料收集，等同於國家級的大規模監控系統，認為它從開發的第一步起就侵犯了隱私權 。這份研究簡報中，點名了多個已在市場上廣泛應用的知名模型與工具，包括GPT-3、Gemini、Llama，以及DeepSeek、Midjourney、Stable Diffusion等 。

三大傷害類別

為了支撐其「應予禁止而非風險監管」的呼籲，簡報列舉了三項彼此獨立卻又相互關聯的傷害類別。

一、設計上的大規模隱私侵犯

首要且最根本的傷害，就是隱私侵犯本身。報告詳述了那些由數十億則公開貼文、照片和對話所構成的數據集，是如何在未經許可下被彙編而成。這並非資料外洩或遭駭；而是打造AI時，一種刻意為之的、結構性的手段。國際特赦組織認為，這種「濫用隱私權」的行為正是問題的起點，使得整個開發流程，就人權標準而言，都是非法的 。

二、延續刻板印象、偏見與歧視

第二類傷害直接源自數據本身。由於訓練素材是從公開網路上不分青紅皂白地爬取而來，因此早已「充斥著現實世界的偏見」。國際特赦組織警告，AI非但不會中和這些偏見，反而會在模型輸出中，從種族、性別到文化等各個層面，將其「進一步放大」。報告對歷史上長期處於邊緣的社群表達了特別的憂慮：當有毒的刻板印象與帶有偏見的聯想被自動化、規模化時，這些社群將首當其衝地面臨最嚴重的系統性歧視 。

三、不利的環境衝擊

最後一類傷害，則將焦點從數位世界轉向實體世界。簡報紀錄了建構和運作這些系統所帶來的巨大生態成本，矛頭指向「所需的海量數據中心及能源消耗」。報告認為，這項環境衝擊是這場不受約束的AI競賽中，另一項常被忽略的人權代價。

呼籲全面禁止，而非單純監管

國際特赦組織的結論十分嚴厲。該組織認定，仰賴這些違法網路爬取管線的獨立生成式AI系統，本身就「與國際人權法互不相容」。組織主張，現有的監管模式，像是歐盟《人工智慧法案》（EU AI Act，一個依據風險高低來分類管理AI系統的法規框架）所採取的風險分級途徑，已不足以應對 。取而代之的是，國際特赦組織呼籲各國政府介入，對透過這類手法建構的系統祭出「全面禁令」，將整個做法定調為一場無法單純透過管理來解決的人權危機 。