國際特赦組織：生成式AI「設計上就違法」 要求全面禁用

生成式AI極速崛起，背後全靠一個無底洞咁嘅數據胃口。2026年5月28日，國際特赦組織（Amnesty International）發表咗一份火藥味十足嘅簡報，叫做**《設計上就違法：踢爆生成式AI嘅人權代價》（'Unlawful by Design: Exposing the Human Rights Costs of Generative AI'）**，直接挑戰呢啲系統嘅存在根基。報告點名指控Google、Meta同OpenAI呢啲大廠，話佢哋嘅模型「從設計本身就植根於大規模侵犯隱私」，透過大規模、未經同意咁抓取（scraping）成個互聯網上嘅個人資料 。

國際特赦組織嘅核心論點係，呢啲做法並唔係咩不幸嘅副作用，而係Google嘅Gemini、Meta嘅Llama同OpenAI嘅GPT-3等系統嘅核心設計特徵。組織斷言，呢類系統「根本同國際人權法（IHRL）水火不容」，而解決辦法唔係更聰明嘅規管，而係直頭禁用 。

呢份簡報唔止講私隱，仲詳細列出三大類禍害，去支撐呢個咁戲劇性嘅禁用呼籲。

「設計上就違法」嘅指控

國際特赦組織嘅核心論據係，餵養呢啲AI模型嘅數據管道，等同於一種大規模監控。簡報描述咗科企點樣用自動化工具，「喺未經個人明確同意嘅情況下，提取海量嘅網上數據——包括圖像、社交媒體活動同其他個人資訊」 。因為呢種未經同意嘅提取，係直接嵌入咗系統嘅基礎架構入面，報告直接標籤佢哋做「設計上就違法」 。

國際特赦組織將呢種自動化數據收割，同國家級嘅大規模監控系統相提並論，認為喺開發嘅第一步，就已經侵犯咗私隱權 。簡報嘅研究點名咗幾款主流嘅公開模型同工具，包括GPT-3、Gemini、Llama，仲有DeepSeek、Midjourney同Stable Diffusion 。

三大禍害

為咗支持佢哋要求「禁用」而唔係「風險為本規管」嘅呼籲，簡報重點講咗三個既獨立又互相關聯嘅禍害。

1. 設計上嘅大規模私隱侵犯

第一同最根基嘅禍害，就係私隱侵犯本身。報告詳細講述咗由數十億計嘅公開貼文、相片同對話構成嘅數據集，係點樣喺未經許可下被編制嘅。呢樣唔係咩洩漏或漏洞；而係創造AI嘅一個故意、結構性嘅方法。國際特赦組織認為，呢種「濫用私隱權」嘅做法係萬惡之源，令到整個開發流程喺人權標準下都係違法嘅 。

2. 延續定型、偏見同歧視

第二類禍害直接源自啲數據。因為訓練材料係無差別咁由開放網絡抓取返嚟，所以「被現實世界嘅偏見污染晒」。國際特赦組織警告，呢啲偏見唔會被AI中和；相反，佢，佢哋會「喺模型輸出嘅時候，沿住種族、性別同文化嘅界線被放大」 。報告特別關注歷史上被邊緣化嘅社群，因為系統性歧視——即係有毒嘅定型同帶偏見嘅關聯被自動化同大規模擴散——佢哋往往係承受最重衝擊嗰班 。

3. 不利嘅環境影響

最後一類禍害將焦點由數碼世界轉向實體世界。簡報記錄咗建造同運行呢啲系統嘅重大生態代價，指出嗰啲「巨型數據中心同所需嘅巨大能源消耗」 。報告認為，呢種環境影響係呢場毫無節制嘅AI競賽中，一項額外但成日被忽略嘅人權後果。

呼籲禁用，唔單止係規管

國際特赦組織嘅結論非常尖銳。佢發現，呢啲依賴非法網絡抓取管道嘅獨立生成式AI系統，「同國際人權法唔相容」 。組織認為，現有嘅監管模式，例如歐盟《人工智能法案》（EU AI Act）嗰套風險為本框架，根本唔夠力 。相反，佢呼籲各國政府介入，「全面禁止」用呢啲方法建造出嚟嘅系統，將成個操作定性為一場唔可以單靠管理去解決嘅人權危機 。