國際特赦組織：生成式AI「設計上就違法」 要求全面禁用

國際特赦組織將呢種自動化數據收割，同國家級嘅大規模監控系統相提並論，認為喺開發嘅第一步，就已經侵犯咗私隱權 。簡報嘅研究點名咗幾款主流嘅公開模型同工具，包括GPT-3、Gemini、Llama，仲有DeepSeek、Midjourney同Stable Diffusion 。

三大禍害

為咗支持佢哋要求「禁用」而唔係「風險為本規管」嘅呼籲，簡報重點講咗三個既獨立又互相關聯嘅禍害。

1. 設計上嘅大規模私隱侵犯

第一同最根基嘅禍害，就係私隱侵犯本身。報告詳細講述咗由數十億計嘅公開貼文、相片同對話構成嘅數據集，係點樣喺未經許可下被編制嘅。呢樣唔係咩洩漏或漏洞；而係創造AI嘅一個故意、結構性嘅方法。國際特赦組織認為，呢種「濫用私隱權」嘅做法係萬惡之源，令到整個開發流程喺人權標準下都係違法嘅 。

2. 延續定型、偏見同歧視

第二類禍害直接源自啲數據。因為訓練材料係無差別咁由開放網絡抓取返嚟，所以「被現實世界嘅偏見污染晒」。國際特赦組織警告，呢啲偏見唔會被AI中和；相反，佢，佢哋會「喺模型輸出嘅時候，沿住種族、性別同文化嘅界線被放大」 。報告特別關注歷史上被邊緣化嘅社群，因為系統性歧視——即係有毒嘅定型同帶偏見嘅關聯被自動化同大規模擴散——佢哋往往係承受最重衝擊嗰班 。

3. 不利嘅環境影響

最後一類禍害將焦點由數碼世界轉向實體世界。簡報記錄咗建造同運行呢啲系統嘅重大生態代價，指出嗰啲「巨型數據中心同所需嘅巨大能源消耗」 。報告認為，呢種環境影響係呢場毫無節制嘅AI競賽中，一項額外但成日被忽略嘅人權後果。

呼籲禁用，唔單止係規管

國際特赦組織嘅結論非常尖銳。佢發現，呢啲依賴非法網絡抓取管道嘅獨立生成式AI系統，「同國際人權法唔相容」 。組織認為，現有嘅監管模式，例如歐盟《人工智能法案》（EU AI Act）嗰套風險為本框架，根本唔夠力 。相反，佢呼籲各國政府介入，「全面禁止」用呢啲方法建造出嚟嘅系統，將成個操作定性為一場唔可以單靠管理去解決嘅人權危機 。