科技巨头的AI模型如何建立在

国际特赦组织将这种自动化的数据收割等同于国家级的大规模监控系统，认为它从一开始就侵犯了隐私权 。简报在其研究中点名了几款主流公开模型和工具，包括GPT-3、Gemini、Llama，以及DeepSeek（深度求索）、Midjourney和Stable Diffusion 。

支持禁令的三类伤害

为了支持其要求禁令而非风险导向的监管模式，该简报强调了三类虽不同却相互关联的伤害。

1. 从设计之初就大规模侵犯隐私

首要且最根本的伤害是隐私侵犯本身。报告详细描述了如何未经允许，就将数十亿条公开帖子、照片和对话编制成数据集。这不是数据泄露或漏洞，而是创造AI时有意为之的结构性方法。国际特赦组织认为，这种“滥用隐私权”是起点，使得整个开发流程在人权标准下都是非法的 。

2. 固化刻板印象、偏见与歧视

第二类伤害直接从数据本身衍生而来。由于训练材料是从开放网络不加区分地抓取的，因而“被现实世界的偏见所污染”。国际特赦组织警告说，这些偏见在AI中并未被消除，反而“在模型输出中被放大，跨越种族、性别和文化的界线” 。该报告格外关注历史上被边缘化的群体，由于有害的刻板印象和歧视性关联被自动化并规模化，这些群体承受了这种系统性歧视的主要冲击 。

3. 负面的环境影响

最后一类伤害将焦点从数字世界转向了物理世界。简报记录了构建和运行这些系统的显著生态代价，特别指出“所需的大型数据中心和能源消耗”问题 。报告认为，这种环境影响是失控的AI竞赛中一种额外但常被忽视的人权后果。

呼吁禁止，而非只是监管

国际特赦组织的结论态度鲜明。它指出，依赖于这些非法网络抓取流程的独立生成式AI系统，是“与国际人权法相冲突的” 。该组织认为，现有的监管模式，例如欧盟《人工智能法案》（EU AI Act）基于风险的框架，是不够的 。相反，它呼吁各国政府介入，对通过这些方法构建的系统实施“全面禁止”，将整个行为界定为不能仅仅管理的严重人权危机 。