アムネスティ・インターナショナル、主要AIシステムを「設計から違法」と批判

アムネスティは、この自動化されたデータ収穫を国家レベルの大規模監視システムと同列に扱い、開発の最初の段階からプライバシー権が侵害されていると論じている 。調査対象として名指しされたのは、GPT-3、Gemini、Llamaの他、DeepSeek、Midjourney、Stable Diffusionなど、広く一般に提供されている主要なモデルやツール群だ 。

報告書が暴く3つの害

リスクベースの規制アプローチではなく、禁止を求めるとする主張を支えるために、報告書は相互に関連する3つの害を浮き彫りにしている。

1. 設計段階からの大量プライバシー侵害

最初の、そして最も根底にある害は、プライバシー侵害そのものである。報告書は、数十億件に及ぶ公開投稿や写真、会話データから構築されたデータセットが、いかにして無断で収集されているかを詳述する。これは情報漏洩や不正アクセスではなく、「AIを作るための意図的かつ構造的な手法」なのだ。アムネスティはこの「プライバシー権の乱用」が出発点であるとし、開発パイプライン全体が人権基準の下では違法になると主張する 。

2. 固定観念・偏見・差別の永続化

2つ目の害は、収集されたデータから直接的に生じる。学習素材はオープンウェブから無差別に収穫されるため、「実社会の偏見によって汚染されている」。アムネスティは、こうしたバイアスがAIによって中和されるどころか、「人種、ジェンダー、文化の境界線に沿って、モデルの出力においてむしろ増幅される」と警告する 。報告書は、有毒なステレオタイプや偏見に満ちた関連付けが自動化され、大規模に拡散されることで、歴史的に疎外されてきたコミュニティがその組織的差別の矢面に立たされることへの強い懸念を表明している 。

3. 環境への悪影響

最後の害は、デジタルから物理世界へと目を向ける。報告書は、これらのシステムを構築し稼働させるための多大な環境コストを問題視し、「必要とされる巨大なデータセンターとそのエネルギー消費」を指摘する 。この環境負荷は、歯止めの効かないAI開発競争がもたらす、追加的でありながら見過ごされがちな人権への帰結であると論じている。

規制ではなく禁止を求める声

アムネスティ・インターナショナルの結論は、極めて厳しいものだ。違法なウェブスクレイピングのパイプラインに依存するスタンドアロン型の生成AIシステムは「国際人権法と相容れない」と断じている 。同団体は、EUのAI法が採用するようなリスクベースの規制枠組みは不十分であるとし、日本政府を含む各国政府に対して、こうした手法で構築されたシステムの「全面的な禁止」に踏み込むよう要求している。この慣行全体を、単に管理されるべきリスクではなく、人権危機として捉えているのだ 。