マリア・レッサ氏の警告――AIを今規制しなければ、人間の「自ら決める力」が失われる

オスロでのマリア・レッサ氏の訴えは明快だった。人工知能（AI）の影響力が制御しにくいほど社会に浸透する前に、政府は法的な歯止めを設けるべきだという。レッサ氏の見立てでは、AIはすでにSNSを通じて人々の注意や社会的行動に影響しており、次の段階では個人が自ら判断し選ぶ力、すなわち主体性を弱めかねない。2

レッサ氏はAI統治を、適法な言論を制限する問題ではなく、公共安全と民主主義を守る問題として捉える。人と世界の間に高度な自律性を持つシステムが当たり前のように介在する前に、民主社会が実効性ある安全策を用意できるかが問われている。23

レッサ氏が語るAIの「3つの波」

レッサ氏は、技術が人間の行動に及ぼす影響を3段階の流れとして説明した。

1. SNSが注意をつかまえた段階
   SNSはエンゲージメントを最適化する仕組みによって、社会の分極化や人々の孤立を助長してきたと同氏は指摘する。26

2. チャットボットが親密さに入り込む段階
   会話型AIは、つながりや親密さを求める人間の欲求を通じて、人の生物学的な脆弱性に働きかけ得るという。実際に、一部のAIコンパニオン製品は、人間の伴侶関係を模倣・維持すること、場合によっては恋愛関係を模擬することを目的に設計されている。212

3. エージェント型AIが人に代わって行動する段階
   第3の波は、利用者の代わりに行動を実行できるAIシステムだ。判断や実行をこうしたシステムに委ねる範囲が広がれば、人間の判断と主体性が少しずつ置き換えられるおそれがある――これがレッサ氏の懸念である。25

これは、すべてのAIツールが同じ結果をもたらすという主張ではない。注意の滞在時間、情緒的な依存、タスクの完遂を最大化するよう設計されたシステムは、利用者が何を見て、どう感じ、何をするかに対して、次第に大きな影響力を持ち得るという警鐘だ。

「規制すれば中国が有利になる」論への反論

レッサ氏は、米国や欧州がAI規制を強めれば中国に競争上の優位を与える、という議論を退けた。ロイターによると、ドナルド・トランプ米大統領を含む批判者が唱えるこの見方について、同氏は論点の置き方自体が誤っていると指摘した。28

同氏の主張は比較に基づく。中国はすでに、シリコンバレー企業が受け入れている範囲よりもはるかに強い国家統制をテクノロジーに適用している。したがって民主主義国にとっての選択は、単純な「規制か自由か」ではない。公共の利益と権利を尊重するルールを民主的に整えるのか、それとも強力なシステムの統治を主に企業のインセンティブに委ねるのか、という問題だ。2

アモデイ氏の「能力開発のペース調整」と重なる点

Anthropicのダリオ・アモデイCEOも、最先端AIの能力向上の速度を抑えるべきだという関連する主張を展開している。2026年9月の論考でアモデイ氏は、安全研究、独立した評価、ガバナンスが技術進歩に追いつく時間を確保するため、能力向上のペースを調整すべきだと述べた。10

アモデイ氏の主な焦点は、急速に高まる技術能力と悪用リスクにある。より高性能なAIエージェントがオンライン上で広範な実行力を持つ可能性を警告し、実運用中のモデルを監視する基盤や、独立評価を提案している。10

レッサ氏の視点はより市民社会的で、AIを介したシステムが注意、親密さ、行動、そして民主社会における自己決定をどう形作るかに及ぶ。ただし両者は重要な一点で重なる。強力なシステムが広く導入された後ではなく、その前に安全策を整えるべきだという点だ。

実効性ある説明責任とは何か

レッサ氏は、依存を招く設計を持つ製品を企業が開発するなら、任意の約束だけでは不十分だとも主張してきた。こうした機能は10代だけでなく成人向けからも取り除くべきだ、という立場だ。2

米国でのMetaをめぐる最近の和解は、レッサ氏が支持する「強制力のある責任」の一例といえる。Metaは、FacebookとInstagramが若年層を夢中にさせるよう設計されていたとの、ほぼ全米の州による主張を解決するため、今後10年間で最大180億ドルを支払い、10代による両サービスの利用により厳しい制限を設けることに合意した。Metaは不正行為を認めていない。

和解には、10代利用者への初期設定としての1日当たり利用制限や、夜間の利用制限などが含まれる。

レッサ氏にとって、教訓はSNSや若年層だけに限られない。注意や行動を体系的に最適化する製品は、大規模な公共的被害を生み得る。だからこそAI規制は、技術や言論を禁じるためのものではなく、安全性、主体性、民主的な営みを損なうような設計・運用に対して、明確な法的責任を求めるものだという。23

要点：問題は「手遅れになる前」に介入できるか

レッサ氏のオスロでの発言は、AI監督を早期介入の課題として位置付ける。人々が情報を得る方法、関係を築く方法、判断を委ねる方法にAIが深く組み込まれてからでは、有効な統制は難しくなる。

同氏が求めるのは、その段階の前に法制化することだ。開発企業とプラットフォームに実質的な説明責任を課し、自律性を増すシステムを精査し、民間企業だけでなく公的機関も技術を評価・統治できる能力を持つようにするべきだとしている。210