マリア・レッサ氏が警告するAI「3つの波」――注意力、親密さ、そして人間の主体性

マリア・レッサ氏の警告は、「自律的に行動するAI」が将来突然現れるという話にとどまらない。氏の見立てでは、技術はすでに、人々が何に注意を向けるかを左右する段階から、親密さへの欲求に働きかける段階へ進んできた。そして次に、人間の選択そのものを置き換えかねない段階が来る。市民が自ら意思を形成し、政治を動かすために必要な主体性が失われれば、民主的な自己統治も危うくなる――これがレッサ氏の問題提起だ。1

レッサ氏が示すAIの「3つの波」

1. SNSが注意を奪った

第1波としてレッサ氏が挙げるのがソーシャルメディアだ。各プラットフォームは利用者の注意を獲得しようと競い、その結果として社会の分極化と人々の孤立を招いたと同氏は語る。共通の情報環境や社会的信頼、持続的に議論へ向き合う注意力が損なわれれば、社会は分断されやすくなり、熟議も難しくなる。1

2. チャットボットが親密さへの欲求に働きかける

第2波は会話型AIだ。レッサ氏は、チャットボットが人間の「親密さを求める欲求」を通じて、生物学的な側面に働きかけ得ると警告した。問題は、単にチャットボットを長時間使うことではない。感情を強く引きつける対話を軸に設計されたシステムが、脆弱な立場の利用者へ影響を及ぼす新たな経路になり得る点にある。1

3. エージェント型AIが人間の主体性を縮める恐れ

最後の波として氏が位置づけるのが、エージェント型AI、さらに複数のAIエージェントが連携するマルチエージェント型AIだ。こうしたシステムは人のために行動する一方、本人の利益に反する形で動く可能性もある。社会に深く組み込まれる前に法的な限度を設けなければ、人間の主体性、つまり自分で判断し選ぶ力が奪われかねないと同氏は訴えた。1

この3つの波は、レッサ氏の議論ではリスクの段階的な拡大を示す。注意の奪い合いから、親密さを介した影響へ、さらに重要な意思決定を自動化システムが人に代わって担う可能性へ――という進行だ。

AI規制を「公共安全」の問題として扱うべき理由

レッサ氏はAIの統治を、主として表現の自由や技術競争をめぐる論争としてではなく、公共安全の課題として扱うべきだと述べた。市民はAI規制を求める運動を展開し、選挙で選ばれた政治家に立法を促すべきだという。1

同氏が示した対応策は、相互に結び付いている。

• 製品が害を生んだ場合、大手テクノロジー企業に法的な責任を負わせる。1
• 保護対象を未成年者に限らず、成人向けの製品でも依存性を高める機能を取り除く。1
• 関連技術へのアクセスに年齢制限を設ける。1
• ルールと保護策が整うまで、AIの開発と導入の速度を落とす。1

またレッサ氏は、欧米で規制すればAI開発競争で中国に譲歩することになる、という主張を退けた。ロイターが報じた同氏の立場では、規制しないことの代償は競争上の不利益以上に根本的であり、民主主義に不可欠な人間の主体性そのものを失うことだ。1

規制だけではない――公共利益のための技術を自ら築く

レッサ氏の提案は、有害なシステムを制約することだけではない。ジャーナリストや地域社会が、情報の健全性を支える技術を構築し、保有すべきだとも訴えてきた。ノーベル平和会議では、技術をつくる側がデータとインフラへの管理権を維持し、巨大プラットフォームに代わる公共利益志向の選択肢を育てる必要性を語った。9

その建設的な構想には、Rappler Communitiesのような、より安全で地域社会を中心に据えたコミュニケーション空間が含まれる。これは、利用時間を最大化するプラットフォームの誘因を当然の前提にせず、民主的な参加を支えるための基盤を目指すものだ。

問われているのは「当たり前」になる前に決められるか

レッサ氏の「3つの波」という枠組みは、エージェント型AIが日常生活の意思決定者として定着する前に行動すべきだ、という主張である。第1波と第2波は、デジタル技術が注意と親密さを大規模に利用し得ることをすでに示したと氏は見る。第3波を前にした政策上の問いは明確だ。より自律的なAIシステムが広く浸透する前に、人間の選択、説明責任、そして民主的な統制を守れるのか――である。1