AIは「予測」から「生成」、そして「行動」へ――人工知能の進化を7 दशकで読み解く

人工知能の進化は、古い技術が新しい技術に置き換わる単純な流れではない。ルールや統計的予測に基づくシステムは今も広く使われ、生成AIは文章・画像・音声・動画・コードを作る能力を加え、エージェントAIはモデルと外部ツールをつないで、複数の手順を踏みながら目標達成を目指す。

この変化は、AIの役割が**「判断する」から「作る」、そして「行動する」へ移ってきた**と捉えると分かりやすい。リスクも段階ごとに変わる。予測型システムでは正確性や公平性、生成AIでは真実性・安全性・出所、エージェントではさらに権限、承認プロセス、操作記録が問われる。

7 दशकにわたるAIの歩み

現代的なAI研究は、機械による推論、ゲームプレー、ニューラルネットワークに関する基礎研究が進んだ1950年代に形づくられた。その後、記号処理やエキスパートシステム、1990年代の機械学習、2010年代のディープラーニングへと研究の重点が移っていった。

ただし、これらは重なり合うアプローチだ。現在のAI製品でも、問い合わせの分類には予測モデル、回答の草案作成には生成モデル、実際に操作してよいかの判断には通常のソフトウェア制御が使われることがある。

1. 従来型AI――ルール、分類、予測

従来型AIには、大きく2つの考え方がある。

• 記号処理・ルールベースのシステム：人間が論理、専門知識、判断手順を明示的に組み込む。
• 機械学習システム：過去のデータから統計的な関係を学び、入力を分類したり、結果を推定したりする。

初期のゲームAIは、限られた環境の中で、可能な手を探索し評価することで、機械が選択肢を高速に検討できることを示した。後には、こうした考え方や統計的学習が、次のような実務に応用された。

• 不自然な取引や不正の疑いがある取引の検知
• 信用リスクや債務不履行リスクの評価
• 悪化や再入院など、医療上のリスク予測
• 商品、動画、音楽、投稿を並べるレコメンドエンジン
• Siriのような音声アシスタントにおける音声認識、意図分類、定型ワークフローの組み合わせ

従来型AIは、課題の範囲が狭く、繰り返し発生し、成果を測定しやすい場合に強い。大量の案件を短時間で処理し、一定の基準で結果を出せるためだ。特にルールベースの仕組みは、判断ロジックが明示されている分、複雑なモデルより点検しやすい場合もある。

予測には限界がある

予測モデルは、ある結果が起きやすいことを示せても、その理由まで理解しているとは限らない。統計的な相関は因果関係を意味せず、偏りのある過去データで学習すれば、その偏りを再現・増幅する可能性がある。

また、ルールは想定外の状況で機能しにくく、複雑な予測モデルは説明が難しい。現実の環境が変化すれば性能が低下する「データドリフト」も起こり得る。

融資、採用、保険、警察活動、医療など影響の大きい領域では、データ品質の確認、バイアス検査、判断に応じた説明、人による確認、異議申立ての手段、運用後の監視が必要になる。

2. 生成AI――新しいコンテンツを作る

生成AIは、文章、画像、音声、動画、コードなどの大規模なデータ集合からパターンを学び、そのパターンを使って新たな出力を作る。大規模言語モデルは文章を順番に生成し、マルチモーダルモデルは複数の形式をまたいで処理できる。

AIの使い勝手も変わった。固定されたコマンドを選んだり、分類スコアを受け取ったりするだけでなく、人が普段使う言葉で目的を説明し、資料の作成、変換、要約、解説を頼めるようになった。

主な用途

• カスタマーサービス：返信文の作成、会話の要約、翻訳、ナレッジベースからの情報検索
• 法務：文書の要約、条項の抽出、判例・法的資料の比較、初稿の作成。ただし、一次資料や法的主張は専門家による確認が必要
• 教育：概念の説明、練習問題の作成、フィードバック
• クリエイティブ業務：アイデア出し、コピーの草案、画像、音楽、動画の企画、ソフトウェアコードの生成
• プログラミング：コードの説明、テストの作成、修正案の提示、定型的な開発作業の効率化

利点は、下書き・要約・翻訳・コーディングにかかる時間やコストを抑えられること、自然言語で操作できること、個人に合わせた複数の案をすばやく作れることだ。ただし、もっともらしい回答を生成することと、信頼できる専門的判断を行うことは同じではない。

主なリスク

ハルシネーションと過信　大規模言語モデルは、誤情報、架空の内容、偏った説明、単純化しすぎた内容を、自信ありげな口調で出力することがある。生成AIの評価やグラウンディングに関する研究では、ハルシネーション、悪意ある・有害なコンテンツ、操作、著作権侵害、プライバシー、セキュリティが、継続的な検査と監視を必要とする課題として挙げられている。

学習と学術的公正　大規模な高校での実験では、AIチューターの利用中は成績が向上した一方、AIに頼った生徒は利用できなくなった後の成績が低下し、技能の習得が不十分になる可能性が示された。答えを直接与えるより、教師が設計したヒントを出す仕組みの方が悪影響を抑えた。生成AIは剽窃を容易にし、生徒が実際に内容を身につけたかどうかを分かりにくくするおそれもある。

著作権と出所　学習データの出所、特定の作家や制作者の作風をまねること、保護された素材を含む出力の扱いについては、なお議論が続いている。教育分野の指針でも、不正確・偏った・危険な内容と並び、知的財産権の侵害が重要なリスクとして挙げられている。

有害・扇動的なコンテンツ　生成AIは、誤情報、嫌がらせ、性的・暴力的な素材、危険な手順などを生み出す可能性がある。モデルが常に意図どおりに振る舞うと考えるのではなく、事前テスト、安全策、操作ログ、監視を組み合わせる必要がある。

子どもの安全とウェルビーイング　若年層に対する生成AIのリスク研究では、精神的な健康、行動・社会的発達、有害性、プライバシー、悪用・搾取などが懸念されている。チャットボットを、資格を持つ専門家に代わる信頼できる相談相手とみなしてしまう場合、リスクは特に大きい。

プライバシーと秘密情報　入力文には、個人情報、企業秘密、顧客資料、法的に秘匿された情報が含まれることがある。組織は、どのデータをどのサービスに入力してよいかを明確に定め、承認されていないサービスには機密情報を入力しないようにする必要がある。

生成AIに必要な実務上の対策

基本的な考え方は、モデルの出力を証拠ではなく「下書き」として扱うことだ。重要な事実は信頼できる一次情報や公的資料で確認し、医療、法務、金融、採用、安全に関わる判断では人によるレビューを必須にする。

承認済みの資料に基づく検索、出典表示、レッドチームテスト、コンテンツ安全策、年齢に応じた設計、監査ログ、AI利用の明示、データ取扱い・教育利用・出所・知的財産に関する規則も有効だ。政府の教育分野の指針も、不正確または偏った内容、プライバシー侵害、知的財産権侵害、学術的公正への課題を指摘している。

3. エージェントAI――目標に向けて行動するシステム

エージェントAIは、AIモデルに「行動」の層を加えたものだ。エージェントは目標を読み取り、手順に分解し、ブラウザー、コードリポジトリ、データベース、メール、メッセージングなどのツールを呼び出し、中間結果を確認しながら次の作業を進められる。実際にできることは、与えられた権限の範囲で決まる。

そのため、同じ大規模言語モデルを使っていても、エージェントは単なるチャットボットとは異なる。チャットボットがメールの文面を作るのに対し、エージェントは情報を検索し、メールを準備して送信し、別のシステムを更新することまで可能になる。コーディング支援AIがバグを説明するだけでなく、コードベースを調査し、ファイルを編集し、テストを実行し、レビュー用の変更案を作成する場合もある。

現在の市場で挙げられる例には、Google Julesのようなソフトウェア開発エージェント、LinkedIn Hiring Assistantのような採用ワークフローツール、OpenClawのようなパーソナルエージェントのフレームワークがある。OpenClawはプロジェクト資料で、ユーザーの端末上で動作し、通信チャネルやツールに接続できる個人向けオープンソースアシスタントと説明されている。実際に可能な操作は、ユーザーが有効にした連携機能と権限に左右される。

エージェントAIの可能性

• 文書の下書きではなく、一連のワークフローを完了できる
• 定型的な調整や事務作業を減らせる
• 分断された業務システムの情報をつなげられる
• 定められた範囲内で継続的に稼働できる

複雑な業務プロセスを、小規模な組織や個人でも利用しやすくなる可能性がある。一方で、中心となる問いは「回答は正確か」から、「このシステムは何を許可され、行動をどう検証できるか」へ変わる。

自律性が広げるリスク

生成AIは回答を間違える可能性がある。エージェントは、その誤った推論や悪意ある指示、侵害されたツールを、外部への行動に変えてしまう可能性がある。

たとえば、金融サービスへのアクセス権を持つエージェントが、承認されていない支払い、購入、送金、契約解除を実行することが考えられる。メール、ブラウザー、クラウドにアクセスできるエージェントは、悪意あるウェブページや文書に誘導され、認証情報を漏らしたり、機密ファイルを送信したりする可能性もある。

過剰な権限、弱い本人確認、ツール間の役割分離の不足が重なると、小さなモデルの誤りが重大な事故に拡大し得る。また、モデル、指示、データ、ツール、別のエージェントの相互作用から結果が生じる場合、責任の所在を定めることも難しくなる。

運用者は最終結果だけでなく、エージェントが提案した行動、その根拠となる情報、利用した権限まで把握できなければならない。

能力の拡大に合わせてガバナンスも強化する

3つの段階に共通する基本原則は、責任者を明確にすること、目的を限定すること、データを保護すること、導入前に検査すること、性能を監視すること、事故に備えること、影響の大きい判断に人による確認や介入を設けることだ。

エージェントAIは外部システムに作用できるため、追加の対策が必要になる。

• 最小権限の原則と、期限付きの認証情報
• エージェントごとに分けたアカウントと明確な身元情報
• 読み取り、書き込み、送信、購入、削除、デプロイの可否を定めた明示的な境界
• 元に戻せない操作や影響の大きい操作に対する確認ゲート
• 許可済みツールのリスト、サンドボックス、プロンプトインジェクション対策
• 取引上限と異常検知
• 詳細で改ざんされにくい操作ログ
• 職務分離と、リスクに応じた人の承認
• 迅速に停止できる一時停止機能やキルスイッチ

シンガポールは2026年1月22日、エージェントAIを導入する組織向けの「Model AI Governance Framework for Agentic AI」を発表した。これは独立したAI法ではなく、エージェントの自律性の水準に見合ったリスク管理と、技術的・組織的な対策を示すガイダンスである。人間と組織の説明責任を中心に据えている。

金融サービス分野では、シンガポール金融管理局（MAS）のSAFRが、実行時のガバナンスを示す考え方として、エージェントが何をしようとしているのか、なぜそうするのか、どのような根拠があるのかを、構造化された記録にまとめる方法を説明している。

まとめ――AIは「新旧の交代」ではない

AIの歴史は、「古いAI」から「新しいAI」へ一直線に進んだ物語ではない。ルールベースや予測型のシステムは、範囲が明確な判断に今も適している。生成AIは柔軟なコンテンツ制作と自然言語による対話を加え、エージェントAIはツールを使って目標に向けて行動する能力を加えた。

求められるガバナンスも、能力に合わせて変わる。予測では正確性、バイアス、データドリフトを確認する。生成では真実性、安全性、プライバシー、出所を検証する。行動するAIでは、それらに加えて、権限管理、承認ゲート、責任の所在、事故からの復旧計画が欠かせない。

信頼できるAI製品を生み出すのは、モデルの性能だけではない。モデルを取り巻くシステム設計、慎重な権限設定、監査可能性、そして人間による適切な監督の組み合わせである。