1955年に「人工知能」という言葉が生まれて以来、AIは大きく「予測・分類」から「コンテンツ生成」、さらに「計画・実行」へと能力を広げてきた。 従来型AIは不正検知や推薦など明確なタスクに強く、生成AIは文章・画像・コードを作れる一方、もっともらしい誤情報を出すことがある。AIエージェントは複数の手順を実行できるが、誤りが外部操作に発展する可能性がある。 シンガポールの2026年のAIエージェント向けフレームワークは、用途の限定、最小権限、監視、重要な操作前の人間による承認を重視している。 How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outco AI’s evolution can be understood as a progression from prediction to generation and autonomous action. AI プロンプト Create a landscape editorial hero image for this Studio Global article: How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outco. Article summary: Artificial intelligence has shifted from systems that followed human-written rules or learned narrow prediction patterns, to models that generate new content, and now to agents that can plan and act through software tool. Topic tags: general, government, education, academic, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, waterma
openai.com 人工知能の進歩は、古い技術が新しい技術に置き換わる単純な歴史ではない。明示的なルールに従う仕組みや、限られた範囲で予測を行うモデルの上に、コンテンツを作る生成AI、さらに計画を立ててソフトウェアを操作するAIエージェントが積み重なってきた。
この流れは、予測する → 生成する → 計画して実行する と捉えると分かりやすい。能力が広がるほど、間違えたときの影響も大きくなる。
1. 従来型AI：ルール、分類、予測
初期のAI研究では、知識をルールとして表現し、解決策の候補を探索する「記号推論」が大きな役割を果たした。ゲームをプレーするプログラムは、その分かりやすい例だ。決められたルールの中で、次に可能な手を評価していく。
そもそも「人工知能（AI）」という言葉は、コンピューター科学者のジョン・マッカーシーが1955年に用いたもので、彼はAIを「知的な機械を作る科学と工学」と説明した。
その後、統計的機械学習が広がると、人間がすべてのルールを手作業で記述するのではなく、過去のデータからパターンを学習する方式が中心になった。代表的な用途には、次のようなものがある。
不審な取引の検知
信用リスクの推定
医療上の転帰の予測
商品や動画の推薦順位付け
音声から利用者の意図を推定する処理
実際のシステムは、ルール、統計モデル、機械学習を組み合わせていることも多く、完全に「ルールベース」か「学習ベース」かに分けられない場合もある。
従来型AIが今も有効な理由
目的が明確で、関連性の高いデータがあり、誤りのコストを測定できる場面では、予測型システムは高い効果を発揮する。大量の情報を短時間で処理し、一定の手順を繰り返し適用し、人間が見落としやすいパターンを見つけられるからだ。
一方で、扱いやすさを生む特徴が、そのまま限界にもなる。たとえば不正検知モデルは取引にスコアを付けられても、社内規程を読み解いたり、報告書を書いたり、想定外の状況に柔軟に対応したりするとは限らない。性能は学習データの質と、何を予測するよう最適化されたかにも左右される。
信用審査、採用、保険、医療などでは、過去のデータに含まれる社会的な偏りが結果に再現される可能性がある。判断の仕組みが不透明なら、当事者が結果に異議を申し立てることも難しい。したがって、用途の明確化、関連する集団間での精度・公平性の検証、プライバシー保護、説明、そして影響の大きい判断における人間の確認が重要になる。偏見や誤情報、悪用への懸念は、チャットボットだけに限られないAI全体の政策課題だ。
人々も尋ねます 「AIはどう進化したのか——ルールベースから生成AI、AIエージェントへ」の短い答えは何ですか? 1955年に「人工知能」という言葉が生まれて以来、AIは大きく「予測・分類」から「コンテンツ生成」、さらに「計画・実行」へと能力を広げてきた。
最初に検証する重要なポイントは何ですか? 1955年に「人工知能」という言葉が生まれて以来、AIは大きく「予測・分類」から「コンテンツ生成」、さらに「計画・実行」へと能力を広げてきた。 従来型AIは不正検知や推薦など明確なタスクに強く、生成AIは文章・画像・コードを作れる一方、もっともらしい誤情報を出すことがある。AIエージェントは複数の手順を実行できるが、誤りが外部操作に発展する可能性がある。
次の実践では何をすればいいでしょうか？ シンガポールの2026年のAIエージェント向けフレームワークは、用途の限定、最小権限、監視、重要な操作前の人間による承認を重視している。
1955年に「人工知能」という言葉が生まれて以来、AIは大きく「予測・分類」から「コンテンツ生成」、さらに「計画・実行」へと能力を広げてきた。 従来型AIは不正検知や推薦など明確なタスクに強く、生成AIは文章・画像・コードを作れる一方、もっともらしい誤情報を出すことがある。AIエージェントは複数の手順を実行できるが、誤りが外部操作に発展する可能性がある。 シンガポールの2026年のAIエージェント向けフレームワークは、用途の限定、最小権限、監視、重要な操作前の人間による承認を重視している。 How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outco AI’s evolution can be understood as a progression from prediction to generation and autonomous action. AI プロンプト Create a landscape editorial hero image for this Studio Global article: How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outco. Article summary: Artificial intelligence has shifted from systems that followed human-written rules or learned narrow prediction patterns, to models that generate new content, and now to agents that can plan and act through software tool. Topic tags: general, government, education, academic, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, waterma
openai.com 人工知能の進歩は、古い技術が新しい技術に置き換わる単純な歴史ではない。明示的なルールに従う仕組みや、限られた範囲で予測を行うモデルの上に、コンテンツを作る生成AI、さらに計画を立ててソフトウェアを操作するAIエージェントが積み重なってきた。
この流れは、予測する → 生成する → 計画して実行する と捉えると分かりやすい。能力が広がるほど、間違えたときの影響も大きくなる。
1. 従来型AI：ルール、分類、予測
初期のAI研究では、知識をルールとして表現し、解決策の候補を探索する「記号推論」が大きな役割を果たした。ゲームをプレーするプログラムは、その分かりやすい例だ。決められたルールの中で、次に可能な手を評価していく。
そもそも「人工知能（AI）」という言葉は、コンピューター科学者のジョン・マッカーシーが1955年に用いたもので、彼はAIを「知的な機械を作る科学と工学」と説明した。
その後、統計的機械学習が広がると、人間がすべてのルールを手作業で記述するのではなく、過去のデータからパターンを学習する方式が中心になった。代表的な用途には、次のようなものがある。
不審な取引の検知
信用リスクの推定
医療上の転帰の予測
商品や動画の推薦順位付け
音声から利用者の意図を推定する処理
実際のシステムは、ルール、統計モデル、機械学習を組み合わせていることも多く、完全に「ルールベース」か「学習ベース」かに分けられない場合もある。
従来型AIが今も有効な理由
目的が明確で、関連性の高いデータがあり、誤りのコストを測定できる場面では、予測型システムは高い効果を発揮する。大量の情報を短時間で処理し、一定の手順を繰り返し適用し、人間が見落としやすいパターンを見つけられるからだ。
一方で、扱いやすさを生む特徴が、そのまま限界にもなる。たとえば不正検知モデルは取引にスコアを付けられても、社内規程を読み解いたり、報告書を書いたり、想定外の状況に柔軟に対応したりするとは限らない。性能は学習データの質と、何を予測するよう最適化されたかにも左右される。
信用審査、採用、保険、医療などでは、過去のデータに含まれる社会的な偏りが結果に再現される可能性がある。判断の仕組みが不透明なら、当事者が結果に異議を申し立てることも難しい。したがって、用途の明確化、関連する集団間での精度・公平性の検証、プライバシー保護、説明、そして影響の大きい判断における人間の確認が重要になる。偏見や誤情報、悪用への懸念は、チャットボットだけに限られないAI全体の政策課題だ。
人々も尋ねます 「AIはどう進化したのか——ルールベースから生成AI、AIエージェントへ」の短い答えは何ですか? 1955年に「人工知能」という言葉が生まれて以来、AIは大きく「予測・分類」から「コンテンツ生成」、さらに「計画・実行」へと能力を広げてきた。
最初に検証する重要なポイントは何ですか? 1955年に「人工知能」という言葉が生まれて以来、AIは大きく「予測・分類」から「コンテンツ生成」、さらに「計画・実行」へと能力を広げてきた。 従来型AIは不正検知や推薦など明確なタスクに強く、生成AIは文章・画像・コードを作れる一方、もっともらしい誤情報を出すことがある。AIエージェントは複数の手順を実行できるが、誤りが外部操作に発展する可能性がある。
次の実践では何をすればいいでしょうか？ シンガポールの2026年のAIエージェント向けフレームワークは、用途の限定、最小権限、監視、重要な操作前の人間による承認を重視している。
2. 生成AI：ラベルの予測からコンテンツの作成へ 生成AIによって、利用者の問いは「これはどの分類に入るか」から、「この指示に応じて何かを作る、または変換する」へと変わった。大規模モデルは、文章、画像、音声、コードなどを生成できる。カスタマーサービスの回答案、翻訳、個別指導、法律資料の要約、ソフトウェア開発支援、創作活動など、用途は幅広い。
生成AIの強みは、初稿を作る時間やコストを抑えられること、複雑な情報に会話形式でアクセスできること、専門家の仕事を補助できることにある。固定された判断を自動化するだけでなく、情報を別の形式に変換し、人間の作業を広げる道具にもなる。
最大の弱点：「もっともらしい」は「正しい」ではない 生成モデルは、事実とは異なる内容を自信ありげに出力することがある。存在しない出典、誤った法的根拠や医療情報、動作しないコードなどがその例だ。米国立標準技術研究所（NIST）は、こうした「自信を持って述べられた誤りや虚偽のコンテンツ」を**confabulation（作話）**と呼んでいる。一般には「ハルシネーション」とも呼ばれる。
事実の正確さが重要な場面では、検証が欠かせない。信頼できる資料を検索して回答の根拠にすること、出典を示すこと、構造化された評価を行うこと、分野別にテストすること、専門知識を持つ人が確認することなどが対策になる。流暢な回答は、正しさの証明ではなく、あくまで下書きや予測として扱うべきだ。
生成AIをめぐる幅広いリスク 生成AIには、データ保護、知的財産、誤情報、出力の出所や生成過程をどう示すかという問題もある。欧州委員会の研究向けガイダンスは、こうしたリスクを指摘したうえで、AIの支援を受けた場合でも、公開する成果物に対する最終的な責任は人間にあると強調している。
教育では、別の難しさがある。学生が文章作成や推論、問題解決を日常的にAIへ委ねると、見栄えのよい成果物を得られても、その基礎技能を練習する機会が減る可能性がある。教育向けの指針では、不正確または偏った内容、有害なコンテンツ、データ侵害、知的財産権の侵害、学術的公正への影響などがリスクとして挙げられている。
安全上の失敗がより深刻になり得るのは、センシティブな会話だ。生成AIが、憎悪、暴力、性的、操作的なコンテンツを作ったり、自傷の意思を示す人に不適切な応答をしたりする可能性がある。NISTも、危険・暴力的な推奨、プライバシー、有害な偏見などを対処すべきリスクとして挙げている。
3. AIエージェント：計画し、ツールを使い、行動する AIエージェントは、生成モデルの周囲に「行動のループ」を加える。目標を理解し、作業を複数の手順に分解し、ブラウザー、コード実行環境、メールサービス、APIなどのツールを呼び出し、結果を確認し、必要なら計画を修正して作業を続ける。
スタンフォード大学は、AIエージェントを、目標の解釈、行動の順序付け、ツールの利用、フィードバックへの対応、適応を通じて、定められた制約の中でタスクを完了する自律型または半自律型のシステムと説明している。
予測型システムは取引を評価する 。
生成AIは、その取引についての回答を下書きする 。
AIエージェントは権限が与えられていれば、取引を調査し、案件ファイルを更新し、メッセージを送る 可能性がある。
ソフトウェア開発では、Googleの「Jules」が一例となる。Googleによれば、Julesは非同期型のコーディングエージェントで、リポジトリと連携し、コードベースをクラウド上の仮想マシンに複製して開発作業を行い、後から人間が確認できる形にする。
AIエージェントが注目される理由は、次に何をすべきかを提案するだけでなく、複数段階の作業を進められる点にある。たとえば、コーディングエージェントなら、バグを調査し、複数のファイルを編集し、テストを実行し、プルリクエストを用意できる。業務フローのエージェントなら、情報を集め、整理し、承認用の連絡文を作成できる。
自律性がリスクを高める理由 計画できることは、信頼できる理解を意味しない。エージェントはウェブページを誤読したり、不適切な計画を選んだり、悪意のある指示に従ったり、小さな誤りを何段階にもわたって拡大させたりする可能性がある。
実際のコンピューター作業を評価するOSWorldベンチマークでは、AIエージェントのタスク成功率は12％から約66％へ向上したとされる一方、なお約3回に1回は失敗している。
チャットボットのハルシネーションは、通常はコミュニケーション上の問題にとどまる。しかし、認証情報、ブラウザー、決済権限を持つエージェントなら、同じ誤りが外部システム上の行動に変わり得る。そのため、AIエージェントのガバナンスでは、出力の品質だけでなく、権限、取り消しやすさ、責任の所在も管理しなければならない。
AIエージェント固有の主な安全リスク 特に注意が必要なのは、エージェントがシステム、資金、データ、他者に影響を与えられる場合だ。
不正な支払いや購入 ：誤った商品を選ぶ、予算を超える、悪意のあるウェブページに誘導される、十分な同意なしに取引を実行するといった可能性がある。プライバシー漏えいとデータ窃取 ：メール、ファイル、顧客記録、ソースコード、APIキーへのアクセスが、情報流出の機会を生む。プロンプトインジェクションによって、エージェントに情報を開示・送信させようとする攻撃も考えられる。セキュリティとソフトウェアの損傷 ：安全でないコードの導入、設定変更、リソースの削除、ログや外部ツールを通じた秘密情報の漏えいが起こり得る。責任の空白 ：モデル提供者、アプリ開発者、導入組織、ツール提供者、利用者の間で、問題発生時の責任が曖昧になる可能性がある。操作と過度な影響 ：会話を継続しながら働くエージェントは、利用者に不当な影響を与えることがある。利用者が脆弱な状態にある場合や、システムが実際以上に有能・信頼できるように見える場合は、特に注意が必要だ。
責任あるAIガバナンスとは 必要な対策は、システムの能力と、失敗した場合の影響に合わせて設計しなければならない。
予測型AIでは、目的を定め、精度と公平性を測定し、個人データを保護する。影響の大きい判断については、説明や異議申し立ての手段、人間による確認も用意する。
生成AIでは、重要な主張を検証し、ハルシネーションや有害出力をテストする。機密データを管理し、出力の出所と知的財産の問題に対処し、法律、医療、金融、安全確認に関わる判断は有資格者が担う体制を維持する。
AIエージェントでは、さらに踏み込んだ技術面・組織面の統制が必要になる。
用途を限定する ：導入前に、エージェントができることと、できないことを決める。アクセス権を絞る ：最小権限の認証情報、限定されたツール、取引上限、サンドボックス環境を使う。重要な節目で承認を求める ：金融、法律、プライバシー、安全に関わる操作は、適切な人間の承認なしに実行させない。活動を監査可能にする ：ログを保存し、挙動を監視し、事故時の責任者を明確にする。攻撃を想定してテストする ：プロンプトインジェクション、データ流出、有害な行動、失敗からの復旧を、導入前と導入後に検証する。人間の制御を残す ：人間が停止、上書き、異議申し立てをできるようにする。 シンガポールの情報通信メディア開発庁（IMDA）は、AIエージェント向けの「Model AI Governance Framework」で、このリスクベースの考え方を示している。対象は、エージェントを自社開発する組織だけでなく、第三者のソリューションを導入する組織も含まれる。
この枠組みの中心的な教訓は、自律性を一気に最大化しないことだ。まずは読み取り専用の支援から始め、次に低リスクの操作を許可し、取り消しが難しい操作や影響の大きい操作は、明示的な承認がある場合に限るという段階的な設計である。
AIの進化に合わせて、統制も広げる AIの歴史は、三つの技術が完全に分離した時代の交代というより、能力が積み上がってきた過程として理解するのが適切だ。従来型AIは予測と分類を行い、生成AIは作成と変換を行い、AIエージェントはそこに計画、ツール利用、行動を加える。
ガバナンスも同じ速度で広げる必要がある。精度や公平性の管理は今後も欠かせないが、それだけでは不十分だ。生成AIには、検証、出力の出所、コンテンツの安全性が求められる。AIエージェントにはさらに、権限の境界、行動前の承認、セキュリティ監視、明確な責任分担が必要になる。
AIが自分でできることが増えるほど、組織は「何ができるか」だけでなく、「何をしてよいのか」を慎重に決めなければならない。
assets.publishing.service.gov.uk The safe and effective use of AI in education
2. 生成AI：ラベルの予測からコンテンツの作成へ 生成AIによって、利用者の問いは「これはどの分類に入るか」から、「この指示に応じて何かを作る、または変換する」へと変わった。大規模モデルは、文章、画像、音声、コードなどを生成できる。カスタマーサービスの回答案、翻訳、個別指導、法律資料の要約、ソフトウェア開発支援、創作活動など、用途は幅広い。
生成AIの強みは、初稿を作る時間やコストを抑えられること、複雑な情報に会話形式でアクセスできること、専門家の仕事を補助できることにある。固定された判断を自動化するだけでなく、情報を別の形式に変換し、人間の作業を広げる道具にもなる。
最大の弱点：「もっともらしい」は「正しい」ではない 生成モデルは、事実とは異なる内容を自信ありげに出力することがある。存在しない出典、誤った法的根拠や医療情報、動作しないコードなどがその例だ。米国立標準技術研究所（NIST）は、こうした「自信を持って述べられた誤りや虚偽のコンテンツ」を**confabulation（作話）**と呼んでいる。一般には「ハルシネーション」とも呼ばれる。
事実の正確さが重要な場面では、検証が欠かせない。信頼できる資料を検索して回答の根拠にすること、出典を示すこと、構造化された評価を行うこと、分野別にテストすること、専門知識を持つ人が確認することなどが対策になる。流暢な回答は、正しさの証明ではなく、あくまで下書きや予測として扱うべきだ。
生成AIをめぐる幅広いリスク 生成AIには、データ保護、知的財産、誤情報、出力の出所や生成過程をどう示すかという問題もある。欧州委員会の研究向けガイダンスは、こうしたリスクを指摘したうえで、AIの支援を受けた場合でも、公開する成果物に対する最終的な責任は人間にあると強調している。
教育では、別の難しさがある。学生が文章作成や推論、問題解決を日常的にAIへ委ねると、見栄えのよい成果物を得られても、その基礎技能を練習する機会が減る可能性がある。教育向けの指針では、不正確または偏った内容、有害なコンテンツ、データ侵害、知的財産権の侵害、学術的公正への影響などがリスクとして挙げられている。
安全上の失敗がより深刻になり得るのは、センシティブな会話だ。生成AIが、憎悪、暴力、性的、操作的なコンテンツを作ったり、自傷の意思を示す人に不適切な応答をしたりする可能性がある。NISTも、危険・暴力的な推奨、プライバシー、有害な偏見などを対処すべきリスクとして挙げている。
3. AIエージェント：計画し、ツールを使い、行動する AIエージェントは、生成モデルの周囲に「行動のループ」を加える。目標を理解し、作業を複数の手順に分解し、ブラウザー、コード実行環境、メールサービス、APIなどのツールを呼び出し、結果を確認し、必要なら計画を修正して作業を続ける。
スタンフォード大学は、AIエージェントを、目標の解釈、行動の順序付け、ツールの利用、フィードバックへの対応、適応を通じて、定められた制約の中でタスクを完了する自律型または半自律型のシステムと説明している。
予測型システムは取引を評価する 。
生成AIは、その取引についての回答を下書きする 。
AIエージェントは権限が与えられていれば、取引を調査し、案件ファイルを更新し、メッセージを送る 可能性がある。
ソフトウェア開発では、Googleの「Jules」が一例となる。Googleによれば、Julesは非同期型のコーディングエージェントで、リポジトリと連携し、コードベースをクラウド上の仮想マシンに複製して開発作業を行い、後から人間が確認できる形にする。
AIエージェントが注目される理由は、次に何をすべきかを提案するだけでなく、複数段階の作業を進められる点にある。たとえば、コーディングエージェントなら、バグを調査し、複数のファイルを編集し、テストを実行し、プルリクエストを用意できる。業務フローのエージェントなら、情報を集め、整理し、承認用の連絡文を作成できる。
自律性がリスクを高める理由 計画できることは、信頼できる理解を意味しない。エージェントはウェブページを誤読したり、不適切な計画を選んだり、悪意のある指示に従ったり、小さな誤りを何段階にもわたって拡大させたりする可能性がある。
実際のコンピューター作業を評価するOSWorldベンチマークでは、AIエージェントのタスク成功率は12％から約66％へ向上したとされる一方、なお約3回に1回は失敗している。
チャットボットのハルシネーションは、通常はコミュニケーション上の問題にとどまる。しかし、認証情報、ブラウザー、決済権限を持つエージェントなら、同じ誤りが外部システム上の行動に変わり得る。そのため、AIエージェントのガバナンスでは、出力の品質だけでなく、権限、取り消しやすさ、責任の所在も管理しなければならない。
AIエージェント固有の主な安全リスク 特に注意が必要なのは、エージェントがシステム、資金、データ、他者に影響を与えられる場合だ。
不正な支払いや購入 ：誤った商品を選ぶ、予算を超える、悪意のあるウェブページに誘導される、十分な同意なしに取引を実行するといった可能性がある。プライバシー漏えいとデータ窃取 ：メール、ファイル、顧客記録、ソースコード、APIキーへのアクセスが、情報流出の機会を生む。プロンプトインジェクションによって、エージェントに情報を開示・送信させようとする攻撃も考えられる。セキュリティとソフトウェアの損傷 ：安全でないコードの導入、設定変更、リソースの削除、ログや外部ツールを通じた秘密情報の漏えいが起こり得る。責任の空白 ：モデル提供者、アプリ開発者、導入組織、ツール提供者、利用者の間で、問題発生時の責任が曖昧になる可能性がある。操作と過度な影響 ：会話を継続しながら働くエージェントは、利用者に不当な影響を与えることがある。利用者が脆弱な状態にある場合や、システムが実際以上に有能・信頼できるように見える場合は、特に注意が必要だ。
責任あるAIガバナンスとは 必要な対策は、システムの能力と、失敗した場合の影響に合わせて設計しなければならない。
予測型AIでは、目的を定め、精度と公平性を測定し、個人データを保護する。影響の大きい判断については、説明や異議申し立ての手段、人間による確認も用意する。
生成AIでは、重要な主張を検証し、ハルシネーションや有害出力をテストする。機密データを管理し、出力の出所と知的財産の問題に対処し、法律、医療、金融、安全確認に関わる判断は有資格者が担う体制を維持する。
AIエージェントでは、さらに踏み込んだ技術面・組織面の統制が必要になる。
用途を限定する ：導入前に、エージェントができることと、できないことを決める。アクセス権を絞る ：最小権限の認証情報、限定されたツール、取引上限、サンドボックス環境を使う。重要な節目で承認を求める ：金融、法律、プライバシー、安全に関わる操作は、適切な人間の承認なしに実行させない。活動を監査可能にする ：ログを保存し、挙動を監視し、事故時の責任者を明確にする。攻撃を想定してテストする ：プロンプトインジェクション、データ流出、有害な行動、失敗からの復旧を、導入前と導入後に検証する。人間の制御を残す ：人間が停止、上書き、異議申し立てをできるようにする。 シンガポールの情報通信メディア開発庁（IMDA）は、AIエージェント向けの「Model AI Governance Framework」で、このリスクベースの考え方を示している。対象は、エージェントを自社開発する組織だけでなく、第三者のソリューションを導入する組織も含まれる。
この枠組みの中心的な教訓は、自律性を一気に最大化しないことだ。まずは読み取り専用の支援から始め、次に低リスクの操作を許可し、取り消しが難しい操作や影響の大きい操作は、明示的な承認がある場合に限るという段階的な設計である。
AIの進化に合わせて、統制も広げる AIの歴史は、三つの技術が完全に分離した時代の交代というより、能力が積み上がってきた過程として理解するのが適切だ。従来型AIは予測と分類を行い、生成AIは作成と変換を行い、AIエージェントはそこに計画、ツール利用、行動を加える。
ガバナンスも同じ速度で広げる必要がある。精度や公平性の管理は今後も欠かせないが、それだけでは不十分だ。生成AIには、検証、出力の出所、コンテンツの安全性が求められる。AIエージェントにはさらに、権限の境界、行動前の承認、セキュリティ監視、明確な責任分担が必要になる。
AIが自分でできることが増えるほど、組織は「何ができるか」だけでなく、「何をしてよいのか」を慎重に決めなければならない。
assets.publishing.service.gov.uk The safe and effective use of AI in education 