Bugcrowd、実在するソフトウェア脆弱性でAIを訓練する「RL Environments」を公開

実際のソフトウェアでAIを訓練

RL Environmentsの特徴は、数十万規模の脆弱なオープンソース環境を用意している点です。各環境には本物のソースコードと既知の脆弱性が含まれており、AIエージェントは実際のセキュリティ研究者のようにソフトウェアと対話しながら問題を探します。

この方法によりAIは、現実のコードベースに存在する複雑なバグや依存関係の問題を理解し、実践的なセキュリティ能力を身につけることが期待されています。

強化学習で「見つける・攻撃する・直す」を学ぶ

プラットフォームは**強化学習（Reinforcement Learning）**の仕組みを使ってAIを訓練します。

AIエージェントは各環境で次のような作業を行います。

• コードベースから脆弱性を発見する
• 実際にバグを発火させ、悪用可能か検証する
• 影響度や攻撃可能性を評価する
• 修正パッチを生成または検証する

各ステップはシステムによって客観的にスコア化され、AIはその結果をフィードバックとして学習します。

この仕組みは、ゲームAIやロボット制御などで使われてきた強化学習と同じ考え方で、成功した行動を報酬として強化しながらモデルの能力を高めていきます。

Mayhem Securityの技術がベース

この新しいプラットフォームは、Bugcrowdが**2025年11月に買収したAIセキュリティ企業「Mayhem Security」**の技術を基盤にしています。

Mayhemは、攻撃者の視点でソフトウェアを自動テストするAIベースのセキュリティツールを開発していた企業です。Bugcrowdはこの技術を取り込み、同社のクラウドソーシング型セキュリティプラットフォームと統合しました。

その結果、次の3つを組み合わせたエコシステムが構想されています。

• AIによる自動セキュリティテスト
• 世界中のセキュリティ研究者コミュニティ
• AIモデル訓練用の強化学習環境

なぜ「本物のデータ」が重要なのか

Bugcrowdが重視しているのは、合成データではなく実際のソフトウェアを使うことです。

人工的に作られたデータセットは基本的なパターン学習には役立ちますが、現実のアプリケーションには以下のような複雑さがあります。

• 長年にわたって積み重なったコード
• 多数のライブラリや依存関係
• 予測できないコンポーネント間の相互作用

こうした要素の中で生まれる脆弱性を学習することで、AIモデルは実運用環境でも役立つ可能性が高まると同社は説明しています。

学習に顧客データは使われない

セキュリティ分野ではデータの扱いが特に重要です。

Bugcrowdによると、RL Environmentsはすべてオープンソースソフトウェアから構築されており、顧客データや研究者の報告データは一切使用しない設計になっています。

これによりAI研究者や企業は、機密情報を扱うことなく脆弱性探索や修正アルゴリズムの研究を進めることができます。

AIと人間のハッカーの協働

Bugcrowdは、この技術を「人間を置き換えるAI」ではなく、**人間を強化するAI（human‑augmented security）**として位置づけています。

AIは膨大なソフトウェア環境を高速に探索できますが、未知の攻撃手法や複雑なシステム理解には依然として人間の創造力や判断力が重要です。

つまり理想的な形は、

• AIが大規模な探索と自動分析を担当
• 人間の研究者が高度な判断と戦略を担当

という協働モデルだとされています。

AIが主戦場になるサイバーセキュリティ

近年、攻撃者側でもAIを使った脆弱性探索やエクスプロイト生成が始まりつつあります。そのため防御側も同様にAIを活用する必要性が高まっています。

BugcrowdのRL Environmentsの狙いは、AIにより現実的な訓練環境を提供し、将来的には脆弱性の初期発見や修正作業の多くを自動化することです。

もしこのアプローチが広く普及すれば、AIがソフトウェアの潜在的なバグを早期に見つけ、人間の専門家はより高度で戦略的なセキュリティ問題に集中できるようになる可能性があります。