Mythosを安全にテストするために作られたのが Project Glasswing です。
参加している主な組織には次のような企業があります。
当初、Glasswingの参加者は Mythosで発見した脆弱性情報を広く共有することが難しい 状態でした。NDA(秘密保持契約)などの制約があったためです。
Anthropicはこの点を見直し、次のような形で共有を可能にしました。
この仕組みは、サイバーセキュリティの世界で一般的な 「責任ある脆弱性開示(Responsible Disclosure)」 に近い考え方です。攻撃が起きる前に、防御側が連携して対処することを目的としています。
AnthropicがMythosを限定公開にしている最大の理由は、能力が強力すぎる可能性があるためです。
報道によると、このモデルは:
もし広く公開されれば、攻撃者が:
といった用途に使う可能性も指摘されています。
そのためAnthropicは、
このAIの影響は技術業界だけではありません。
サイバーセキュリティAIが、国家安全保障や金融安定性の問題として扱われ始めていることを示す動きです。
MythosとProject Glasswingは、業界で大きな議論を生んでいます。
賛成派の意見
AIが脆弱性を高速に見つけられれば、防御側は攻撃者より先に問題を修正できる。情報共有を進めれば、世界全体のセキュリティが強化される。
慎重派の意見
この種のAIは攻撃コストを劇的に下げる可能性がある。アクセスが広がれば、国家レベルのサイバー攻撃や犯罪に悪用されるリスクもある。
Anthropicの現在のアプローチ——限定公開・共同防御・制御された情報共有——は、この2つの立場のバランスを取ろうとする試みといえます。
Mythosの登場は、サイバーセキュリティが新しい段階に入りつつあることを示しています。
AIが人間の研究者より速く脆弱性を見つける時代では、課題は「脆弱性を見つけること」ではなく、
といった AIの統治(ガバナンス) に移っていく可能性があります。
Project Glasswingは、その未来を試す最初の大規模な実験と言えるかもしれません。
Comments
0 comments