OpenAIが安全性研究者3人と決別　何が問題とされ、何がまだ分からないのか

OpenAIは、機密情報のアクセスや取り扱いに関する社内規定に違反したとして、従業員3人との関係を解消したと説明しています。一方、ウォール・ストリート・ジャーナル（WSJ）の報道では、外部のAI安全性団体への情報共有が問題になったとされています。同社が公表した調査結果と、報道が伝えた共有先の説明は、分けて見る必要があります。112

OpenAIが説明した理由

OpenAIの広報担当者によると、社内調査で、3人が機密情報を定められた手続きの外で取り扱い、社内規定に違反したことが確認されたといいます。同社は、業務に欠かせない信頼を損なったとも説明しました。ただし、調査でどのような証拠が確認されたのかは公表されていません。12

WSJの報道を伝えたTechCrunchによれば、研究者らは機密情報を外部のAI安全性団体に共有したとされています。また、AFPは、関係した外部組織がAIモデルを評価する団体だと報じています。111

公表されていないこと

OpenAIは3人の氏名や、情報を受け取った外部組織の名前を公表していません。何が共有されたのかも明らかにしていません。1112

そのため、共有された内容が安全上の懸念やモデル評価に関するものだったのか、それ以外の情報だったのかは不明です。受け取った側が情報をどう扱ったのか、また、共有によって具体的な被害が生じたのかも、現時点の報道からは確認できません。1112

2024年の研究者解雇との共通点は？

今回の件は、OpenAIが2024年にレオポルド・アッシェンブレンナー氏とパベル・イズマイロフ氏を、情報漏えいの疑いをめぐって解雇したケースと比較されています。共通するのは、社内の機密情報をどう扱うかという論点です。今回と当時の行為や事情、動機が同じだったと示す情報はありません。9

安全上の懸念を外部に伝えるには

今回の件が投げかけるのは、従業員が正当な安全上の懸念を外部の専門家や当局に伝える際、保護対象の社内情報を不適切に開示しないためにはどうすればよいのか、という問題です。

OpenAIをめぐっては、モデル試験中の問題や従業員の懸念に関する報道もあります。ただし、そうした報道と今回の3人の措置が結び付いていると確認されたわけではありません。

公開情報からは、3人が内部告発を理由に処分されたとも、情報共有が特定の安全上の危険を招いたとも断定できません。1112 現時点で確認できるのは、OpenAIが調査で社内規定違反を認定したと説明し、報道が外部のAI安全性団体との関わりを伝えていることです。関係者や共有情報の詳細、より広い経緯は、なお明らかになっていません。