アルトマン氏が警告する「AIに人の判断を委ねる」リスク

サム・アルトマン氏は、AIモデルに「宗教的な力」を与えたり、人間の判断を委ねたりすることに「非常に不安を感じる」と述べ、それを「現実の安全上の問題」だと指摘しました。投稿ではAnthropicの名を挙げていません。しかし、同社が宗教関係者らと対話していたと報じられた数日後の発言だったため、Anthropicを念頭に置いた批判ではないかと受け止められました。71

ここでは、別々の問いを混同しないことが大切です。AIにどのような道徳的指針を持たせるかを考えることと、AIを精神的・宗教的な権威として扱うことは同じではありません。また、AIに意識がある可能性を議論することも、意識があると結論づけることを意味しません。

アルトマン氏が問題視したこと

アルトマン氏の投稿が懸念として挙げたのは、AIに宗教的な力を見いだすことと、人間が自らの判断をモデルに明け渡すことです。投稿そのものは特定の企業やプロジェクトを名指ししていないため、Anthropicへの批判という見方は、前後の報道を踏まえた解釈です。7

AIの返答が自信に満ち、人間らしく聞こえるほど、利用者がその言葉に必要以上の権威を認めるおそれがあります。ただし、報道が伝えているのはアルトマン氏の警告であり、実際にどれほど多くの人がAIに判断を委ねているのか、その影響がどの程度なのかを示すデータではありません。67

Anthropicの対話で問われたこと

Anthropicは、対話型AI「Claude」の道徳的な振る舞いをどう形づくるか、またAIモデルに意識があり得るのかをめぐって、宗教関係者らと話し合っていたと報じられました。こうした話題がアルトマン氏の投稿と重なり、発言は同社の取り組みへの反応と読まれました。17

一方、Anthropicの共同創業者クリストファー・オラー氏は、「AIモデルに意識があるかどうかは分からない。私自身、本当に確信が持てない」と述べています。意識の可能性を検討することは、モデルに主観的な経験があると証明するものではありません。同様に、道徳的な振る舞いについて宗教思想家の意見を聞くことだけで、モデルが宗教的な地位を得るわけでもありません。1

意識の有無と、どう振る舞わせるかは別の論点

AIに従わせる応答方針を設計しても、それだけでモデルに内面や意識があると示されるわけではありません。報道されたAnthropicの対話では、Claudeの振る舞いと意識の可能性という、関連はしていても区別すべき論点が扱われました。1

また、AIを意識があるかのように訓練することには危険がある、というマイクロソフト幹部の懸念も報じられています。これは一つの懸念を伝えるもので、機械に意識があるかという広い問いに決着がついたことを意味しません。オラー氏自身も、報道によれば、答えは分からないという立場です。91

人間の尊厳と、AIをめぐる責任

教皇レオ14世が発表したAIに関する回勅は、人間の尊厳を議論の中心に据えました。報道によると、文書はAI企業への監督強化、技術革新による影響を受ける労働者の保護、AI生成の偽情報への対策を求めています。AIの開発や利用において、人間の利益と説明責任を重視する必要性を示す論点です。152

OpenAIにも向けられる安全性への視線

この議論と並行して、OpenAIをめぐる別の報道もありました。Business Insiderは、安全部門の責任者だったデービッド・ロビンソン氏が退社し、同社の安全対策を批判したと報道。BBCは、情報の不適切な取り扱いがあったとされる研究者3人をOpenAIが解雇したと伝えました。これらの報道はAIの意識の有無に答えるものではありませんが、各社の安全管理や統治を考えるうえでの背景です。1226

今回の発言から読み取れることは、AnthropicやOpenAIのどちらかに結論を下すことではありません。アルトマン氏は、AIを宗教的な権威として扱ったり、人間の判断を委ねたりすることに警鐘を鳴らしました。Anthropicの対話ではClaudeの道徳的な振る舞いや意識の可能性が話題になりましたが、それがClaudeに宗教的権威を与える取り組みだったとも、AIの意識の有無に結論が出たとも、報道からは言えません。71