JumperはAlphaFoldの共同開発者として2024年のノーベル化学賞を共同受賞した研究者です。彼はX(旧Twitter)上で「約9年」の在籍を経てDeepMindを去ることを発表しました。注目すべきは、DeepMindでの彼の最後の仕事は、ノーベル賞を受賞した科学研究ではなく、AIコーディングツールの開発だったことです
。彼とShazeerの移籍発表が重なったことで、Alphabetの株価は急落し、わずか1日の取引で時価総額約2700億ドルが消失しました
。
DeepMindの「推論の王」として知られ、Google Brainの推論研究グループを立ち上げたZhouは、静かに去りました。彼は公式の別れの言葉を発しておらず、その移籍は、彼がLinkedInのプロフィールを更新し、すでに4ヶ月間Metaで働いていることが明らかになったことで、HTXによって報じられました。Zhou本人もMetaも、この移籍について公式な説明は行っていません。
Denny Zhouと彼の共同研究者たちは、大規模言語モデル(LLM)の推論能力を飛躍的に向上させる3つの基礎的なプロンプティング手法を開発しました。これらは、互いに積み重なる形で発展しています。
主な利点: 算数、常識、記号推論タスクのパフォーマンスを劇的に向上させます。さらに、モデルの「思考プロセス」を人間が読めるため、解釈可能性も向上します。PaLM-540Bのような大規模モデルと組み合わせることで、注釈付きデータのわずか0.1%の使用で最先端の結果を達成しました。
仕組み: CoTを改良したデコード戦略です。単一の推論チェーンのみに頼るのではなく、モデルに複数の独立したCoT推論パス(温度パラメータを高く設定してサンプリング)を生成させ、すべてのパスの中で最も一貫性のある回答を多数決で選択します。
主な利点: 単一の推論チェーンが持つばらつきを軽減します。CoTは1つのステップで誤ると不正解となる可能性がありますが、Self-Consistencyは多様なパスから平均化することで、数学や推論ベンチマークでより堅牢な結果を示します。Zhouはこの手法について、表面的な「多数決」ではなく、周辺化(marginalization)の経験的な実装であると強調しています
。
仕組み: プロンプト内の例題よりも難しい問題を解くために設計された2段階の戦略です。まず、モデルが元の難しい問題をより単純なサブ問題のリストに分解します。次に、それぞれのサブ問題を順番に解決し、前のサブ問題の答えを次の問題の解決に利用します。
主な利点: 「易しい問題から難しい問題への一般化(easy-to-hard generalization)」を可能にします。つまり、モデルはプロンプトで示されたどの例よりも本質的に難しい問題を解くことができるのです。記号操作、構成的一般化ベンチマーク(SCANやCFQなど)、数学的推論タスクでの有効性が実証されています。Zhouはこの手法を「計画+推論」と表現しています
。
リストアップされた6人の研究者のうち5人が、競合他社による引き抜き、計算リソース配分の問題、よりスピード感のある環境への欲求を理由に、2026年6月にDeepMindを去り、Meta、OpenAI、Anthropicに移籍したことが確認されています。Dawn Songの移籍は確認できず、今回の流出の波には含まれません。Zhouの3つの推論手法(Chain-of-Thought、Self-Consistency、Least-to-Most)は、互いに積み重なる形で進化してきました。CoTが推論ステップを追加し、Self-Consistencyが複数の推論パスにわたる多数決を追加し、Least-to-Mostが問題の分解と逐次解決を追加することで、より困難な問題に対応できるようになっています。