Microsoftのライアン・ロスランスキー氏が語る「ドゥームループ」とは、AIが作成した文書を別のAIが要約し、その結果を人々が回覧するものの、誰も実質的な分析や判断を加えない職場の流れを指す。文章は流暢で完成度が高く見えても、組織に新しいアイデアが生まれたとは限らない。事実が検証されたとも、意思決定が改善されたとも限らないからだ。
11
3
4
つまり、ロスランスキー氏の主張は「AIを使うな」ではない。流暢な出力と、役に立つ思考を混同するなという警告だ。AIは仕事を速められるが、そこに必要な判断の責任まで自動的に引き受けてくれるわけではない。
「ドゥームループ」はどのように生まれるのか
ロスランスキー氏は、明らかにAIが生成したと思われる文書を受け取った経験を紹介した。その文書を読み、AIであることに気づいたうえで、今度はAIに要約させたところ、アイデアに「新しい思考を何ももたらさなかった」と説明している。
11
3
この流れは、次のような循環になる。
- AIが職場向けの文書を作成する。
- 受け取った人が文書を最後まで読んだり、自分で内容を咀嚼したりする代わりに、AIへ要約を依頼する。
- 要約が、あたかも仕事が前進したかのように共有される。
- しかし、誰も新しい証拠、専門知識、解釈、意思決定を加えていない。
問題は、最初の草稿に誤りがあるかどうかだけではない。情報の「作成」と「消費」の両方を自動化することで、コミュニケーションに価値を与えていた人間の貢献まで取り除かれる可能性があることだ。文法的に正しく、構成も整った文書であっても、実質的なアイデアを含んでいるとは限らない。
「AIスロップ」とは何か
ここでいう「AIスロップ(AI slop)」は、完成品らしく見える一方で、独自の視点や有用な中身に乏しい、低価値で画一的なAI生成物を意味する。ロスランスキー氏は、この問題がソーシャルネットワークだけでなく、日々の仕事にも入り込んでいると指摘した。
3
8
同氏のいう「同質性の海(an ocean of sameness)」は、より大きな懸念を表している。社員が似たようなAIシステム、プロンプト、テンプレート、社内用語に頼れば、職場のコミュニケーションは次第に交換可能なものになっていく。
その影響は、単に文章がつまらなくなることにとどまらない。たとえば次のような問題が考えられる。
- 分析の独自性が失われる
- 社員が実際に何を考えているのか分かりにくくなる
- 有益そうに見えて中身の薄い資料の確認に時間を取られる
- 誰も責任を負わない要約をもとに判断してしまう
これは、AIによって文章作成や要約のコストが下がる一方、情報そのものの価値が下がるという効率化の逆説でもある。ある報道は、ロスランスキー氏の懸念を「書くことと読むことを避けるための、非常に高価な方法」と要約している。
4
代替ではなく「拡張」を目指す
ロスランスキー氏のより広い立場は、AIを、人々が何かを実行し、学び、創造するのを助ける道具として使いながら、その人自身の経験や視点を残すべきだというものだ。
11
30
この違いは重要だ。AIは、本人が理解しているアイデアを整理したり、証拠を比較したり、抜け漏れを見つけたり、反復的な作業を処理したりする場面では力を発揮する。一方で、そもそもアイデアを持つことの代わりになったり、出力を誰も確認せず責任も負わなかったりするなら、価値は大きく下がる。
ロスランスキー氏の警告から、実務的な問いが一つ導ける。AIが作業を終えたあと、人間は何を加えたのか、という問いだ。単に文章を承認しただけでは十分ではない。検証済みの事実、トレードオフに対する判断、意思決定、顧客への洞察、あるいは一般的な要約だけでは生まれない独自の見解が必要になる。
Microsoft自身にとっても厄介な警告
この批判が注目を集めるのは、発言の舞台が、まさにそのワークフローを可能にする製品を提供しているMicrosoftだからだ。同社は生産性向上ツール群にCopilotを組み込み、反復的なプロセスを最初から最後まで担い、ユーザーの明示的な指示を待たずに動作し、許可されたアプリやファイルにアクセスしてバックグラウンドで処理するエージェントを拡大している。
20
21
18
ここには明らかな緊張関係がある。ただし、ロスランスキー氏の立場を反AIと見る必要はない。むしろ、自動化が進むほど、どの段階で人間による確認と説明責任を必須にするのかを、仕事の設計として定めなければならないという指摘だ。
Microsoftの製品ドキュメントでも、Copilot ChatにはAIに関する注意書きが表示され続ける。管理者はその表示をより目立たせたり、自社のAI利用ポリシーへのリンクを設定したりできる。
19これはすべての出力が信頼できないことを意味しないが、生成された内容を自動的に正しい仕事とみなすのではなく、確認対象として扱う必要性を示している。
Microsoft内の議論とも重なる
ロスランスキー氏の「AIスロップ」という表現は、Microsoft CEOのサティア・ナデラ氏が以前、この言葉をAIの捉え方として使うことに異議を示した流れとも並んでいる。ナデラ氏は、AIを人間の能力の代用品ではなく、人間の可能性を支える「足場」として理解すべきだと主張した。
32
35
表現は異なるが、根底にある問いは共通している。AIは人間の思考を増幅するのか。それとも、組織が本来依存している思考そのものを置き換えてしまうのか、という問題だ。
Microsoftは、この問いに両方向から対応している。同社は、イベントを監視し、判断を下し、定められた指示やガードレールのもとでタスクを実行する、より自律的なシステムを構築している。
21同時に、製品上の管理機能や注意書きを通じて、自動化には境界と監督が必要だと認めてもいる。
Microsoftのブラッド・スミス氏とロスランスキー氏による公開対談では、AIへの不安、スキル、未来の働き方が主なテーマになった。この文脈は、ロスランスキー氏が重視する人間の能力という考え方とは整合する。ただし、スミス氏が8月の「ドゥームループ」に関する投稿を明確に支持したとまでは、確認できる資料からは言えない。
30
AIを使う職場が守るべきこと
ロスランスキー氏の警告は、AIが書いたかどうかを見抜く技術の話というより、責任の所在に関する話だ。文書は、長く、洗練され、要約されているから価値があるのではない。事実、論理、影響、そして判断について、誰かが責任を負って初めて価値を持つ。
現実的な対策は、草稿作成や要約からAIを締め出すことではない。内容が生まれ、判断が行われる地点に、人間の責任を残すことだ。
- 構成作り、調査の補助、初稿、定型的な変換にはAIを使う
- 重要な主張は、関連する専門知識を持つ人が確認する
- 作成者の提案、根拠、前提を明示する
- 要約は読解を支援するために使い、内容を理解する責任の代わりにはしない
- AIを使った結果、どのような新しい判断や洞察が生まれたのかを確認する
要点はシンプルだ。AIは人間のアイデアを加速できる。しかし、アイデアを持つことそのものの代わりにはなれない。