Ryan Roslansky 所說的「末日循環」(doom loop),指的是一種看似高效、實際上可能不斷稀釋資訊價值的工作流程:AI 先寫出一份文件,另一個 AI 再把它濃縮成摘要,接著人們轉發這份摘要,卻沒有人補上新的分析、證據或判斷。
11
3
4
結果可能是一份語氣流暢、排版完整的文件,但組織並沒有因此得到新點子、確認事實,或做出更好的決策。Roslansky 的重點並不是「不要使用 AI」,而是不要把語句通順誤認為思考有價值。AI 能加快工作,卻無法自動替人承擔背後的判斷責任。
Roslansky 所說的「末日循環」是什麼?
Roslansky 描述,他曾收到一份看起來幾乎完全由 AI 生成的文件。讀過之後,他又請 AI 替自己摘要,結果發現這個流程並沒有為原本的想法帶來任何「新的思考」。
11
3
這個循環大致如下:
- AI 產出一份職場文件。
- 收件者再交由 AI 處理,避免完整閱讀或自行消化內容。
- 摘要被轉發,彷彿代表工作已有進展。
- 沒有人補充新證據、專業知識、解讀,或真正做出決定。
問題不只是第一份草稿可能出錯,更在於組織同時把資訊的生產與消費都自動化,卻拿掉了讓溝通真正有價值的人類貢獻。一份文件可以文法正確、結構清晰,卻仍然沒有任何實質想法。
「AI 垃圾」不只是網路內容問題
在這個語境中,「AI slop」可理解為低價值、制式化的 AI 生成內容:外觀看似完成,實際上缺乏原創觀點或有用的實質內容。Roslansky 表示,這個問題已經不只出現在社群網路,也進入日常工作。
3
8
他用「一片同質化的海洋」(an ocean of sameness)形容更大的隱憂。當員工使用相似的模型、提示詞、範本與企業用語,職場溝通可能變得越來越難以區分。代價不只是文章變得普通,還可能包括:
- 分析更缺乏辨識度;
- 更難看出員工真正的想法與立場;
- 花更多時間審閱看似有資訊、實際卻沒有增加價值的內容;
- 決策建立在未經檢驗的摘要,而不是有人負責的推理之上。
這形成一種效率悖論:AI 讓寫作與摘要變得更便宜,卻可能讓資訊本身變得更不值錢。正如一篇報導概括 Roslansky 的擔憂,這最後可能成為「一種非常昂貴的逃避寫作與閱讀方式」。
4
他主張的是「增強」,不是「取代」
Roslansky 更廣泛的立場是,AI 應該協助人們去做、學習與創造,同時保留每個人自身的經驗與觀點。
11
30
這個差別相當關鍵。當 AI 協助使用者釐清自己理解的想法、比較證據、找出盲點,或處理重複性工作時,它能發揮很大作用。但如果 AI 變成「先替我想一個想法」的替代品,或沒有人願意為結果負責,效用就會大幅下降。
因此,可以用一個簡單問題檢驗 AI 是否真的帶來價值:AI 完成工作後,人類到底增加了什麼?答案不應只是「把文字修得更順」。它可以是經過查證的事實、對取捨的判斷、實際決策、客戶洞察,或無法單靠一般化整理產生的獨特觀點。
這項批評為何讓微軟格外尷尬?
Roslansky 的批評,正好落在一家讓這類工作流程變得更容易的公司內部。微軟已將 Copilot 推進旗下生產力工具生態系,並持續擴展能夠接手重複流程、無須等待使用者提示便採取行動,以及在背景中存取獲授權應用程式與檔案的 AI 代理人。
20
21
18
這確實產生明顯張力,但不代表 Roslansky 反對 AI。他指出的其實是工作設計與治理問題:系統越能生成、分派、摘要並處理資訊,就越需要明確規定哪些環節必須由人審查,以及誰要對結果負責。
微軟自己的產品文件也讓 Copilot Chat 中的 AI 免責聲明持續顯示,並允許管理員提高警示的顯著程度,或連結到組織內部的 AI 政策。
19 這並不能證明所有 AI 輸出都不可靠,但反映出生成內容應被視為需要審閱的材料,而不是可以自動當成可信工作的成品。
微軟內部的 AI 論述也存在拉鋸
Roslansky 使用「AI 垃圾」一詞之際,也與微軟執行長 Satya Nadella 早先反對以這個詞概括 AI 的立場形成對照。Nadella 認為,AI 應被理解為支撐人類潛能的「鷹架」,而不只是取代人類能力的工具。
32
35
兩人的用語不同,但核心問題其實相近:AI 究竟是在放大人類思考,還是在取代組織真正依賴的思考過程?
微軟目前正從兩個方向處理這個問題。一方面,公司正在打造更自主的系統,包括能在既定指示與防護措施下監測事件、做出決定並執行任務的代理人。
21 另一方面,產品控制項與免責聲明也承認,自動化仍需要邊界與監督。
Brad Smith 與 Roslansky 的公開對談,主題聚焦於 AI 焦慮、技能培養與工作的未來。這與 Roslansky 強調人類能力的方向一致,但現有證據不足以證明 Smith 特別支持那篇 8 月貼文。
30
給 AI 職場的實際提醒:人不能只負責按下「核准」
Roslansky 的警告,最終談的不是如何偵測作者是否使用 AI,而是責任歸屬。一份文件不會因為篇幅很長、文字很順,或已經被整理成摘要,就自然具備價值。仍然必須有人對其中的事實、推理、影響與決策負責。
較穩妥的做法不是禁止 AI 撰寫草稿或製作摘要,而是在人類產生實質內容、行使判斷的關鍵節點保留人工參與:
- 用 AI 協助建立結構、整理研究資料、撰寫初稿及處理例行轉換;
- 重要主張交由具備相關專業的人員查證;
- 清楚寫出作者的建議、證據與前提假設;
- 把摘要當成協助閱讀的工具,而不是免除理解責任的捷徑;
- 追問這個 AI 輔助流程究竟帶來了什麼新決策或新洞察。
核心訊息很簡單:AI 可以加速一個由人提出的想法,但不能取代「先有一個想法」這件事。