“Vòng lặp tận thế” của AI: Khi văn bản do AI viết lại được AI tóm tắt

Ryan Roslansky, Phó chủ tịch điều hành Microsoft và người phụ trách các mảng như LinkedIn, Office, Outlook và Teams, gọi một quy trình quen thuộc trong công sở là “vòng lặp tận thế” của AI: một AI tạo tài liệu, một AI khác tóm tắt tài liệu đó, rồi con người tiếp tục lưu chuyển kết quả như thể tổ chức vừa tạo ra tiến bộ. Vấn đề là sau tất cả các bước, không nhất thiết có thêm ý tưởng, dữ kiện được kiểm chứng hay quyết định tốt hơn. 1134

Thông điệp của Roslansky không đơn giản là “đừng dùng AI”. Điều ông phản đối là việc nhầm lẫn giữa văn phong trôi chảy với tư duy hữu ích. AI có thể tăng tốc quy trình, nhưng không thể tự thay thế trách nhiệm của con người đối với phán đoán nằm sau nội dung đó.

“Vòng lặp tận thế” vận hành như thế nào?

Roslansky kể rằng ông nhận được một tài liệu mà ông cho là rõ ràng được tạo hoàn toàn bằng AI. Sau khi nhận ra điều này, ông dùng một công cụ AI để tóm tắt tài liệu và kết quả là bản tóm tắt “không mang lại suy nghĩ mới nào cho ý tưởng”. 113

Quy trình tạo thành một vòng lặp:

1. AI viết một tài liệu công việc.
2. Người nhận dùng AI để tránh phải đọc hoặc tự xử lý toàn bộ nội dung.
3. Bản tóm tắt được chuyển tiếp như thể đó là tiến triển mới.
4. Không ai bổ sung bằng chứng, chuyên môn, diễn giải hay quyết định.

Rủi ro không chỉ nằm ở những lỗi trong bản nháp đầu tiên. Nguy hiểm hơn là doanh nghiệp có thể tự động hóa cả việc tạo ra lẫn tiếp nhận thông tin, đồng thời loại bỏ phần đóng góp của con người—yếu tố khiến giao tiếp thực sự có giá trị.

Một tài liệu có thể đúng ngữ pháp, rõ bố cục và nghe rất chuyên nghiệp nhưng vẫn không chứa một ý tưởng đáng kể nào.

“AI rác” là gì?

Trong ngữ cảnh này, “AI slop” có thể hiểu là nội dung do AI tạo ra với chất lượng thấp, chung chung và thiếu góc nhìn nguyên bản, dù bề ngoài có vẻ đã hoàn chỉnh. Roslansky cho rằng vấn đề không còn chỉ xuất hiện trên mạng xã hội mà đã len vào công việc hằng ngày. 38

Cụm từ “một đại dương của sự đồng dạng” mô tả mối lo lớn hơn: khi nhân viên cùng dựa vào những hệ thống, câu lệnh, mẫu biểu và ngôn ngữ doanh nghiệp tương tự nhau, giao tiếp nơi công sở có thể ngày càng trở nên khó phân biệt.

Hệ quả không chỉ là văn bản kém hấp dẫn. Nó còn có thể gồm:

• phân tích ít khác biệt hơn;
• khó nhận biết nhân viên thực sự nghĩ gì;
• mất thêm thời gian rà soát những tài liệu trông có vẻ nhiều thông tin nhưng đóng góp rất ít;
• quyết định dựa trên các bản tóm tắt chưa được kiểm chứng thay vì lập luận mà một người cụ thể chịu trách nhiệm.

Đây là một nghịch lý về năng suất. AI có thể khiến việc viết và tóm tắt rẻ hơn, nhưng đồng thời làm giảm giá trị của chính thông tin được tạo ra. Theo cách một bài viết tóm lược mối lo của Roslansky, đó có thể là “một cách rất đắt tiền để né việc viết và đọc”. 4

AI nên bổ trợ, không phải thay thế tư duy

Quan điểm rộng hơn của Roslansky là AI nên giúp con người làm, học và sáng tạo, đồng thời vẫn giữ lại trải nghiệm và góc nhìn riêng của họ. 1130

Sự khác biệt này rất quan trọng. AI hữu ích khi giúp một người làm rõ ý tưởng mà họ thực sự hiểu, đối chiếu bằng chứng, phát hiện khoảng trống hoặc xử lý công việc lặp lại. AI kém hữu ích hơn nhiều khi bị biến thành thứ thay thế cho việc có một ý tưởng ngay từ đầu—hoặc khi không ai chịu trách nhiệm kiểm tra kết quả.

Một phép thử thực tế có thể rút ra từ cảnh báo này là: sau khi AI hoàn thành phần việc, con người đã bổ sung điều gì? Câu trả lời không nên chỉ là “duyệt câu chữ”. Đó có thể là một dữ kiện đã xác minh, đánh giá về các lựa chọn đánh đổi, một quyết định, hiểu biết về khách hàng hoặc quan điểm không thể có được chỉ từ việc tổng hợp chung chung.

Vì sao cảnh báo này khiến Microsoft rơi vào thế khó?

Lời phê bình của Roslansky xuất hiện ngay trong công ty có các sản phẩm đang giúp quy trình nói trên trở nên phổ biến. Microsoft đã quảng bá Copilot trên hệ sinh thái công cụ năng suất của mình và đang mở rộng các tác tử có thể đảm nhận quy trình lặp lại, tự hành động mà không cần chờ câu lệnh, hoặc hoạt động nền với quyền truy cập vào những ứng dụng và tệp được cho phép. 202118

Điều này tạo ra một mâu thuẫn dễ thấy, nhưng không biến Roslansky thành người chống AI. Thay vào đó, ông đang chỉ ra một vấn đề về thiết kế công việc: khi hệ thống càng có khả năng tạo, chuyển tiếp, tóm tắt và hành động dựa trên thông tin, việc xác định những khâu bắt buộc phải có con người kiểm tra và chịu trách nhiệm càng trở nên quan trọng.

Tài liệu sản phẩm của Microsoft cũng duy trì cảnh báo AI trong Copilot Chat, đồng thời cho phép quản trị viên làm nổi bật cảnh báo hơn hoặc liên kết tới chính sách AI của tổ chức. 19 Điều đó không có nghĩa mọi kết quả của Copilot đều không đáng tin, nhưng cho thấy nội dung do AI tạo ra cần được xem là tài liệu để rà soát, chứ không tự động được coi là công việc đã hoàn tất.

Cảnh báo này nằm trong cuộc tranh luận nào ở Microsoft?

Cách Roslansky dùng cụm từ “AI slop” cũng xuất hiện song song với quan điểm trước đó của CEO Satya Nadella, người phản đối việc chỉ nhìn AI qua thuật ngữ này. Nadella cho rằng AI nên được xem như một dạng “giàn giáo” giúp mở rộng tiềm năng con người, thay vì đơn thuần là công cụ thay thế năng lực con người. 3235

Cách diễn đạt khác nhau, nhưng câu hỏi nền tảng là tương tự: AI đang khuếch đại tư duy của con người, hay đang thay thế chính hoạt động tư duy mà tổ chức phụ thuộc vào?

Microsoft đang giải bài toán đó từ cả hai phía. Công ty phát triển các hệ thống tự chủ hơn, trong đó có những tác tử có thể theo dõi sự kiện, đưa ra quyết định và thực hiện nhiệm vụ theo hướng dẫn cùng các rào chắn định sẵn. 21 Đồng thời, các cơ chế kiểm soát và cảnh báo trong sản phẩm cũng thừa nhận rằng tự động hóa vẫn cần giới hạn và giám sát.

Cuộc trò chuyện công khai giữa Brad Smith và Roslansky tập trung vào nỗi lo về AI, kỹ năng và tương lai việc làm. Bối cảnh này phù hợp với sự nhấn mạnh của Roslansky về năng lực con người, nhưng các dữ liệu hiện có không cho thấy Smith đã trực tiếp tán thành bài đăng “vòng lặp tận thế” vào tháng 8. 30

Bài học cho nơi làm việc có AI

Cảnh báo của Roslansky rốt cuộc không chủ yếu là câu chuyện phát hiện ai là tác giả, mà là câu chuyện về trách nhiệm. Một tài liệu không trở nên có giá trị chỉ vì nó dài, trau chuốt hoặc đã được tóm tắt. Vẫn phải có người chịu trách nhiệm về sự chính xác, lập luận, hệ quả và quyết định gắn với tài liệu đó.

Quy trình an toàn hơn không nhất thiết là cấm AI viết nháp hay tóm tắt. Quan trọng là duy trì vai trò của con người tại nơi nội dung được hình thành và phán đoán được đưa ra:

• dùng AI cho việc dựng cấu trúc, hỗ trợ nghiên cứu, viết bản nháp đầu tiên và xử lý các thao tác lặp lại;
• yêu cầu người có chuyên môn phù hợp kiểm tra những thông tin quan trọng;
• nêu rõ khuyến nghị, bằng chứng và các giả định của người viết;
• dùng bản tóm tắt để hỗ trợ việc đọc, không dùng nó để né trách nhiệm hiểu nội dung;
• luôn hỏi quy trình có AI đã tạo ra quyết định hoặc góc nhìn mới nào.

Thông điệp cốt lõi rất đơn giản: AI có thể tăng tốc một ý tưởng của con người, nhưng không thể thay thế việc con người phải thực sự có một ý tưởng.