ChatGPT Dreaming V3: Bản Nâng Cấp Bộ Nhớ Âm Thầm Đầu Độc Mọi Câu Trả Lời

Đây là những gì thực sự đang diễn ra bên trong — và lý do bạn nên lo ngại.

Cỗ Máy Bộ Nhớ Dreaming V3 Hoạt Động Như Thế Nào

Dreaming V3 từ bỏ hoàn toàn danh sách kỷ niệm được lưu thủ công. Thay vào đó, một công cụ tổng hợp nền sẽ chạy sau khi các cuộc trò chuyện kết thúc, đọc xuyên suốt toàn bộ lịch sử trò chuyện của người dùng để suy luận ra sở thích, thói quen làm việc, những ràng buộc cá nhân và các chi tiết khác — tất cả đều không cần bất kỳ lệnh "hãy nhớ điều này" nào .

Những thay đổi kiến ​​trúc chính bao gồm:

• Quét toàn bộ lịch sử. Hệ thống không còn dựa vào những mục bạn đã gắn cờ — nó đọc tất cả mọi thứ .
• Suy luận sở thích. Nó trích xuất các chi tiết ngầm từ những nhận xét vu vơ và hành vi trong quá khứ mà có lẽ bạn chưa từng có ý định lưu trữ .
• Tổng hợp giữa các phiên. Một quy trình 'mơ' (dreaming) chạy ngoại tuyến, giải quyết các mâu thuẫn và cập nhật những sự thật cũ kỹ .
• Biểu diễn tổng hợp. Những gì được lưu trữ không phải là bản ghi chép nguyên văn lời bạn nói, mà là một mô tả nén, do chính mô hình tạo ra, về con người bạn .

Người dùng có thể xem bản tóm tắt bộ nhớ trong phần Cài đặt, nhưng lớp dữ liệu thô bên dưới thì không được phơi bày trực tiếp . Điều này tạo ra một lỗ hổng kiểm toán, trở nên cực kỳ nghiêm trọng khi hệ thống bắt đầu hiểu sai về bạn.

Thử Nghiệm Của ZDNet Phát Hiện Lỗi Chính Xác Trên Diện Rộng

Phóng viên David Gewirtz của ZDNet đã kiểm tra kỹ lưỡng bộ nhớ nâng cấp này và tìm thấy những vấn đề nghiêm trọng, mang tính hệ thống, và ngày càng chồng chất theo thời gian .

• Giả định lỗi thời tồn tại vĩnh viễn. ChatGPT đã lưu trữ các chức danh công việc cũ, dự án đã hết hạn, và sở thích không còn đúng nữa, rồi coi chúng là thông tin hiện tại trong mọi tương tác sau đó .
• Sai lầm nhỏ biến thành 'chân lý'. AI khóa chặt những lỗi nhỏ và áp dụng cùng một mức độ tự tin như khi nó sử dụng cho kiến ​​thức thực tế đã được xác minh. Một chi tiết không chính xác duy nhất sau đó sẽ âm thầm làm ô nhiễm hàng tá phản hồi trong tương lai .
• Lan truyền vô hình. Dữ liệu bộ nhớ sai lệch bóp méo các câu trả lời mà không có bất kỳ dấu hiệu rõ ràng nào cho thấy có điều gì đó không ổn. Người dùng có thể không bao giờ nhận ra AI đang hoạt động dựa trên ngữ cảnh sai lệch cho đến khi thiệt hại đã lan rộng qua nhiều cuộc trò chuyện .
• Hồ sơ chi tiết nhưng sai lệch. Hệ thống tạo ra các hồ sơ cá nhân cực kỳ chi tiết, nghe có vẻ hợp lý nhưng lại hoàn toàn sai, neo mọi phản hồi vào những tiền đề không có thật .

Gewirtz mô tả Dreaming V3 là một "thành tựu kỹ thuật" đi kèm với một "tính năng vô trách nhiệm" . Vấn đề cốt lõi không phải là AI mắc lỗi — mà là những lỗi đó trở thành một hạ tầng vĩnh viễn và vô hình cho mọi thứ bạn hỏi sau đó.

Lỗ Hổng Kiểm Toán: Những Gì OpenAI Sẽ Không Cho Bạn Thấy

Trong Câu hỏi thường gặp về Bộ nhớ của OpenAI có một lời thừa nhận đầy tai hại: "Mặc dù bản tóm tắt bộ nhớ sẽ nắm bắt những chi tiết quan trọng nhất, nhưng nó sẽ không bao gồm tất cả những gì ChatGPT ghi nhớ dựa trên các cuộc trò chuyện của bạn. Nếu bạn muốn biết liệu ChatGPT có nhớ điều gì đó không, chỉ cần hỏi trong cuộc trò chuyện" .

Trang tóm tắt bộ nhớ chỉ là một cái nhìn tổng quan mà con người có thể đọc được về hồ sơ đã được tổng hợp, chứ không phải là một cửa sổ hoàn chỉnh vào những gì mô hình thực sự lưu trữ và sử dụng . Điều đó có nghĩa là người dùng không thể kiểm toán đầy đủ những gì ChatGPT "biết" về họ chỉ thông qua giao diện người dùng trong phần cài đặt . Bạn sẽ phải tự mình "đi câu" — hỏi AI tiết lộ những giả định ẩn của chính nó về bạn — một cách làm vừa không đáng tin cậy vừa không thực tế để sử dụng thường xuyên.

Tại Sao "Cứ Xóa Nó Đi" Không Giải Quyết Được Vấn Đề

Các tùy chọn để quản lý hoặc xóa bộ nhớ có tồn tại, nhưng mỗi tùy chọn đều mang những hạn chế đáng kể.

• Tắt bộ nhớ có thể không xóa những gì đã được lưu trữ. ZDNet báo cáo rằng việc vô hiệu hóa tính năng này không nhất thiết xóa dữ liệu mà hệ thống đã tổng hợp .
• Xóa thủ công rất mong manh. Người dùng có thể xem lại và xóa từng mục bộ nhớ riêng lẻ trong Cài đặt, nhưng quá trình 'mơ' có thể học lại những chi tiết tương tự từ lịch sử trò chuyện hiện có của bạn vào lần tiếp theo nó chạy .
• Tự động tái tổng hợp liên tục. Vì Dreaming V3 liên tục tái tổng hợp ngữ cảnh, việc chỉ xóa các ký ức được liệt kê không ngăn được hệ thống suy luận lại những thông tin tương tự từ các cuộc trò chuyện trong quá khứ .
• Hầu hết người dùng sẽ không kiểm toán cho đến khi nó hỏng. Dấu hiệu rõ ràng đầu tiên của bộ nhớ bị hỏng thường đến sau khi dữ liệu nhiễm độc đã định hình nhiều phản hồi .

Một Dạng 'Thối Ngữ Cảnh' Mới: Mục Ruỗng Từ Hồ Sơ Trung Tâm

'Thối ngữ cảnh' (context rot) mô tả cách các mô hình ngôn ngữ lớn suy giảm chất lượng khi cửa sổ ngữ cảnh đầy lên — thông tin cũ hơn bị nội dung mới thay thế, và đầu ra dần xa rời tình huống thực tế của người dùng . Dreaming V3 được thiết kế rõ ràng để chống lại vấn đề này qua nhiều phiên, giải quyết "những thách thức về tính cũ kỹ, tính chính xác và khả năng mở rộng mà chúng tôi quan sát thấy khi áp dụng bộ nhớ cho hàng trăm triệu người dùng và khoảng thời gian nhiều năm trong ChatGPT" .

Nhưng những gì OpenAI đã xây dựng lại tạo ra một biến thể nguy hiểm hơn. Thay vì ngữ cảnh bị thối rữa từ một cửa sổ hữu hạn đầy lên, giờ đây nó mục ruỗng từ trung tâm ra bên ngoài: một khi lỗi xâm nhập vào hồ sơ người dùng bền vững, nó sẽ âm thầm làm hỏng mọi câu trả lời tiếp theo. Đây không phải là 'thối ngữ cảnh' truyền thống do mất thông tin — mà là sự 'thối rữa' từ thông tin sai lệch mà hệ thống coi là chân lý. Và vì người dùng không thể nhìn thấy hoặc dễ dàng loại bỏ nó, họ có thể không bao giờ biết tại sao AI của họ đang dần trở nên tệ hơn .