Đây là những gì thực sự đang diễn ra bên trong — và lý do bạn nên lo ngại.
Dreaming V3 từ bỏ hoàn toàn danh sách kỷ niệm được lưu thủ công. Thay vào đó, một công cụ tổng hợp nền sẽ chạy sau khi các cuộc trò chuyện kết thúc, đọc xuyên suốt toàn bộ lịch sử trò chuyện của người dùng để suy luận ra sở thích, thói quen làm việc, những ràng buộc cá nhân và các chi tiết khác — tất cả đều không cần bất kỳ lệnh "hãy nhớ điều này" nào .
Những thay đổi kiến trúc chính bao gồm:
Người dùng có thể xem bản tóm tắt bộ nhớ trong phần Cài đặt, nhưng lớp dữ liệu thô bên dưới thì không được phơi bày trực tiếp . Điều này tạo ra một lỗ hổng kiểm toán, trở nên cực kỳ nghiêm trọng khi hệ thống bắt đầu hiểu sai về bạn.
Phóng viên David Gewirtz của ZDNet đã kiểm tra kỹ lưỡng bộ nhớ nâng cấp này và tìm thấy những vấn đề nghiêm trọng, mang tính hệ thống, và ngày càng chồng chất theo thời gian .
Gewirtz mô tả Dreaming V3 là một "thành tựu kỹ thuật" đi kèm với một "tính năng vô trách nhiệm" . Vấn đề cốt lõi không phải là AI mắc lỗi — mà là những lỗi đó trở thành một hạ tầng vĩnh viễn và vô hình cho mọi thứ bạn hỏi sau đó.
Trong Câu hỏi thường gặp về Bộ nhớ của OpenAI có một lời thừa nhận đầy tai hại: "Mặc dù bản tóm tắt bộ nhớ sẽ nắm bắt những chi tiết quan trọng nhất, nhưng nó sẽ không bao gồm tất cả những gì ChatGPT ghi nhớ dựa trên các cuộc trò chuyện của bạn. Nếu bạn muốn biết liệu ChatGPT có nhớ điều gì đó không, chỉ cần hỏi trong cuộc trò chuyện" .
Trang tóm tắt bộ nhớ chỉ là một cái nhìn tổng quan mà con người có thể đọc được về hồ sơ đã được tổng hợp, chứ không phải là một cửa sổ hoàn chỉnh vào những gì mô hình thực sự lưu trữ và sử dụng . Điều đó có nghĩa là người dùng không thể kiểm toán đầy đủ những gì ChatGPT "biết" về họ chỉ thông qua giao diện người dùng trong phần cài đặt
. Bạn sẽ phải tự mình "đi câu" — hỏi AI tiết lộ những giả định ẩn của chính nó về bạn — một cách làm vừa không đáng tin cậy vừa không thực tế để sử dụng thường xuyên.
Các tùy chọn để quản lý hoặc xóa bộ nhớ có tồn tại, nhưng mỗi tùy chọn đều mang những hạn chế đáng kể.
'Thối ngữ cảnh' (context rot) mô tả cách các mô hình ngôn ngữ lớn suy giảm chất lượng khi cửa sổ ngữ cảnh đầy lên — thông tin cũ hơn bị nội dung mới thay thế, và đầu ra dần xa rời tình huống thực tế của người dùng . Dreaming V3 được thiết kế rõ ràng để chống lại vấn đề này qua nhiều phiên, giải quyết "những thách thức về tính cũ kỹ, tính chính xác và khả năng mở rộng mà chúng tôi quan sát thấy khi áp dụng bộ nhớ cho hàng trăm triệu người dùng và khoảng thời gian nhiều năm trong ChatGPT"
.
Nhưng những gì OpenAI đã xây dựng lại tạo ra một biến thể nguy hiểm hơn. Thay vì ngữ cảnh bị thối rữa từ một cửa sổ hữu hạn đầy lên, giờ đây nó mục ruỗng từ trung tâm ra bên ngoài: một khi lỗi xâm nhập vào hồ sơ người dùng bền vững, nó sẽ âm thầm làm hỏng mọi câu trả lời tiếp theo. Đây không phải là 'thối ngữ cảnh' truyền thống do mất thông tin — mà là sự 'thối rữa' từ thông tin sai lệch mà hệ thống coi là chân lý. Và vì người dùng không thể nhìn thấy hoặc dễ dàng loại bỏ nó, họ có thể không bao giờ biết tại sao AI của họ đang dần trở nên tệ hơn .
Comments
0 comments