Google cho biết AI Overviews đang “hiểu sai một số truy vấn liên quan đến hành động.” Tuy vậy, công ty chưa công bố giải thích kỹ thuật đầy đủ.
Quan sát thực tế cho thấy lỗi này có thể liên quan đến cách mô hình ngôn ngữ lớn (LLM) phân loại câu lệnh.
Trong các hệ thống AI, những từ như ignore, dismiss hoặc disregard thường xuất hiện trong prompt với vai trò mệnh lệnh, ví dụ: “ignore previous instructions”. Vì vậy khi truy vấn chỉ gồm một động từ, hệ thống có thể:
Hiện tượng này khá giống một dạng lỗi bảo mật AI gọi là prompt injection, nơi hệ thống vô tình làm theo chỉ dẫn xuất hiện trong dữ liệu đầu vào thay vì thực hiện nhiệm vụ ban đầu.
Trong trường hợp này, truy vấn không hề độc hại — nó chỉ mơ hồ giữa “mệnh lệnh” và “từ cần tra nghĩa”. Nhưng hệ thống lại chọn cách hiểu sai.
Khi Google tin rằng nó có thể tạo tóm tắt bằng AI, AI Overviews sẽ chiếm vị trí đầu trang kết quả.
Nếu hệ thống hiểu nhầm truy vấn là lệnh, nó tạo ra phản hồi kiểu hội thoại thay vì nội dung thông tin. Kết quả là:
Với người dùng, điều này trông giống như Google “quên mất” cách định nghĩa từ đơn giản — dù thực tế kết quả vẫn tồn tại ở phía dưới.
Ngay sau khi AI Overviews được triển khai rộng hơn vào năm 2024, nhiều ví dụ sai lệch đã lan truyền trên mạng.
Trong số đó có các câu trả lời gây sốc như:
Google sau đó thừa nhận một số phản hồi của AI Overviews là “kỳ lạ, không chính xác hoặc không hữu ích”, và cho biết nguyên nhân thường đến từ việc hiểu sai truy vấn, dữ liệu nguồn hạn chế hoặc nội dung châm biếm trên internet.
Bug “disregard” hiện tại thuộc cùng nhóm vấn đề: hệ thống hiểu ngôn ngữ quá linh hoạt và đoán sai ý định của người dùng.
Trong khi chờ Google sửa lỗi, người dùng có thể thử vài cách đơn giản:
Thêm “-ai” vào truy vấn
Một số người dùng thêm toán tử tìm kiếm -ai để giảm khả năng xuất hiện AI Overview.
Tìm bằng cụm rõ ràng hơn
Ví dụ: “define disregard” hoặc “disregard meaning”.
Lỗi này cho thấy một thách thức lớn trong tìm kiếm bằng AI.
Khi hai cách hiểu này trộn lẫn, những truy vấn đơn giản — như một động từ — có thể trở nên mơ hồ. Hệ thống phải đoán: người dùng đang ra lệnh, hay tra nghĩa từ.
Bug “disregard” cho thấy việc phân biệt hai tình huống này vẫn chưa hoàn toàn đáng tin cậy, ngay cả trong các hệ thống AI tìm kiếm lớn nhất hiện nay.
Comments
0 comments