Bug “Disregard” của Google khiến AI Overviews hiểu nhầm từ tìm kiếm thành lệnh

Vì sao AI lại hiểu những từ này như lệnh

Google cho biết AI Overviews đang “hiểu sai một số truy vấn liên quan đến hành động.” Tuy vậy, công ty chưa công bố giải thích kỹ thuật đầy đủ.

Quan sát thực tế cho thấy lỗi này có thể liên quan đến cách mô hình ngôn ngữ lớn (LLM) phân loại câu lệnh.

Trong các hệ thống AI, những từ như ignore, dismiss hoặc disregard thường xuất hiện trong prompt với vai trò mệnh lệnh, ví dụ: “ignore previous instructions”. Vì vậy khi truy vấn chỉ gồm một động từ, hệ thống có thể:

• nhầm đó là lệnh cho AI, thay vì
• yêu cầu tra cứu thông tin về từ đó.

Khi sự phân loại sai xảy ra, AI cố gắng “thực thi lệnh” thay vì trả về thông tin từ điển.

Hiện tượng này khá giống một dạng lỗi bảo mật AI gọi là prompt injection, nơi hệ thống vô tình làm theo chỉ dẫn xuất hiện trong dữ liệu đầu vào thay vì thực hiện nhiệm vụ ban đầu.

Trong trường hợp này, truy vấn không hề độc hại — nó chỉ mơ hồ giữa “mệnh lệnh” và “từ cần tra nghĩa”. Nhưng hệ thống lại chọn cách hiểu sai.

Vì sao trang kết quả lại trống hoặc giống chatbot

Khi Google tin rằng nó có thể tạo tóm tắt bằng AI, AI Overviews sẽ chiếm vị trí đầu trang kết quả.

Nếu hệ thống hiểu nhầm truy vấn là lệnh, nó tạo ra phản hồi kiểu hội thoại thay vì nội dung thông tin. Kết quả là:

• khung AI hiển thị ít nội dung hoặc phản hồi ngắn
• phần lớn không gian phía trên trang bị bỏ trống
• kết quả hữu ích bị đẩy xuống dưới

Với người dùng, điều này trông giống như Google “quên mất” cách định nghĩa từ đơn giản — dù thực tế kết quả vẫn tồn tại ở phía dưới.

Đây không phải lỗi kỳ lạ đầu tiên của AI Overviews

Ngay sau khi AI Overviews được triển khai rộng hơn vào năm 2024, nhiều ví dụ sai lệch đã lan truyền trên mạng.

Trong số đó có các câu trả lời gây sốc như:

• gợi ý cho keo không độc vào sốt pizza để phô mai dính hơn
• khuyên người dùng ăn một viên đá nhỏ mỗi ngày để bổ sung khoáng chất.

Google sau đó thừa nhận một số phản hồi của AI Overviews là “kỳ lạ, không chính xác hoặc không hữu ích”, và cho biết nguyên nhân thường đến từ việc hiểu sai truy vấn, dữ liệu nguồn hạn chế hoặc nội dung châm biếm trên internet.

Bug “disregard” hiện tại thuộc cùng nhóm vấn đề: hệ thống hiểu ngôn ngữ quá linh hoạt và đoán sai ý định của người dùng.

Cách tạm thời tránh lỗi này

Trong khi chờ Google sửa lỗi, người dùng có thể thử vài cách đơn giản:

Chuyển sang tab Web
Tab Web sẽ hiển thị danh sách liên kết truyền thống và bỏ qua phần tóm tắt AI.

Thêm “-ai” vào truy vấn
Một số người dùng thêm toán tử tìm kiếm -ai để giảm khả năng xuất hiện AI Overview.

Cuộn xuống dưới khung AI
Định nghĩa từ điển thường vẫn xuất hiện ở phần kết quả phía dưới.

Tìm bằng cụm rõ ràng hơn
Ví dụ: “define disregard” hoặc “disregard meaning”.

Bài học về thiết kế tìm kiếm bằng AI

Lỗi này cho thấy một thách thức lớn trong tìm kiếm bằng AI.

• Mô hình ngôn ngữ được thiết kế để hiểu và thực hiện lệnh.
• Công cụ tìm kiếm truyền thống lại coi truy vấn là yêu cầu thông tin.

Khi hai cách hiểu này trộn lẫn, những truy vấn đơn giản — như một động từ — có thể trở nên mơ hồ. Hệ thống phải đoán: người dùng đang ra lệnh, hay tra nghĩa từ.

Bug “disregard” cho thấy việc phân biệt hai tình huống này vẫn chưa hoàn toàn đáng tin cậy, ngay cả trong các hệ thống AI tìm kiếm lớn nhất hiện nay.