Các bài đăng và ảnh chụp màn hình khác mô tả sự tương phản tương tự giữa những nhãn quốc tịch và tôn giáo:

• Truy vấn về việc ở một mình với một người Hồi giáo reportedly sử dụng ngôn ngữ liên quan đến an toàn, trong đó có lời khuyên rời khỏi khu vực hoặc tìm kiếm sự trợ giúp nếu người dùng cảm thấy không an toàn.
• Truy vấn song song về việc ở một mình với một người Israel reportedly nhận được câu trả lời trung tính hơn, khiến hệ thống bị cáo buộc có biểu hiện bài Hồi giáo.
• Với câu hỏi về một người Mỹ, phiên bản được đưa tin nói rằng ở một mình với người đến từ Mỹ là “hoàn toàn bình thường”, đồng thời khuyên người dùng trò chuyện và giữ phép lịch sự như thường lệ.
• Với một người Anh, câu trả lời reportedly đưa ra những lời khuyên mang tính khuôn mẫu nhưng không đe dọa, chẳng hạn mời trà, nói về thời tiết và giữ khoảng cách lịch sự.
• Một số bài viết cũng mô tả câu trả lời kém thân thiện hơn với truy vấn nhắc đến người Uganda. Tuy vậy, bằng chứng hiện có không ghi lại nhất quán nội dung chính xác của câu trả lời này.

Điểm gây tranh cãi không nằm ở việc hệ thống nhắc đến an toàn cá nhân. Nếu người dùng nói họ đang bị đe dọa, cảnh báo chung và hướng dẫn tìm trợ giúp có thể là phản ứng phù hợp. Vấn đề là lời cảnh báo dường như thay đổi theo danh tính được nêu trong một câu hỏi gần như giống hệt.

Cách phản hồi đó có thể biến một chính sách an toàn trung tính thành hàm ý rằng một số nhóm người vốn nguy hiểm hơn những nhóm khác—một kết luận không thể suy ra chỉ từ chủng tộc, tôn giáo hay quốc tịch.

Người dùng và các nhà hoạt động phản ứng ra sao?

Người dùng Reddit chỉ ra sự khác biệt như một “tiêu chuẩn kép”, trong khi Futurism cho rằng ngôn ngữ khuyến cáo gọi dịch vụ khẩn cấp đã củng cố các định kiến chủng tộc có hại. Các nhà hoạt động trên mạng đặc biệt tập trung vào sự tương phản reportedly giữa truy vấn về người Hồi giáo và người Israel, đồng thời gọi đây là biểu hiện của định kiến bài Hồi giáo.

Imam Omar Suleiman chia sẻ một câu trả lời phản bác tiền đề rằng một người Hồi giáo nên bị xem là nguy hiểm chỉ vì đức tin của họ. Trong một ảnh chụp màn hình về sau được cho là từ tài khoản của ông, câu trả lời mô tả việc ở một mình với một người Hồi giáo là bình thường, đồng thời khẳng định tôn giáo chung không quyết định tính cách hay mức độ đe dọa của một cá nhân.

Cách diễn đạt về sau cho thấy người dùng từng nhìn thấy một phản hồi trung tính hơn. Tuy nhiên, tư liệu được cung cấp không xác định chính xác phản hồi này xuất hiện khi nào, có được áp dụng cho mọi người dùng hay không, hoặc liệu Google có thay đổi nó trực tiếp sau bài đăng của ông Suleiman hay không.

Google nói gì và hệ thống đã thay đổi thế nào?

Theo các bài đưa tin hiện có, Google thừa nhận những kết quả trong nhóm truy vấn này “chưa đạt yêu cầu” và cho biết công ty đang triển khai các cải tiến. Google cũng cho phép người dùng báo cáo các AI Overview không chính xác, thiên lệch hoặc có vấn đề thông qua nút phản hồi bên dưới mỗi phần tổng quan.

Các nguồn được cung cấp không có lời giải thích kỹ thuật chi tiết từ Google về nguyên nhân khiến các câu trả lời khác nhau. Vì vậy, chưa thể kết luận liệu vấn đề chủ yếu bắt nguồn từ hành vi của mô hình, nội dung được hệ thống truy xuất trên web, logic an toàn hay sự kết hợp của nhiều yếu tố.

Vì sao sự cố này đáng chú ý?

AI Overview xuất hiện ở vị trí nổi bật trên đầu trang Google Search. Vì thế, một câu trả lời do AI tạo ra có thể mang dáng vẻ của thông tin có thẩm quyền ngay cả khi nó thiếu căn cứ hoặc sai sự thật.

Tính năng này từng bị chỉ trích vì đưa ra các gợi ý kỳ quặc, chẳng hạn khuyên người dùng cho keo lên pizza và ăn đá, cũng như lặp lại tuyên bố sai rằng Barack Obama là người Hồi giáo.

Một số bài điều tra khác còn nêu lo ngại về thông tin sức khỏe không chính xác trong các bản tóm tắt do AI tạo ra. Một phân tích được Futurism dẫn lại ước tính các bản tóm tắt AI có độ chính xác khoảng 91%. Dù tỷ lệ này nghe có vẻ cao, nó vẫn có thể tương đương một số lượng rất lớn câu trả lời sai khi áp dụng ở quy mô tìm kiếm của Google.

Tư liệu hiện có không ghi lại đủ chi tiết để xác nhận các cáo buộc cụ thể về việc Gemini tạo hình ảnh chủng tộc không chính xác. Tuy nhiên, các nguồn cho thấy một vấn đề rộng hơn: những hệ thống được thiết kế để tóm tắt thông tin vẫn có thể tạo ra câu trả lời tự tin nhưng sai lệch, gây tổn hại xã hội hoặc sai sự thật—và thường chỉ được sửa sau khi người dùng phát hiện.

Bài học thực tế cho người dùng tìm kiếm bằng AI

Người dùng nên xem AI Overview là điểm bắt đầu, không phải kết luận cuối cùng—đặc biệt khi công cụ đưa ra nhận định về mức độ an toàn, danh tính, tôn giáo hoặc quốc tịch của một người.

Hãy đối chiếu các truy vấn tương tự, mở các liên kết nguồn bên dưới phần tổng quan và báo cáo những câu trả lời thiên lệch hoặc không chính xác bằng công cụ phản hồi của Google.

Quan trọng nhất, mức độ an toàn nên được đánh giá dựa trên hành vi và hoàn cảnh cụ thể, không phải suy đoán từ quốc tịch, chủng tộc hay tôn giáo. Tranh cãi lần này cho thấy nguyên tắc đó cần được tích hợp ngay trong quy tắc an toàn của mô hình cũng như quy trình kiểm thử trước khi câu trả lời đến với người dùng.

Các bài đăng và ảnh chụp màn hình khác mô tả sự tương phản tương tự giữa những nhãn quốc tịch và tôn giáo:

• Truy vấn về việc ở một mình với một người Hồi giáo reportedly sử dụng ngôn ngữ liên quan đến an toàn, trong đó có lời khuyên rời khỏi khu vực hoặc tìm kiếm sự trợ giúp nếu người dùng cảm thấy không an toàn.
• Truy vấn song song về việc ở một mình với một người Israel reportedly nhận được câu trả lời trung tính hơn, khiến hệ thống bị cáo buộc có biểu hiện bài Hồi giáo.
• Với câu hỏi về một người Mỹ, phiên bản được đưa tin nói rằng ở một mình với người đến từ Mỹ là “hoàn toàn bình thường”, đồng thời khuyên người dùng trò chuyện và giữ phép lịch sự như thường lệ.
• Với một người Anh, câu trả lời reportedly đưa ra những lời khuyên mang tính khuôn mẫu nhưng không đe dọa, chẳng hạn mời trà, nói về thời tiết và giữ khoảng cách lịch sự.
• Một số bài viết cũng mô tả câu trả lời kém thân thiện hơn với truy vấn nhắc đến người Uganda. Tuy vậy, bằng chứng hiện có không ghi lại nhất quán nội dung chính xác của câu trả lời này.

Điểm gây tranh cãi không nằm ở việc hệ thống nhắc đến an toàn cá nhân. Nếu người dùng nói họ đang bị đe dọa, cảnh báo chung và hướng dẫn tìm trợ giúp có thể là phản ứng phù hợp. Vấn đề là lời cảnh báo dường như thay đổi theo danh tính được nêu trong một câu hỏi gần như giống hệt.

Cách phản hồi đó có thể biến một chính sách an toàn trung tính thành hàm ý rằng một số nhóm người vốn nguy hiểm hơn những nhóm khác—một kết luận không thể suy ra chỉ từ chủng tộc, tôn giáo hay quốc tịch.

Người dùng và các nhà hoạt động phản ứng ra sao?

Người dùng Reddit chỉ ra sự khác biệt như một “tiêu chuẩn kép”, trong khi Futurism cho rằng ngôn ngữ khuyến cáo gọi dịch vụ khẩn cấp đã củng cố các định kiến chủng tộc có hại. Các nhà hoạt động trên mạng đặc biệt tập trung vào sự tương phản reportedly giữa truy vấn về người Hồi giáo và người Israel, đồng thời gọi đây là biểu hiện của định kiến bài Hồi giáo.

Imam Omar Suleiman chia sẻ một câu trả lời phản bác tiền đề rằng một người Hồi giáo nên bị xem là nguy hiểm chỉ vì đức tin của họ. Trong một ảnh chụp màn hình về sau được cho là từ tài khoản của ông, câu trả lời mô tả việc ở một mình với một người Hồi giáo là bình thường, đồng thời khẳng định tôn giáo chung không quyết định tính cách hay mức độ đe dọa của một cá nhân.

Cách diễn đạt về sau cho thấy người dùng từng nhìn thấy một phản hồi trung tính hơn. Tuy nhiên, tư liệu được cung cấp không xác định chính xác phản hồi này xuất hiện khi nào, có được áp dụng cho mọi người dùng hay không, hoặc liệu Google có thay đổi nó trực tiếp sau bài đăng của ông Suleiman hay không.

Google nói gì và hệ thống đã thay đổi thế nào?

Theo các bài đưa tin hiện có, Google thừa nhận những kết quả trong nhóm truy vấn này “chưa đạt yêu cầu” và cho biết công ty đang triển khai các cải tiến. Google cũng cho phép người dùng báo cáo các AI Overview không chính xác, thiên lệch hoặc có vấn đề thông qua nút phản hồi bên dưới mỗi phần tổng quan.

Các nguồn được cung cấp không có lời giải thích kỹ thuật chi tiết từ Google về nguyên nhân khiến các câu trả lời khác nhau. Vì vậy, chưa thể kết luận liệu vấn đề chủ yếu bắt nguồn từ hành vi của mô hình, nội dung được hệ thống truy xuất trên web, logic an toàn hay sự kết hợp của nhiều yếu tố.

Vì sao sự cố này đáng chú ý?

AI Overview xuất hiện ở vị trí nổi bật trên đầu trang Google Search. Vì thế, một câu trả lời do AI tạo ra có thể mang dáng vẻ của thông tin có thẩm quyền ngay cả khi nó thiếu căn cứ hoặc sai sự thật.

Tính năng này từng bị chỉ trích vì đưa ra các gợi ý kỳ quặc, chẳng hạn khuyên người dùng cho keo lên pizza và ăn đá, cũng như lặp lại tuyên bố sai rằng Barack Obama là người Hồi giáo.

Một số bài điều tra khác còn nêu lo ngại về thông tin sức khỏe không chính xác trong các bản tóm tắt do AI tạo ra. Một phân tích được Futurism dẫn lại ước tính các bản tóm tắt AI có độ chính xác khoảng 91%. Dù tỷ lệ này nghe có vẻ cao, nó vẫn có thể tương đương một số lượng rất lớn câu trả lời sai khi áp dụng ở quy mô tìm kiếm của Google.

Tư liệu hiện có không ghi lại đủ chi tiết để xác nhận các cáo buộc cụ thể về việc Gemini tạo hình ảnh chủng tộc không chính xác. Tuy nhiên, các nguồn cho thấy một vấn đề rộng hơn: những hệ thống được thiết kế để tóm tắt thông tin vẫn có thể tạo ra câu trả lời tự tin nhưng sai lệch, gây tổn hại xã hội hoặc sai sự thật—và thường chỉ được sửa sau khi người dùng phát hiện.

Bài học thực tế cho người dùng tìm kiếm bằng AI

Người dùng nên xem AI Overview là điểm bắt đầu, không phải kết luận cuối cùng—đặc biệt khi công cụ đưa ra nhận định về mức độ an toàn, danh tính, tôn giáo hoặc quốc tịch của một người.

Hãy đối chiếu các truy vấn tương tự, mở các liên kết nguồn bên dưới phần tổng quan và báo cáo những câu trả lời thiên lệch hoặc không chính xác bằng công cụ phản hồi của Google.

Quan trọng nhất, mức độ an toàn nên được đánh giá dựa trên hành vi và hoàn cảnh cụ thể, không phải suy đoán từ quốc tịch, chủng tộc hay tôn giáo. Tranh cãi lần này cho thấy nguyên tắc đó cần được tích hợp ngay trong quy tắc an toàn của mô hình cũng như quy trình kiểm thử trước khi câu trả lời đến với người dùng.