Thảm họa Nano Banana 2 của Google: Công cụ AI khiến niềm tin vào ảnh vệ tinh sụp đổ chỉ trong 24 giờ

Ví dụ về ảnh vệ tinh giả được tạo ra

Các nhà nghiên cứu và nhà báo nhanh chóng chứng minh sự nguy hiểm bằng cách tạo ra những bức ảnh vệ tinh giả thuyết phục, bao gồm:

• Một cơ sở hạt nhân của Iran trông như bị hư hại hoặc thay đổi
• Người tị nạn ở biên giới Mỹ–Mexico (do nhà nghiên cứu OSINT người Hà Lan Henk van Ess tạo ra)
• Một vụ tai nạn máy bay ở Amsterdam
• Một hố bom ở Gaza
• Đảo Kharg của Iran bốc cháy
• Tháp Eiffel bị sập
• Kim tự tháp Giza bị hư hại

Các bức ảnh giả khác bao gồm Điện Capitol ngập lụt, một hố bom ở Los Angeles và một cảnh biểu tình .

Các nhà nghiên cứu cảnh báo điều gì?

Henk van Ess, một nhà nghiên cứu tình báo nguồn mở người Hà Lan, nói với The Guardian rằng công cụ này "không từ chối bất cứ thứ gì" — nó đã tạo ra hình ảnh người tị nạn ở biên giới Mexico, một nhà máy hạt nhân ở Iran và một bệnh viện ở Gaza mà không có bất kỳ bộ lọc nội dung nào . Ông cảnh báo rằng tính năng này về cơ bản đã phá hoại lòng tin vào ảnh vệ tinh, vốn trong nhiều năm là một công cụ quan trọng đối với các nhà điều tra và kiểm chứng thông tin nguồn mở .

Jake Godin của Bellingcat nói với NPR rằng công cụ này có thể "phá hủy hoàn toàn độ tin cậy của ảnh vệ tinh như một bằng chứng." Ông lưu ý rằng ảnh vệ tinh trong lịch sử là một trong những bằng chứng OSINT đáng tin cậy nhất, và công cụ này khiến việc tạo ra những bức ảnh giả thuyết phục trở nên quá dễ dàng, đòi hỏi nỗ lực đáng kể để bác bỏ .

Tại sao hình mờ SynthID thất bại?

Google đã nhúng hình mờ kỹ thuật số SynthID — cả nhãn hiển thị và siêu dữ liệu ẩn — vào mọi hình ảnh do Nano Banana 2 tạo ra. Ban đầu, công ty yêu cầu người dùng kiểm tra các hình ảnh đáng ngờ bằng Gemini hoặc Google Lens . Tuy nhiên, các nhà nghiên cứu đã phát hiện ra một số lỗ hổng nghiêm trọng:

• Hình mờ SynthID có thể bị cắt hoặc loại bỏ chỉ bằng cách chụp màn hình hoặc lưu lại, loại bỏ siêu dữ liệu ẩn
• Hình mờ chỉ bao phủ các phần do AI tạo ra, không phải phần ảnh vệ tinh gốc, khiến việc khẳng định một bức ảnh là "dữ liệu vệ tinh thực" trở nên dễ dàng
• Một số hình ảnh giả đã vượt qua hoàn toàn các kiểm tra phát hiện của SynthID, nghĩa là hệ thống hình mờ không đánh dấu chúng một cách đáng tin cậy là do AI tạo ra

TechTimes mô tả việc triển khai này là "sự đảo ngược sản phẩm AI nhanh nhất do một lỗ hổng an toàn cụ thể gây ra" — lớp bảo vệ chính mà Google công bố đã không thể ngăn chặn việc các ảnh giả lan truyền .

Lý do Google đưa ra cho việc rút lui

Google cho biết họ đã gỡ bỏ tính năng này sau khi thấy "mọi người chia sẻ ảnh chụp màn hình của các hình ảnh được tạo ra có vẻ vi phạm chính sách của chúng tôi" . Công ty tuyên bố sẽ "bổ sung các biện pháp bảo vệ mạnh mẽ hơn" trước khi xem xét phát hành lại công cụ . Trong một tuyên bố trên X, Google viết: "Chúng tôi coi trọng thông tin sai lệch — mọi hình ảnh được tạo bằng Nano Banana trong Google Earth đều bao gồm hình mờ kỹ thuật số SynthID" . Nhưng thiệt hại đã xảy ra chỉ trong vài giờ.

Tại sao điều này lại quan trọng?

Sự cố này làm nổi bật một thách thức ngày càng lớn đối với các công ty công nghệ đang chạy đua tích hợp AI tạo sinh vào các sản phẩm mà người dùng tin tưởng về thông tin thực tế. Ảnh vệ tinh từ lâu đã được coi là nguồn bằng chứng đáng tin cậy cho các nhà báo, nhà điều tra nhân quyền và nhà nghiên cứu nguồn mở. Bằng cách khiến việc tạo ra những bức ảnh giả thuyết phục, kế thừa độ tin cậy của thương hiệu Google Earth, trở nên dễ dàng, tính năng Nano Banana 2 đã biến một công cụ bản đồ đáng tin cậy thành một cỗ máy tiềm năng cho thông tin sai lệch.

Google vẫn chưa công bố thời gian biểu cho việc phát hành lại tính năng này.