Google Earth tích hợp AI tạo ảnh: Thảm họa niềm tin chỉ sau một ngày

Tính năng này hoạt động thế nào?

Nút "Create image" (Tạo ảnh) xuất hiện trong Google Earth trên web. Sau khi phóng to đến một vị trí bất kỳ, người dùng có thể nhấn nút, gõ một câu mô tả, và Nano Banana 2 sẽ trả về một bức ảnh chân thực được xây dựng từ ảnh vệ tinh, ảnh hàng không và ảnh 3D của Google tại chính vị trí đó . Google mô tả đây là một công cụ địa lý sáng tạo, nhưng trên thực tế, nó cho phép bất kỳ ai cũng có thể tạo ra bằng chứng địa không gian giả mạo trên quy mô lớn .

Tại sao tính năng bị gỡ bỏ?

Những bức ảnh giả mạo vi phạm chính sách xuất hiện ngay lập tức. Người dùng đã tạo ra những cảnh giả mạo cực kỳ thuyết phục, bao gồm: một hố bom ở Los Angeles, một Điện Capitol Mỹ bị ngập lụt, một đám cháy trên đảo Kharg của Iran, và — điều khiến các chuyên gia lo ngại nhất — là ảnh giả mạo về một nhà máy hạt nhân ở Iran và xe tăng Nga lăn qua Kyiv .

BBC Verify và các nhà nghiên cứu tình báo nguồn mở (OSINT) đã công khai chứng minh rủi ro. Nhà nghiên cứu AI Henk van Ess và BBC Verify đã tạo ra những cảnh vệ tinh giả mạo về các địa điểm địa chính trị nhạy cảm, cho thấy công cụ này có thể tạo ra hình ảnh sai lệch trông rất thật một cách dễ dàng như thế nào .

Google trực tiếp thừa nhận vấn đề về lòng tin. Trong tuyên bố rút lui, công ty nói: "Chúng tôi biết rằng người dùng đặt niềm tin đặc biệt vào Google Earth như một nguồn cung cấp cái nhìn đáng tin cậy về thế giới. Chúng tôi thấy các chuyên gia địa không gian đang sử dụng tính năng này cho nhiều mục đích hữu ích" nhưng "đang rút lại tính năng này trong Google Earth trong khi chúng tôi làm việc để triển khai các biện pháp bảo vệ mạnh mẽ hơn" .

Cuộc khủng hoảng niềm tin OSINT

Ảnh vệ tinh từ lâu đã là nguồn tiêu chuẩn vàng cho tình báo nguồn mở (OSINT), điều tra nhân quyền và ghi chép tội ác chiến tranh. Các chuyên gia cảnh báo rằng việc tích hợp AI tạo ảnh trực tiếp vào Google Earth — nền tảng bản đồ vệ tinh đáng tin cậy nhất — có thể làm xói mòn hoàn toàn độ tin cậy của tất cả các bằng chứng từ ảnh hàng không .

Tính năng này đã làm mờ ranh giới giữa thật và giả ngay tại nguồn. Vì những ảnh AI được tạo ra trong chính Google Earth và gắn với tọa độ thực, chúng mang một lớp vỏ bọc giả mạo về tính xác thực, khiến việc vạch trần chúng trở nên khó khăn hơn nhiều so với một ảnh AI thông thường được chia sẻ trên mạng xã hội .

Các nhà điều tra nhân quyền phụ thuộc vào ảnh vệ tinh đã được xác minh để ghi lại các hành vi tàn bạo, thiệt hại do xung đột và tội phạm môi trường. Nếu ngay cả đầu ra của chính Google Earth cũng có thể bị nghi ngờ, toàn bộ chuỗi bằng chứng cho các cuộc điều tra nguồn mở sẽ bị tổn hại, tạo điều kiện cho những kẻ xấu bác bỏ các cảnh quay thực tế là do AI tạo ra .

Cộng đồng OSINT mô tả sự việc này là một "cuộc khủng hoảng niềm tin" đối với bằng chứng số. Phản ứng nhanh chóng từ các chuyên gia OSINT là một trong những nguyên nhân chính khiến Google quyết định đảo ngược quyết định trong vòng vài giờ .

Biện pháp bảo vệ của Google và những giới hạn của nó

Google chỉ ra rằng tất cả các ảnh do AI tạo ra đều được nhúng SynthID, một loại hình mờ kỹ thuật số được thiết kế để gắn cờ nội dung do AI tạo ra . Tuy nhiên, các nhà nghiên cứu đã chứng minh rằng các công cụ phát hiện có thể bị đánh lừa và rằng ảnh chụp màn hình — cách phổ biến nhất để các ảnh giả mạo lan truyền — sẽ loại bỏ mọi hình mờ hoặc ngữ cảnh ở cấp độ nền tảng . Biện pháp bảo vệ này là không đủ để ngăn chặn làn sóng ảnh giả mạo thuyết phục xuất hiện chỉ trong vài giờ sau khi ra mắt.

Hệ lụy rộng hơn

Sự việc này là một trong những lần đảo ngược sản phẩm nhanh nhất trong lịch sử Google và là một nghiên cứu điển hình về sự nguy hiểm của việc nhúng AI tạo sinh vào các nền tảng thông tin đáng tin cậy mà không có các biện pháp bảo vệ đầy đủ. Đối với cộng đồng OSINT, đây là một lời cảnh báo rõ ràng rằng độ tin cậy của ảnh vệ tinh — nền tảng của bằng chứng kỹ thuật số hiện đại — có thể bị xói mòn chỉ sau một lần ra mắt sản phẩm duy nhất .