Nghiên cứu MIT: AI càng lớn càng khó truy tìm nguồn gốc ảnh đầu ra

Điều đó không có nghĩa một ảnh hoàn toàn không đóng vai trò nào trong quá trình huấn luyện tổng thể. Nó chỉ cho thấy rằng với một đầu ra cụ thể và trong phép thử loại bỏ của nghiên cứu, đóng góp nhân quả riêng lẻ của ảnh đó có thể quá nhỏ để phát hiện.

“Diffusion ensemble” đã kiểm tra ảnh hưởng của dữ liệu thế nào?

Để kiểm tra câu hỏi này bằng cách trực tiếp, các nhà nghiên cứu thường phải huấn luyện lại mô hình sau khi xóa một ảnh nguồn, rồi so sánh đầu ra mới với đầu ra ban đầu. Nếu phải lặp lại quy trình cho từng ảnh, từng nghệ sĩ hoặc từng chủ thể, chi phí sẽ rất lớn. Những phương pháp ước tính cũng có thể không loại bỏ được toàn bộ ảnh hưởng phát sinh tiếp theo của dữ liệu.

Thay vì vậy, Dai và Gifford thiết kế một diffusion ensemble—một hệ thống gồm nhiều thành phần khuếch tán nhỏ hơn, được huấn luyện trên các tập con dữ liệu có phần chồng lấn. Khi muốn kiểm tra ảnh hưởng của một nguồn, nhóm chỉ cần tắt những thành phần từng nhìn thấy nguồn đó để tạo ra đầu ra phản thực tế, tức kết quả lẽ ra xuất hiện nếu nguồn ấy không được đưa vào hệ thống, mà không phải huấn luyện lại toàn bộ mô hình.

Nhóm nghiên cứu so sánh phương pháp này với 24 mô hình khuếch tán thông thường được huấn luyện trên cùng dữ liệu và báo cáo chất lượng đầu ra nhìn chung tương đương theo các thước đo tiêu chuẩn.

Trong kiến trúc này, việc kiểm tra loại bỏ được thực hiện chính xác: nếu đầu ra vẫn không đổi sau khi tất cả thành phần từng tiếp xúc với một nguồn bị tắt, thí nghiệm không cung cấp bằng chứng đo được rằng nguồn đó đã gây ra đầu ra nói trên.

Tác động tiềm tàng đối với các vụ kiện bản quyền

“Suy giảm khả năng quy nguồn” có thể khiến một dạng lập luận trở nên khó hơn: khẳng định một ảnh do hệ thống như Midjourney, OpenAI hoặc Microsoft tạo ra là kết quả trực tiếp của một ảnh cụ thể của nguyên đơn, hoặc của toàn bộ kho tác phẩm của một nghệ sĩ. Nếu việc loại bỏ chính xác nguồn đó không làm đầu ra liên quan thay đổi, phép thử phản thực tế này sẽ cung cấp rất ít cơ sở để quy kết đầu ra cho nguồn đã bị loại bỏ.

Nhưng nghiên cứu không phán quyết trách nhiệm pháp lý của bất kỳ công ty nào. Nó chỉ cung cấp bằng chứng về mức độ khó khăn khi thiết lập mối liên hệ nhân quả giữa dữ liệu huấn luyện riêng lẻ và một đầu ra riêng lẻ.

Các câu hỏi pháp lý và thực tế khác vẫn còn nguyên:

• Dữ liệu huấn luyện được thu thập như thế nào? Nghiên cứu không xác định việc thu thập hoặc sử dụng một tác phẩm có bản quyền để huấn luyện là hợp pháp hay không.
• Đầu ra có tương đồng đáng kể với tác phẩm được bảo hộ không? Việc khó quy kết đầu ra cho một tệp huấn luyện cụ thể không loại bỏ khả năng phân tích sự tương đồng về hình ảnh.
• Hệ thống có ghi nhớ hoặc tái tạo một ví dụ hay không? Trong một số bối cảnh, mô hình vẫn có thể tái tạo tài liệu huấn luyện. Đây là vấn đề khác với việc chứng minh mọi đầu ra đều bắt nguồn từ một tệp duy nhất.
• Hệ thống có được thiết lập để bắt chước một nghệ sĩ không? Prompt có chủ đích, quá trình tinh chỉnh hoặc hành vi khác của mô hình có thể cung cấp bằng chứng mà phép thử xóa một ảnh đơn lẻ không phản ánh được.

Vì vậy, tòa án và các bên điều tra có thể phải dựa vào hồ sơ rộng hơn, gồm cách thu thập dữ liệu, thông tin nguồn gốc, phân tích tương đồng trực tiếp, thử nghiệm với prompt nhắm mục tiêu, bằng chứng về hành vi của mô hình và đánh giá của chuyên gia. Đây là hệ quả suy luận từ phát hiện rằng việc quy một đầu ra cụ thể cho một ảnh nguồn cụ thể trở nên kém tin cậy khi quy mô tăng lên, chứ không phải một quy tắc pháp lý do nghiên cứu tạo ra.

Vì sao đây không phải “tấm vé miễn trách nhiệm” cho các nhà phát triển AI?

Không nên diễn giải kết quả này thành khẳng định rằng mô hình khuếch tán không bao giờ sao chép. Nghiên cứu cho thấy ảnh hưởng đo được của một nguồn riêng lẻ có thể trở nên không đáng kể khi bộ dữ liệu huấn luyện lớn lên. Trong một số điều kiện, mô hình vẫn có thể ghi nhớ hoặc tái tạo các ví dụ đã thấy.

Phạm vi nghiên cứu cũng có giới hạn. Công trình chỉ xem xét các hệ thống tạo ảnh dựa trên mô hình khuếch tán, vì thế không thể tự động áp dụng kết quả cho mô hình ngôn ngữ hoặc các kiến trúc tạo sinh khác.

Cách hiểu thận trọng nhất là: các hệ thống khuếch tán quy mô lớn có thể khiến việc truy nguồn một đầu ra về một ảnh hoặc một nghệ sĩ cụ thể trở nên khó hơn, ngay cả khi dữ liệu huấn luyện thực sự có chứa ảnh đó hay tác phẩm của nghệ sĩ đó. Điều này có thể làm suy yếu một con đường chứng minh trách nhiệm đối với một đầu ra cụ thể, nhưng không khép lại những tranh luận rộng hơn về cách sử dụng dữ liệu huấn luyện, hành vi sao chép, bắt chước phong cách và quyền sở hữu trí tuệ.