Nghiên cứu MIT hé lộ “suy giảm khả năng truy nguyên” trong ảnh AI

Thí nghiệm được tiến hành trên những bộ dữ liệu có quy mô từ 256 đến hơn 160.000 ảnh. Nhóm lần lượt kiểm tra tác động của việc loại bỏ:

• một ảnh riêng lẻ;
• toàn bộ tác phẩm của một nghệ sĩ; và
• tất cả ảnh chụp một người.

Ở quy mô dữ liệu lớn hơn, việc loại bỏ một trong các nguồn trên thường không tạo ra thay đổi đáng kể trong ảnh đầu ra. Đây là cơ sở để nhóm gọi sự suy giảm của ảnh hưởng đo được từ từng nguồn là “suy giảm khả năng truy nguyên”.

Phát hiện này có ý nghĩa gì với các vụ kiện bản quyền AI?

Kết quả có thể khiến việc lập luận rằng một ảnh do hệ thống liên quan đến Midjourney, OpenAI hoặc Microsoft tạo ra là kết quả trực tiếp của một ảnh cụ thể — hoặc toàn bộ kho tác phẩm của một nguyên đơn — trở nên phức tạp hơn.

Nếu việc loại bỏ chính xác tài liệu bị cho là nguồn gốc không làm thay đổi đầu ra liên quan, phép kiểm tra đối chứng này sẽ cung cấp rất ít cơ sở để quy kết đầu ra đó cho tài liệu ấy.

Tuy nhiên, nghiên cứu không giải quyết các câu hỏi pháp lý riêng biệt như:

• công ty có sao chép tác phẩm khi thu thập dữ liệu huấn luyện hay không;
• việc huấn luyện có cấu thành hành vi xâm phạm bản quyền hoặc thuộc phạm vi sử dụng hợp lý hay không;
• đầu ra có tương đồng đáng kể với một tác phẩm được bảo hộ hay không; và
• mô hình có được yêu cầu hoặc cấu hình một cách có chủ đích để bắt chước một nghệ sĩ hay không.

Nói cách khác, đây là bằng chứng về khả năng quy kết nhân quả của một đầu ra cụ thể, không phải phán quyết pháp lý về bản quyền.

Vì sao đây không phải là “tấm vé miễn trách nhiệm” cho AI?

Trước hết, các mô hình khuếch tán vẫn có thể ghi nhớ hoặc tái tạo ảnh huấn luyện trong một số tình huống. “Suy giảm khả năng truy nguyên” chỉ nói rằng ảnh hưởng của từng nguồn riêng lẻ thường trở nên khó đo lường khi quy mô dữ liệu tăng lên — không phải việc sao chép không bao giờ xảy ra.

Ngoài ra, nghiên cứu tập trung vào các hệ thống tạo ảnh dựa trên khuếch tán. Vì vậy, không nên tự động áp dụng kết luận này cho mô hình ngôn ngữ hoặc các kiến trúc tạo sinh khác.

Hệ quả là khi đánh giá trách nhiệm sở hữu trí tuệ, tòa án có thể cần xem xét nhiều loại bằng chứng khác ngoài mối liên hệ nhân quả một ảnh huấn luyện – một ảnh đầu ra. Những bằng chứng đó có thể gồm hồ sơ thu thập dữ liệu, mức độ tương đồng trực tiếp, hành vi của mô hình trước các lời nhắc có chủ đích, thông tin về nguồn gốc tác phẩm và đánh giá của chuyên gia. Đây là suy luận từ việc nghiên cứu cho thấy khả năng quy kết một đầu ra cho từng nguồn riêng lẻ trở nên khó khăn ở quy mô lớn.