arXiv siết chặt kiểm soát bài báo tạo bằng AI thiếu kiểm chứng

Khi những dấu hiệu này xuất hiện, các điều phối viên có thể kết luận rằng toàn bộ bài báo có thể không đáng tin cậy vì nội dung AI chưa được kiểm chứng.

Hình phạt có thể áp dụng

Nếu một bài nộp bị xác định chứa bằng chứng rõ ràng của việc dùng LLM mà không kiểm tra, arXiv có thể áp dụng các biện pháp sau:

• Từ chối bài nộp.
• Cấm tất cả tác giả trong bài nộp bài lên arXiv trong 1 năm.
• Sau khi hết thời hạn cấm, các bài gửi mới phải được chấp nhận tại một tạp chí hoặc hội nghị có phản biện uy tín trước khi được đăng trên arXiv.

Quy định áp dụng cho toàn bộ nhóm tác giả, vì theo quy tắc của arXiv, tất cả những người ký tên đều cùng chịu trách nhiệm về nội dung bài báo.

AI không bị cấm hoàn toàn

Dù áp dụng hình phạt nghiêm khắc, arXiv không cấm việc sử dụng AI để hỗ trợ nghiên cứu hoặc viết bài. Quan điểm của nền tảng là AI có thể giúp tăng tốc quá trình viết, nhưng tác giả phải kiểm tra kỹ mọi thông tin, trích dẫn và kết luận trước khi công bố.

Cách tiếp cận này phù hợp với chuẩn mực học thuật nói chung: công cụ phần mềm có thể hỗ trợ, nhưng trách nhiệm cuối cùng vẫn thuộc về nhà nghiên cứu.

Quy trình xem xét và kháng nghị

Các quyết định kiểm duyệt trên arXiv không hoàn toàn là cuối cùng. Nếu tác giả cho rằng bài của mình bị từ chối không chính xác, họ có thể nộp đơn kháng nghị thông qua quy trình xem xét của arXiv.

Trong một số trường hợp, arXiv có thể yêu cầu bài nghiên cứu phải được chấp nhận bởi một tạp chí học thuật truyền thống trước khi xem xét kháng nghị đối với quyết định từ chối.

Ý nghĩa đối với cộng đồng nghiên cứu

arXiv là một trong những hạ tầng quan trọng nhất để chia sẻ kết quả nghiên cứu sớm, đặc biệt trong các lĩnh vực như vật lý, toán học và khoa học máy tính. Vì vậy, quy định mới phản ánh mối lo ngày càng lớn của giới học thuật: AI có thể giúp viết nhanh hơn, nhưng cũng làm tăng nguy cơ trích dẫn giả và sai sót tinh vi.

Thông điệp của arXiv khá rõ ràng: AI có thể được sử dụng, nhưng nội dung do AI tạo ra phải được kiểm tra kỹ lưỡng trước khi công bố. Trách nhiệm vẫn thuộc về các nhà nghiên cứu đứng tên trên bài báo.