Tuyên ngôn Leiden: Lằn ranh đỏ của hơn 150 nhà toán học trước làn sóng AI thiếu kiểm soát

Năm mối đe dọa định hình lại toán học

Tuyên ngôn xác định năm mối nguy hiểm khác biệt nhưng đan xen, mỗi mối đều tấn công vào một giá trị nền tảng của hoạt động toán học. Người Việt Nam vốn có truyền thống coi trọng sự chính xác và minh bạch trong nghiên cứu sẽ thấy những cảnh báo này không hề xa lạ.

1. Những chứng minh thiếu tin cậy và không thể kiểm chứng
Toán học được xây dựng trên những chứng minh có thể kiểm tra độc lập và thấu hiểu sâu sắc. Tuy nhiên, các hệ thống AI tạo ra những lập luận trông có vẻ hợp lý nhưng thường chứa các lỗi sai gần như vô hình – những chứng minh sai khiến con người rất vất vả mới phát hiện ra . Vấn nạn này không chỉ giới hạn ở việc tạo văn bản thông thường; nó còn xuất hiện trong các hệ thống chứng minh hình thức khi logic cơ bản bị che khuất khỏi tầm mắt các chuyên gia .

2. Sự sụp đổ của hệ thống ghi công và vi phạm bản quyền tràn lan
Các mô hình AI được huấn luyện trên khối lượng lớn công trình đã xuất bản của con người mà không có sự đồng ý và thường không trích dẫn nguồn gốc. Hậu quả là một sự đổ vỡ mang tính hệ thống trong việc ghi nhận công lao, khiến việc truy vết dòng chảy trí tuệ hay tôn vinh những người tư duy gốc trở nên bất khả thi. Tuyên ngôn nhấn mạnh rằng các tác giả phải chủ động tìm kiếm các công trình tiền nhiệm và, nếu không thể ghi công đầy đủ, phải tường minh nêu rõ hạn chế đó .

3. Một hệ thống hai tầng phụ thuộc và bất bình đẳng
Khi nghiên cứu tiên tiến ngày càng gắn chặt với các mô hình độc quyền đắt đỏ và sức mạnh tính toán khổng lồ, toán học phải đối mặt với tương lai nơi chỉ những phòng thí nghiệm được tài trợ tốt mới có thể cạnh tranh. Điều này tạo ra một sự bất bình đẳng mang tính cấu trúc, phá hỏng đặc điểm truyền thống là mở và trọng dụng nhân tài của lĩnh vực này .

4. Sự cường điệu hóa quá mức định hướng sai lệch chính sách
Các công ty công nghệ, bị thúc đẩy bởi sức ép thương mại mạnh mẽ, đã thổi phồng quá mức năng lực toán học của các công cụ họ tạo ra . Họ công bố kết quả theo mốc thời gian của thị trường qua các thông cáo báo chí, thay vì qua nghiên cứu được bình duyệt, và sử dụng hiệu suất trong các bài kiểm tra toán như một chiêu bài tiếp thị cho trí thông minh tổng quát – một tuyên bố mà bản tuyên ngôn thẳng thừng bác bỏ . Các tác giả hối thúc chính phủ các nước, trong đó có Việt Nam, phải tìm kiếm sự đánh giá từ chuyên gia, chứ không phải từ các bài PR, khi xây dựng chính sách khoa học .

5. Mất đi quyền tự chủ trong nghiên cứu
Khi lợi ích doanh nghiệp và tính khả thi về mặt kỹ thuật chi phối thứ được nghiên cứu, toán học có nguy cơ mất quyền kiểm soát chương trình nghị sự của chính mình. Các ưu tiên nghiên cứu bị xoay chuyển sang những gì đem lại lợi nhuận thương mại ngắn hạn thay vì những câu hỏi sâu sắc được dẫn dắt bởi trí tò mò, đe dọa sức khỏe dài hạn của cả ngành .

Những yêu sách cụ thể từ bản Tuyên ngôn

Thay vì chỉ chẩn đoán vấn đề, Tuyên ngôn Leiden đưa ra các tiêu chuẩn hành động cụ thể cho bốn nhóm đối tượng quan trọng .

Các nhà nghiên cứu cá nhân phải:

• Công bố tất cả các công cụ AI, lời nhắc và phương pháp sử dụng trong công việc của mình .
• Coi AI chỉ như một công cụ – không bao giờ là đồng tác giả. Con người chịu toàn bộ trách nhiệm về tính chính xác, ghi công và khía cạnh đạo đức .
• Cập nhật thông tin về các công nghệ mới nổi và tham gia vào các cuộc tranh luận công khai về hệ quả của chúng .

Các tổ chức, tạp chí và cơ quan tài trợ phải:

• Xây dựng các chính sách ràng buộc về quyền tác giả của AI, sự minh bạch, bình duyệt và sở hữu trí tuệ .
• Thiết lập các cơ cấu hỗ trợ pháp lý và đạo đức để giúp các nhà nghiên cứu đàm phán với các công ty công nghệ lớn .
• Đan xen các giá trị cốt lõi của bản tuyên ngôn vào các tiêu chí đánh giá và quyết định tài trợ, thay vì chỉ coi trọng tốc độ tính toán .

Các chính phủ phải:

• Ngừng tin vào những tuyên bố năng lực của các tập đoàn theo đúng nghĩa đen mà thay vào đó hãy tham vấn các nhóm chuyên gia độc lập .
• Điều tiết ngành công nghiệp AI để ngăn chặn sự kiểm soát mang tính độc quyền đối với hạ tầng nghiên cứu .
• Đầu tư vào các giải pháp thay thế nguồn mở, được tài trợ công, cho các công cụ AI thương mại để khả năng tiếp cận không phụ thuộc vào độ giàu có của tổ chức .

Ngành công nghiệp phải:

• Từ bỏ hành vi sử dụng các ấn phẩm nghiên cứu làm dữ liệu huấn luyện mà không có sự đồng ý và cho phép các cơ chế thực sự để tác giả từ chối .
• Đáp ứng các tiêu chuẩn minh bạch và ghi công giống như yêu cầu trong giới học thuật mỗi khi các phòng thí nghiệm công nghiệp công bố cùng với các đối tác học thuật .

Cuộc chiến lớn hơn: Bằng chứng, Quyền lực và Niềm tin Công chúng

Tuyên ngôn Leiden không chỉ độc quyền về toán học. Các tác giả nhìn nhận cuộc đấu tranh này như một phong vũ biểu cho chính sách khoa học ở khắp mọi nơi. Họ lập luận rằng chính những hệ thống AI tạo ra các chứng minh thiếu tin cậy cũng có thể bị vũ khí hóa phục vụ chiến tranh và giám sát hàng loạt, và hối thúc các nhà toán học đánh giá công việc của mình một cách có đạo đức, thậm chí rút lui khỏi các dự án gây hại .

Lời cảnh báo sâu xa hơn mang tính nhận thức luận: khi các mốc thời gian thương mại thay thế cho quy trình bình duyệt, và khi sự cường điệu của doanh nghiệp lấn át tiếng nói thận trọng của chuyên gia, hiểu biết của công chúng về việc điều gì tạo nên chân lý khoa học sẽ bị bóp méo . Toán học – một lĩnh vực từ lâu đã tự hào về các tiêu chuẩn rõ ràng và trường tồn – giờ đây đang đứng ở tuyến đầu của trận chiến lớn lao đó.

Gần như mọi khuyến nghị trong bản tuyên ngôn đều xoay quanh một nguyên tắc duy nhất: sự minh bạch. Nếu không biết khi nào và bằng cách nào AI được sử dụng, cộng đồng khoa học không thể kiểm chứng kết quả, phân công trạng, hay bảo vệ các tiêu chuẩn của chính mình. Với hơn 130 chữ ký ngay tại thời điểm ra mắt và sự hậu thuẫn từ các tổ chức như Hội Liên hiệp Toán học Quốc tế (IMU), Tuyên ngôn Leiden đã trở thành thứ hơn cả một lời tuyên bố: nó là bản dự thảo đang vận hành cho những chuẩn mực mà các nhà toán học tin rằng kỷ nguyên AI yêu cầu .