Liên Hợp Quốc cảnh báo: Mô hình kinh doanh và AI thiếu kiểm soát đang gây ra 'khủng hoảng trực tuyến' cho trẻ em

Mô hình kinh doanh: Tổn hại không phải là tai nạn

Bản tóm tắt đưa ra một lập luận quan trọng: những tổn hại mà giới trẻ gặp phải trên mạng không phải là ngẫu nhiên. Chúng là sản phẩm trực tiếp của các mô hình kinh doanh kiếm tiền từ sự chú ý và dữ liệu cá nhân, cùng với các tính năng thiết kế nhằm tối đa hóa sự tương tác và chi tiêu . Báo cáo chỉ ra cụ thể các "dark patterns" (mẫu thiết kế lừa đảo), "loot boxes" (hộp quà may rủi trong game) và các chiến thuật khác thúc đẩy hành vi sử dụng mang tính ép buộc ở trẻ em . Báo cáo cũng cảnh báo về các chiến thuật quảng cáo ẩn ngày càng tinh vi nhằm lợi dụng trẻ em để thúc đẩy chi tiêu trực tuyến .

Trí tuệ nhân tạo: Nhân lên những rủi ro hiện hữu

AI đang làm trầm trọng thêm các rủi ro hiện tại với tốc độ nhanh hơn khả năng thiết lập các biện pháp bảo vệ. Bản tóm tắt chỉ ra các rủi ro từ nội dung do AI tạo ra đến hành vi lạm dụng/bóc lột được hỗ trợ bởi AI . Tổng Thư ký LHQ, ông António Guterres, được trích dẫn trực tiếp rằng: "Không đứa trẻ nào nên là con chuột bạch cho AI không được quản lý… Khi một đứa trẻ bị tổn hại, câu trả lời không bao giờ được phép là 'thuật toán đã làm điều đó'" .

Sự tham gia của thanh thiếu niên: Không chỉ là nạn nhân

Báo cáo nhấn mạnh rằng trẻ em và thanh thiếu niên không chỉ là nạn nhân — mà còn là những người sáng tạo, nhà hoạt động và nhà tổ chức . Tuy nhiên, tiếng nói của họ vẫn bị đại diện thiếu sót tại các diễn đàn hoạch định chính sách cũng như trong các nghiên cứu định hình chính sách đó . Báo cáo khẳng định: "Bảo vệ họ và bao gồm họ không phải là các mục tiêu đối lập. Chúng ta phải làm cả hai."

Tính cấp bách của việc đưa quyền trẻ em vào quản trị AI

Bản tóm tắt kêu gọi quyền trẻ em phải được đưa vào các khuôn khổ quản trị AI ngay bây giờ, trong khi các luật này vẫn đang được xây dựng — cảnh báo rằng "cánh cửa sẽ không mở lâu" và nó đang dần đóng lại . Báo cáo thúc giục các quốc gia, công ty công nghệ, nhà quảng cáo, truyền thông và các nhà nghiên cứu hành động cùng nhau. Nó đề cập đến Liên minh vì Quyền trẻ em và Bảo vệ trẻ em trong Kỷ nguyên Trí tuệ nhân tạo và lời kêu gọi của Tổng Thư ký về một Cam kết An toàn AI cho Trẻ em bao phủ mọi hệ thống mà trẻ em có thể tiếp cận .