UN เตือนโมเดลธุรกิจและ AI ที่ไร้การควบคุมกำลังสร้างวิกฤตออนไลน์สำหรับเด็ก

คำเตือนสำคัญ: คนรุ่นหนึ่งกำลังถูกเปิดโปง

เด็กและเยาวชนอายุ 15-24 ปีกว่า 82% กำลังใช้อินเทอร์เน็ต และพวกเขากำลังต้องเผชิญกับข้อมูลบิดเบือน การคุกคาม อคติจากอัลกอริทึม และการใช้ AI ในทางที่ผิดในสัดส่วนที่สูงเกินสัดส่วน รายงานเตือนว่าหน้าต่างแห่งโอกาสสำหรับการดำเนินการกำลังปิดลงอย่างรวดเร็ว: AI กำลังพัฒนารวดเร็วกว่ากรอบการกำกับดูแลที่ไม่ได้ถูกออกแบบมาเพื่อรองรับมัน ทำให้เกิดความเสี่ยงใหม่ๆ ตั้งแต่เนื้อหาที่สร้างโดย AI ไปจนถึงการแสวงหาผลประโยชน์โดยใช้ AI

โมเดลธุรกิจ: อันตรายไม่ได้เกิดขึ้นโดยบังเอิญ

รายงานชี้ให้เห็นประเด็นที่คมชัด: อันตรายที่เด็กและเยาวชนต้องเผชิญออนไลน์ ไม่ได้เกิดขึ้นโดยบังเอิญ แต่เป็นผลโดยตรงจาก โมเดลธุรกิจที่ให้ค่ากับความสนใจและข้อมูลส่วนตัว และจาก การออกแบบที่สร้างขึ้นเพื่อเพิ่มการมีส่วนร่วมและการใช้จ่ายให้มากที่สุด รายงานชี้เฉพาะถึง "dark patterns" (รูปแบบการออกแบบที่หลอกลวง), กล่องสุ่มของขวัญ (loot boxes) และกลยุทธ์อื่นๆ ที่ผลักดันให้เด็กใช้แพลตฟอร์มอย่างบีบบังคับ ขณะที่นิสัยและอัตลักษณ์ของเด็กกำลังก่อตัวขึ้น รายงานยังเตือนถึง กลยุทธ์การโฆษณาที่ซ่อนเร้น ที่เพิ่มมากขึ้น ซึ่งใช้ประโยชน์จากเด็กเพื่อกระตุ้นการใช้จ่ายออนไลน์

ปัญญาประดิษฐ์: ซ้ำเติมความเสี่ยงที่มีอยู่เดิม

AI กำลังซ้ำเติมความเสี่ยงที่มีอยู่เดิมให้รุนแรงขึ้น กว่าที่มาตรการป้องกันจะตามทัน รายงานชี้ถึงความเสี่ยงตั้งแต่ เนื้อหาที่สร้างโดย AI ไปจนถึง การแสวงหาผลประโยชน์โดยใช้ AI เลขาธิการสหประชาชาติ อันโตนิโอ กูเตอร์เรส ถูกอ้างถึงโดยตรง: "ไม่มีเด็กคนไหนควรเป็นหนูทดลองสำหรับ AI ที่ไร้การควบคุม… เมื่อเด็กได้รับอันตราย คำตอบจะต้องไม่ใช่ 'อัลกอริทึมมันทำ'"

การมีส่วนร่วมของเยาวชน: ไม่ใช่แค่เหยื่อ แต่เป็นผู้สนับสนุน

รายงานย้ำว่าเด็กและเยาวชน ไม่ใช่แค่เหยื่อ — พวกเขาคือ ผู้สร้าง นักรณรงค์ และผู้จัดระเบียบ แต่อย่างไรก็ตาม มุมมองของพวกเขายังคง ถูกนำเสนอไม่เพียงพอ ในเวทีที่ใช้กำหนดนโยบาย และในงานวิจัยที่ใช้เป็นข้อมูลสำหรับนโยบายเหล่านั้น รายงานกล่าวอย่างหนักแน่น: "การปกป้องพวกเขาและการรวมพวกเขาเข้าไว้ด้วยกันไม่ใช่เป้าหมายที่แข่งขันกัน เราต้องทำทั้งสองอย่าง"

ความเร่งด่วนในการผนวกสิทธิเด็กเข้ากับการกำกับดูแล AI

รายงานเรียกร้องให้ บรรจุสิทธิเด็กเข้าไปในกรอบการกำกับดูแล AI ในตอนนี้ ขณะที่กฎหมายเหล่านี้ยังอยู่ในระหว่างการพัฒนา — โดยเตือนว่า "หน้าต่างที่จะไม่เปิดอยู่เป็นเวลานาน" กำลังจะปิดลง รายงานเรียกร้องให้รัฐ บริษัทเทคโนโลยี ผู้โฆษณา สื่อ และนักวิจัย ร่วมมือกันดำเนินการ รายงานอ้างถึง Coalition for Children's Rights and Protection in the Age of Artificial Intelligence และคำเรียกร้องของเลขาธิการสหประชาชาติให้มี AI Child Safety Pledge ซึ่งครอบคลุมทุกระบบที่เด็กสามารถเข้าถึงได้