PBB: Model Perniagaan Digital dan AI Tanpa Kawalan Ancam Keselamatan Kanak-Kanak dalam Talian

Amaran utama: satu generasi terdedah

Lebih daripada 82% remaja berusia 15 hingga 24 tahun kini berada dalam talian, dan mereka secara tidak seimbang terdedah kepada maklumat palsu, gangguan, berat sebelah algoritma, dan penyalahgunaan AI secara berniat jahat . Laporan ini memberi amaran bahawa peluang untuk bertindak semakin sempit: AI mendahului rangka kerja pengawalseliaan yang tidak pernah direka untuknya, memperkenalkan dan memburukkan risiko daripada kandungan sintetik kepada eksploitasi yang difasilitasi AI .

Model perniagaan: bahaya bukan satu kemalangan

Laporan ini membuat hujah yang tajam: bahaya yang dihadapi oleh golongan muda dalam talian bukan kemalangan. Ia adalah hasil langsung daripada model perniagaan yang mengaut keuntungan daripada perhatian dan data peribadi serta ciri reka bentuk yang dibina untuk memaksimumkan penglibatan dan perbelanjaan . Ia secara khusus menyebut "corak gelap" (dark patterns), kotak rampasan (loot boxes), dan taktik lain yang mendorong penggunaan kompulsif dalam kalangan kanak-kanak, yang tabiat dan identiti mereka masih dalam proses pembentukan . Laporan ini juga memberi amaran tentang taktik pengiklanan tersembunyi yang semakin berleluasa, mengeksploitasi kanak-kanak untuk meningkatkan perbelanjaan dalam talian .

Kecerdasan buatan: memburukkan risiko sedia ada

AI memburukkan risiko sedia ada lebih pantas daripada langkah perlindungan yang dapat mengimbasinya. Laporan ini mencatatkan risiko yang merangkumi kandungan yang dijana AI hingga eksploitasi yang difasilitasi AI . Setiausaha Agung PBB, António Guterres, dipetik secara langsung: "Tidak ada kanak-kanak yang harus menjadi tikus makmal untuk AI yang tidak dikawal selia... Apabila seorang kanak-kanak dicederakan, jawapannya tidak boleh sekali-kali 'algoritma yang melakukannya'" .

Penyertaan belia: bukan sekadar mangsa, tetapi pejuang

Laporan ini menegaskan bahawa kanak-kanak dan belia bukan hanya mangsa—mereka adalah pencipta, peguam bela, dan penganjur . Namun, perspektif mereka masih kurang diwakili dalam forum di mana dasar digubal dan dalam penyelidikan yang memaklumkan dasar tersebut . Laporan ini menekankan: "Melindungi mereka dan memasukkan mereka bukan matlamat yang bersaing. Kita harus melakukan kedua-duanya" .

Kepentingan mendesak hak kanak-kanak dalam tadbir urus AI

Laporan ini menyeru supaya hak kanak-kanak ditulis ke dalam rangka kerja tadbir urus AI sekarang, sementara undang-undang masih dibangunkan—memberi amaran bahawa "sebuah peluang yang tidak akan terbuka lama" semakin tertutup . Ia menggesa negara, syarikat teknologi, pengiklan, media, dan penyelidik untuk bekerjasama. Ia merujuk Gabungan untuk Hak dan Perlindungan Kanak-Kanak dalam Era Kecerdasan Buatan (Coalition for Children's Rights and Protection in the Age of Artificial Intelligence) dan seruan Setiausaha Agung untuk Ikrar Keselamatan AI untuk Kanak-Kanak (AI Child Safety Pledge) yang meliputi mana-mana sistem yang boleh dicapai oleh kanak-kanak .