PBB Beri Peringatan Keras: Model Bisnis dan AI Tak Terkendali Memicu Krisis Online pada Anak

Peringatan Kunci: Satu Generasi yang Terbuka

Lebih dari 82% anak muda berusia 15 hingga 24 tahun sudah terhubung ke internet, dan mereka secara tidak proporsional terpapar pada disinformasi, perundungan (cyberbullying), bias algoritma, serta penyalahgunaan AI . Laporan ini memperingatkan bahwa waktu untuk bertindak semakin sempit: AI berkembang jauh lebih cepat daripada kerangka regulasi yang ada, yang pada awalnya tidak dirancang untuk teknologi ini, sehingga memunculkan dan memperparah risiko mulai dari konten sintetis hingga eksploitasi yang difasilitasi AI .

Model Bisnis: Bahaya Bukan Hal yang Tidak Disengaja

Poin penting dalam laporan ini adalah: bahaya yang dihadapi anak-anak di dunia maya bukanlah kebetulan. Ini adalah hasil langsung dari model bisnis yang mencari untung dari perhatian dan data pribadi serta fitur desain yang sengaja dibuat untuk memaksimalkan interaksi dan pengeluaran . Laporan ini secara spesifik menyorot "dark patterns" (pola gelap), kotak loot (loot box) dalam game, dan taktik lain yang mendorong penggunaan kompulsif pada anak-anak, yang kebiasaan dan identitasnya masih dalam masa pembentukan . Laporan ini juga memperingatkan tentang taktik iklan tersembunyi yang semakin marak, yang mengeksploitasi anak-anak untuk meningkatkan belanja online .

Kecerdasan Buatan: Memperparah Risiko yang Sudah Ada

AI memperparah risiko-risiko yang sudah ada jauh lebih cepat daripada kemampuan sistem perlindungan untuk mengimbanginya. Laporan ini menyebutkan risiko mulai dari konten buatan AI hingga eksploitasi yang difasilitasi AI . Sekretaris Jenderal PBB, António Guterres, dikutip langsung mengatakan: "Tidak boleh ada anak yang dijadikan kelinci percobaan untuk AI yang tidak diatur… Saat seorang anak terluka, jawabannya tidak boleh pernah 'itu ulah algoritmanya'" .

Partisipasi Anak Muda: Bukan Sekadar Korban, Tapi Juga Advokat

Laporan ini menegaskan bahwa anak-anak dan remaja bukan hanya korban — mereka juga adalah kreator, advokat, dan penggerak . Namun, perspektif mereka masih kurang terwakili dalam forum-forum di mana kebijakan dibentuk dan dalam riset yang mendasari kebijakan tersebut . Laporan ini menekankan: "Melindungi mereka dan mengikutsertakan mereka bukanlah dua tujuan yang saling bertentangan. Kita harus melakukan keduanya" .

Urgensi Memasukkan Hak Anak ke dalam Tata Kelola AI

Laporan ini menyerukan agar hak-hak anak segera dituliskan ke dalam kerangka tata kelola AI, selagi undang-undang tersebut masih dalam tahap pengembangan — dengan peringatan bahwa "jendela yang tidak akan terbuka lama" semakin menutup . PBB mendesak negara-negara anggota, perusahaan teknologi, pengiklan, media, dan peneliti untuk bertindak bersama. Laporan ini juga merujuk pada Koalisi untuk Hak dan Perlindungan Anak di Era Kecerdasan Buatan (Coalition for Children's Rights and Protection in the Age of Artificial Intelligence) dan seruan Sekretaris Jenderal PBB untuk Janji Keamanan AI untuk Anak (AI Child Safety Pledge) yang mencakup sistem apa pun yang dapat diakses oleh anak .