BM'den Sert Uyarı: Çocuklar İçin Çevrimiçi Kriz Derinleşiyor

Ana Uyarılar: Tehlike Altındaki Bir Nesil

15-24 yaş arasındakilerin %82'sinden fazlası çevrimiçi durumda ve bu grup orantısız bir şekilde dezenformasyon, taciz, algoritmik önyargılar ve yapay zekanın kötüye kullanımına maruz kalıyor . Rapor, harekete geçmek için zamanın hızla tükendiği uyarısında bulunuyor: Yapay zeka, hiçbir zaman onun için tasarlanmamış olan düzenleyici çerçevelerin önüne geçiyor ve sentetik içerikten yapay zeka destekli istismara kadar bir dizi yeni riski beraberinde getiriyor .

İş Modelleri: Zararlar Tesadüf Değil

Rapor, gençlerin çevrimiçi yaşadığı zararların tesadüf olmadığını açıkça ifade ediyor. Bu zararlar, dikkati ve kişisel verileri metalaştıran iş modellerinin ve etkileşimi ve harcamayı en üst düzeye çıkarmak için tasarlanmış özelliklerin doğrudan bir ürünü . Raporda özellikle "karanlık desenler" (karanlık kalıplar) ve oyun içi "ganimet kutuları" gibi, alışkanlıkları ve kimlikleri henüz oluşma aşamasındaki çocuklarda zorlayıcı kullanıma yol açan taktiklere dikkat çekiliyor . Ayrıca, çocukları çevrimiçi harcamaları artırmak için sömüren giderek daha gizli reklam taktikleri konusunda da uyarıda bulunuluyor .

Yapay Zeka: Mevcut Riskleri Derinleştiriyor

Yapay zeka, mevcut riskleri, güvenlik önlemlerinin başa çıkabileceğinden çok daha hızlı bir şekilde ağırlaştırıyor. Raporda, yapay zeka tarafından üretilen içerikten yapay zeka destekli istismara kadar bir dizi risk sıralanıyor . BM Genel Sekreteri António Guterres'in bu konudaki sözleri rapora doğrudan alıntılanmış durumda: "Hiçbir çocuk, denetimsiz yapay zeka için kobay olmamalıdır… Bir çocuk zarar gördüğünde, verilecek cevap asla 'algoritma öyle yaptı' olmamalıdır" .

Genç Katılımı: Sadece Kurban Değil, Aynı Zamanda Savunucular

Rapor, çocukların ve gençlerin yalnızca mağdur olmadıklarını, aynı zamanda yaratıcı, savunucu ve düzenleyici olduklarını vurguluyor . Ancak, politikaların şekillendirildiği forumlarda ve bu politikalara temel oluşturan araştırmalarda onların bakış açıları yeterince temsil edilmiyor . Rapor bu noktada net bir mesaj veriyor: "Onları korumak ve dahil etmek birbiriyle rekabet eden hedefler değildir. İkisini de yapmak zorundayız" .

Çocuk Haklarını Yapay Zeka Yönetişimine Entegre Etmenin Aciliyeti

Rapor, çocuk haklarının henüz geliştirilmekte olan yapay zeka yönetişim çerçevelerine şimdi yazılması çağrısında bulunarak, "uzun süre açık kalmayacak bir pencerenin" kapandığı uyarısını yapıyor . Devletlere, teknoloji şirketlerine, reklamverenlere, medyaya ve araştırmacılara birlikte hareket etme çağrısı yapan rapor, Yapay Zeka Çağında Çocuk Hakları ve Korunması Koalisyonu'na ve Genel Sekreter'in bir çocuğun erişebileceği her sistemi kapsayan bir Yapay Zeka Çocuk Güvenliği Taahhüdü çağrısına atıfta bulunuyor .