ONZ ostrzega: Modele biznesowe i nieuregulowana AI napędzają kryzys bezpieczeństwa dzieci w sieci

Kluczowe ostrzeżenia: pokolenie na celowniku

Aż 82% osób w wieku 15–24 lat jest online, a ta grupa jest nieproporcjonalnie narażona na dezinformację, nękanie, algorytmiczne uprzedzenia oraz złośliwe wykorzystanie AI . Raport ostrzega, że okno na działanie zamyka się w zastraszającym tempie: AI wyprzedza ramy regulacyjne, które nigdy nie były projektowane z myślą o niej, wprowadzając i potęgując zagrożenia – od treści syntetycznych po wykorzystywanie z użyciem AI .

Modele biznesowe: krzywdy nie są przypadkowe

Raport stawia tezę, która może zaskakiwać: krzywdy, jakich doświadczają młodzi ludzie w sieci, nie są przypadkowe. Są bezpośrednim skutkiem modeli biznesowych, które monetyzują uwagę i dane osobowe, oraz funkcji projektowych nastawionych na maksymalizację zaangażowania i wydatków . Raport wprost wymienia „ciemne wzorce" (dark patterns), skrzynki z lootami i inne taktyki, które prowadzą do kompulsywnego korzystania z platform przez dzieci – a ich nawyki i tożsamość dopiero się kształtują . Ostrzega także przed coraz bardziej ukrytymi taktykami reklamowymi, które wykorzystują dzieci do zwiększania wydatków online .

Sztuczna inteligencja: potęgowanie istniejących zagrożeń

AI nie tworzy zagrożeń od zera – potęguje te już istniejące, i to szybciej, niż nadążają zabezpieczenia. Raport wymienia ryzyka od treści generowanych przez AI po wykorzystywanie z użyciem AI . Sekretarz Generalny ONZ António Guterres cytowany jest wprost: „Żadne dziecko nie powinno być królikiem doświadczalnym dla nieuregulowanej AI... Kiedy dziecko zostaje skrzywdzone, odpowiedzią nie może być «to wina algorytmu»" .

Uczestnictwo młodzieży: nie tylko ofiary, ale i orędownicy

Raport podkreśla, że dzieci i młodzież to nie tylko ofiary – to twórcy, orędownicy i organizatorzy . Jednak ich perspektywy pozostają niedoreprezentowane w gremiach, gdzie kształtuje się politykę, oraz w badaniach, które tę politykę informują . Raport jest jednoznaczny: „Ochrona i włączanie to nie sprzeczne cele. Musimy robić i jedno, i drugie" .

Pilna potrzeba wbudowania praw dzieci w zarządzanie AI

Raport wzywa do wpisania praw dzieci w ramy zarządzania AI już teraz, póki te przepisy są jeszcze tworzone – ostrzegając, że „okno, które nie pozostanie otwarte na długo" zamyka się . Apeluje do państw, firm technologicznych, reklamodawców, mediów i naukowców o wspólne działanie. Przywołuje Koalicję na rzecz Praw i Ochrony Dzieci w Erze Sztucznej Inteligencji oraz apel Sekretarza Generalnego o Przyrzeczenie Bezpieczeństwa AI dla Dzieci, które miałoby objąć każdy system, do którego dziecko może mieć dostęp .