Podnikatelské modely a neregulovaná AI ničí dětství, varuje OSN. Okno pro nápravu se zavírá

Varování: generace vystavená na pospas

Více než 82 % mladých lidí ve věku 15–24 let je dnes online. Jsou nepoměrně více vystaveni dezinformacím, obtěžování, algoritmickému zkreslení a zneužívání umělé inteligence . Zpráva důrazně upozorňuje, že čas na nápravu se krátí: AI předbíhá veškeré regulační rámce, které na tuto technologii nikdy nebyly stavěny, a vytváří zcela nová rizika – od syntetického obsahu až po zneužívání s pomocí AI .

Obchodní modely: újma není náhoda

Zpráva přichází s klíčovým argumentem: problémy, které děti na internetu zažívají, nejsou náhodné. Jsou přímým důsledkem obchodních modelů, které staví na maximalizaci pozornosti a prodeji osobních údajů, a designových prvků vytvořených k udržení uživatele na obrazovce a k podpoře utrácení . Otevřeně pojmenovává „dark patterns“ (návodné prvky rozhraní), loot boxy (virtuální bedny s náhodným obsahem) a další praktiky, které u dětí vyvolávají nutkavé používání – v době, kdy se teprve formují jejich návyky a identita . Zpráva také varuje před stále skrytější reklamou, která zneužívá dětí k navyšování online výdajů .

Umělá inteligence: katalyzátor starých i nových hrozeb

Umělá inteligence staré problémy násobí a zároveň vytváří nové – a ochranné mechanismy nestíhají držet krok. Zpráva zmiňuje celou škálu rizik, od obsahu generovaného AI až po zneužívání páchané s její pomocí . Generální tajemník OSN António Guterres je citován přímo: „Žádné dítě by nemělo být pokusným králíkem neregulované umělé inteligence… Když je dítě zraněno, odpověď nikdy nesmí znít ‚udělal to algoritmus‘“ .

Mladí nejsou jen oběti, ale i strůjci změny

Děti a mladí lidé nejsou pouze oběťmi – jsou to tvůrci, aktivisté a iniciátoři . Jejich názory a zkušenosti však zůstávají nedostatečně zastoupeny v debatách o digitálních politikách a ve výzkumu, který je má podložit . Zpráva v této souvislosti důrazně uvádí: „Chránit je a zapojovat je nejsou protichůdné cíle. Musíme dělat obojí“ .

Naléhavost: zakotvit práva dětí do AI governance hned teď

Zpráva vyzývá, aby práva dětí byla napsána do rámců pro správu umělé inteligence bezodkladně – nyní, dokud se tyto zákony teprve vytvářejí. Varuje, že „okno, které nezůstane otevřené dlouho“, se pomalu zavírá . Vyzývá státy, technologické firmy, inzerenty, média i výzkumníky ke společné akci. Odkazuje přitom na Koalici pro práva dětí a jejich ochranu ve věku umělé inteligence (Coalition for Children's Rights and Protection in the Age of AI) a na výzvu generálního tajemníka k vytvoření AI Child Safety Pledge (Závazku bezpečnosti dětí v AI), který by se vztahoval na jakýkoli systém, k němuž může mít dítě přístup .