Principais recomendações: regulamentar o design, não apenas o acesso

A estratégia da ONU vai além da questão binária de "a criança tem idade suficiente para usar um aplicativo?" e mira os mecanismos que tornam esses aplicativos perigosos. As recomendações se apoiam em quatro pilares:

Proibir o design exploratório, não apenas as crianças. A ONU pede a proibição de práticas abusivas, como funcionalidades de design viciante, sistemas de recomendação manipuladores e práticas extrativas de dados que têm crianças como alvo . Esses elementos de design, como a rolagem infinita, a reprodução automática e notificações constantes, são projetados para maximizar o engajamento às custas do bem-estar do usuário .

Tornar a segurança e a privacidade configurações padrão. Em vez de depender de uma moderação de conteúdo reativa após o dano já ter ocorrido, as diretrizes determinam que o design apropriado para cada idade, as proteções de privacidade e a segurança sejam incorporados às plataformas desde o início . Este princípio de "segurança desde o design" exige que as empresas antecipem e previnam os riscos antes mesmo de um produto ser lançado .

Aprovar uma legislação robusta e coordenada. A ONU exorta os Estados a promulgar e aplicar leis que combatam todas as formas de violência e crimes online contra crianças. Esses marcos legais devem ser integrados aos sistemas já existentes de proteção à infância, educação, saúde e justiça, para que a segurança digital não seja tratada como uma questão separada e isolada .

Responsabilizar as empresas de tecnologia. Uma mudança central nessas diretrizes é colocar o principal fardo da segurança sobre as plataformas que criam os riscos. "Isso significa banir práticas exploratórias, regulamentar funcionalidades de risco... e exigir privacidade, segurança e design apropriado para a idade como requisito básico", afirma a orientação, rejeitando a ideia de que as famílias devam policiar sozinhas um ambiente perigoso .

Por que Volker Türk se posicionou contra as proibições generalizadas

À medida que países como a Austrália aprovavam leis para bloquear o acesso de menores de 16 anos às principais plataformas, Türk posicionou a nova orientação da ONU como um contraponto direto a essa abordagem. Ele não defendeu uma internet sem lei para os jovens, mas explicou por que as restrições de acesso, quando usadas como principal ferramenta política, representam uma falha de imaginação e de regulação.

O dano é uma escolha de design. Türk foi explícito ao afirmar que os abusos online e os impactos na saúde mental não são acidentais. Eles "resultam de escolhas de design e práticas comerciais que comprometem a segurança, incluindo recursos viciantes como rolagem infinita, reprodução automática e notificações constantes de aplicativos", declarou . Se o perigo é fabricado pelo produto, raciocinou ele, simplesmente remover o usuário não conserta o produto — apenas transfere o risco de lugar.

Proibições podem sair pela culatra. As diretrizes alertam que restrições de idade e proibições generalizadas não resolvem as funcionalidades perigosas subjacentes e podem ser contraproducentes, empurrando as crianças para cantos da internet menos seguros e não regulamentados . O UNICEF já havia advertido que "proibições de redes sociais trazem seus próprios riscos e podem, inclusive, sair pela culatra", cortando o acesso dos jovens a redes de apoio e informações vitais, sem tornar mais seguros os espaços não regulados para onde eles migram .

O ônus deve recair sobre a indústria. "A prioridade deve ser responsabilizar as empresas de tecnologia, não banir as crianças do mundo digital", afirma a orientação da ONU . Türk insistiu que os Estados devem usar seu poder regulatório para forçar as gigantes da tecnologia a incorporar a segurança infantil em suas plataformas desde o design, em vez de deixar que pais e crianças tentem sobreviver em um cenário digital hostil . "Proibições generalizadas de redes sociais não são uma panaceia única para o que é uma questão multifacetada", disse ele, exigindo responsabilização sistêmica em vez de um simplório controle de acesso .

Como a segurança desde o design funciona na prática

O modelo alternativo oferecido pela ONU exige que as empresas realizem avaliações de impacto sobre os direitos das crianças, estabeleçam mecanismos de execução eficazes e garantam uma supervisão independente de seus sistemas . Isso significa que os algoritmos devem ser auditados para verificar como entregam conteúdo a menores de idade, as configurações padrão de privacidade devem ser travadas em seu nível mais alto, e ciclos de engajamento lucrativos — como a rolagem infinita — devem ser desmontados onde comprovadamente causam danos. A abordagem visa proteger todas as crianças, sem exceção, alterando fundamentalmente a arquitetura das plataformas que elas usam.

Principais recomendações: regulamentar o design, não apenas o acesso

A estratégia da ONU vai além da questão binária de "a criança tem idade suficiente para usar um aplicativo?" e mira os mecanismos que tornam esses aplicativos perigosos. As recomendações se apoiam em quatro pilares:

Proibir o design exploratório, não apenas as crianças. A ONU pede a proibição de práticas abusivas, como funcionalidades de design viciante, sistemas de recomendação manipuladores e práticas extrativas de dados que têm crianças como alvo . Esses elementos de design, como a rolagem infinita, a reprodução automática e notificações constantes, são projetados para maximizar o engajamento às custas do bem-estar do usuário .

Tornar a segurança e a privacidade configurações padrão. Em vez de depender de uma moderação de conteúdo reativa após o dano já ter ocorrido, as diretrizes determinam que o design apropriado para cada idade, as proteções de privacidade e a segurança sejam incorporados às plataformas desde o início . Este princípio de "segurança desde o design" exige que as empresas antecipem e previnam os riscos antes mesmo de um produto ser lançado .

Aprovar uma legislação robusta e coordenada. A ONU exorta os Estados a promulgar e aplicar leis que combatam todas as formas de violência e crimes online contra crianças. Esses marcos legais devem ser integrados aos sistemas já existentes de proteção à infância, educação, saúde e justiça, para que a segurança digital não seja tratada como uma questão separada e isolada .

Responsabilizar as empresas de tecnologia. Uma mudança central nessas diretrizes é colocar o principal fardo da segurança sobre as plataformas que criam os riscos. "Isso significa banir práticas exploratórias, regulamentar funcionalidades de risco... e exigir privacidade, segurança e design apropriado para a idade como requisito básico", afirma a orientação, rejeitando a ideia de que as famílias devam policiar sozinhas um ambiente perigoso .

Por que Volker Türk se posicionou contra as proibições generalizadas

À medida que países como a Austrália aprovavam leis para bloquear o acesso de menores de 16 anos às principais plataformas, Türk posicionou a nova orientação da ONU como um contraponto direto a essa abordagem. Ele não defendeu uma internet sem lei para os jovens, mas explicou por que as restrições de acesso, quando usadas como principal ferramenta política, representam uma falha de imaginação e de regulação.

O dano é uma escolha de design. Türk foi explícito ao afirmar que os abusos online e os impactos na saúde mental não são acidentais. Eles "resultam de escolhas de design e práticas comerciais que comprometem a segurança, incluindo recursos viciantes como rolagem infinita, reprodução automática e notificações constantes de aplicativos", declarou . Se o perigo é fabricado pelo produto, raciocinou ele, simplesmente remover o usuário não conserta o produto — apenas transfere o risco de lugar.

Proibições podem sair pela culatra. As diretrizes alertam que restrições de idade e proibições generalizadas não resolvem as funcionalidades perigosas subjacentes e podem ser contraproducentes, empurrando as crianças para cantos da internet menos seguros e não regulamentados . O UNICEF já havia advertido que "proibições de redes sociais trazem seus próprios riscos e podem, inclusive, sair pela culatra", cortando o acesso dos jovens a redes de apoio e informações vitais, sem tornar mais seguros os espaços não regulados para onde eles migram .

O ônus deve recair sobre a indústria. "A prioridade deve ser responsabilizar as empresas de tecnologia, não banir as crianças do mundo digital", afirma a orientação da ONU . Türk insistiu que os Estados devem usar seu poder regulatório para forçar as gigantes da tecnologia a incorporar a segurança infantil em suas plataformas desde o design, em vez de deixar que pais e crianças tentem sobreviver em um cenário digital hostil . "Proibições generalizadas de redes sociais não são uma panaceia única para o que é uma questão multifacetada", disse ele, exigindo responsabilização sistêmica em vez de um simplório controle de acesso .

Como a segurança desde o design funciona na prática

O modelo alternativo oferecido pela ONU exige que as empresas realizem avaliações de impacto sobre os direitos das crianças, estabeleçam mecanismos de execução eficazes e garantam uma supervisão independente de seus sistemas . Isso significa que os algoritmos devem ser auditados para verificar como entregam conteúdo a menores de idade, as configurações padrão de privacidade devem ser travadas em seu nível mais alto, e ciclos de engajamento lucrativos — como a rolagem infinita — devem ser desmontados onde comprovadamente causam danos. A abordagem visa proteger todas as crianças, sem exceção, alterando fundamentalmente a arquitetura das plataformas que elas usam.