A investigação não tratou apenas do uso de algoritmos para identificar possíveis irregularidades. Os sistemas da Uber podiam desencadear medidas contra motoristas em situações como suspeita de fraude em tarifas, supostos desvios desnecessários para aumentar o valor da corrida, viagens aceitas que os motoristas alegadamente não concluíram e avaliações baixas de clientes. Essas medidas podiam restringir ou encerrar o acesso do motorista à plataforma — e, consequentemente, sua possibilidade de obter renda por meio dela.

Pelas regras do GDPR sobre decisões automatizadas, uma pessoa não deve ficar sujeita a uma decisão tomada exclusivamente por processamento automatizado quando ela produz efeitos significativos, a menos que existam salvaguardas apropriadas. Entre elas estão a intervenção humana efetiva, a possibilidade de apresentar sua versão dos fatos e um meio de contestar a decisão.

A conclusão da autoridade, segundo os relatos sobre a decisão, foi que o processo da Uber não oferecia essas proteções de maneira adequada. Avisar o motorista depois que o algoritmo já tomou a decisão não basta se ele não consegue entender o que aconteceu nem obter uma reavaliação independente e genuína.

Por que um “humano no circuito” não foi suficiente

A diferença decisiva está entre uma pessoa capaz de reexaminar as evidências de forma independente e alguém que apenas confirma o resultado produzido pelo sistema. Em um caso relacionado, o Tribunal de Apelação de Amsterdã concluiu que as revisões humanas apresentadas pela Uber eram meramente simbólicas e rejeitou a ideia de um “humano no circuito” apenas nominal.

Essa decisão anterior ajuda a explicar a importância jurídica da nova medida da AP. A participação humana precisa ter condições reais de alterar o resultado; não pode ser uma etapa burocrática que deixe a decisão do algoritmo praticamente intocada. Além disso, os motoristas devem receber informações suficientes para contestar a medida de forma significativa.

O que os motoristas supostamente não foram informados

De acordo com reportagens baseadas na decisão do regulador, a Uber não informou adequadamente aos motoristas afetados que processos automatizados eram usados para gerar suspensões ou desativações. Essa falta de transparência era relevante porque dificultava entender por que o acesso havia sido perdido e como contestar a decisão original.

O caso envolve, portanto, dois problemas de conformidade relacionados:

• O problema da decisão: o processamento automatizado podia gerar consequências importantes sem intervenção humana adequada.
• O problema da transparência: os motoristas não eram informados de maneira suficiente sobre o processo automatizado e seus efeitos.

A discussão não se resume ao resultado final, mas também ao caminho usado para chegar até ele. Quando um sistema ameaça a fonte de renda de alguém, a empresa precisa explicar não só qual medida tomou, mas também como a pessoa pode conseguir uma revisão verdadeira.

Por que a autoridade holandesa analisou uma reclamação francesa

A reclamação teve origem na França, mas o caso transfronteiriço foi conduzido pela AP porque a sede europeia da Uber fica nos Países Baixos. Pelo mecanismo de “balcão único” do GDPR, a autoridade de proteção de dados do país onde a empresa mantém seu principal estabelecimento na União Europeia geralmente lidera as investigações que atravessam fronteiras, enquanto outros reguladores nacionais relevantes podem participar.

O objetivo é evitar que uma multinacional seja submetida a investigações principais totalmente separadas em cada país europeu afetado por suas práticas. É por isso que uma queixa apresentada por motoristas franceses pode resultar em uma decisão da autoridade holandesa.

Como a Uber reagiu

A Uber disse que recorrerá da decisão e classificou a multa como desproporcional. A empresa afirma que oferece revisão humana e o direito de contestar suspensões. Também declarou que as suspensões relacionadas a suspeitas de fraude eram temporárias e negou que contas tenham sido desativadas permanentemente apenas por meio de automação.

A empresa acrescentou que atualmente não toma decisões de desativação permanente baseadas exclusivamente em sistemas automatizados. Essas declarações representam a posição da Uber; a penalidade da AP diz respeito às práticas examinadas no período relevante, principalmente entre 2020 e 2022.

O que o caso sinaliza sobre a gestão por algoritmos

A decisão mostra por que a chamada gestão algorítmica está se tornando uma questão importante de privacidade e trabalho na Europa. Os sistemas analisados não serviam apenas para recomendar anúncios ou organizar dados rotineiros de clientes. Eles podiam determinar se um trabalhador continuaria tendo acesso a uma plataforma que lhe fornecia renda.

A principal lição de conformidade é que uma política de “revisão humana” provavelmente não basta se os responsáveis pela análise não puderem examinar os fatos de forma independente, ouvir a explicação do afetado e reverter o resultado automatizado. Empresas que usam sistemas automáticos para admissão de trabalhadores, detecção de fraude, restrições de contas ou desativações precisam considerar transparência e possibilidade de contestação no momento em que essas ferramentas passam a afetar a subsistência de uma pessoa.

O caso também se soma ao histórico mais amplo da Uber com o GDPR nos Países Baixos. Em 2024, a autoridade holandesa aplicou separadamente uma multa de €290 milhões à empresa por transferir para os Estados Unidos dados pessoais de motoristas europeus. Já a multa de €1,2 bilhão contra a Meta tratou da transferência de dados de usuários europeus do Facebook para os EUA, e não de decisões de gestão de trabalhadores.

Por enquanto, o valor de €825 milhões continua sujeito ao recurso da Uber. Mas a mensagem central já está dada: sob o GDPR, a gestão automatizada não pode funcionar como uma caixa-preta quando suas decisões podem tirar de alguém o acesso ao trabalho.

A investigação não tratou apenas do uso de algoritmos para identificar possíveis irregularidades. Os sistemas da Uber podiam desencadear medidas contra motoristas em situações como suspeita de fraude em tarifas, supostos desvios desnecessários para aumentar o valor da corrida, viagens aceitas que os motoristas alegadamente não concluíram e avaliações baixas de clientes. Essas medidas podiam restringir ou encerrar o acesso do motorista à plataforma — e, consequentemente, sua possibilidade de obter renda por meio dela.

Pelas regras do GDPR sobre decisões automatizadas, uma pessoa não deve ficar sujeita a uma decisão tomada exclusivamente por processamento automatizado quando ela produz efeitos significativos, a menos que existam salvaguardas apropriadas. Entre elas estão a intervenção humana efetiva, a possibilidade de apresentar sua versão dos fatos e um meio de contestar a decisão.

A conclusão da autoridade, segundo os relatos sobre a decisão, foi que o processo da Uber não oferecia essas proteções de maneira adequada. Avisar o motorista depois que o algoritmo já tomou a decisão não basta se ele não consegue entender o que aconteceu nem obter uma reavaliação independente e genuína.

Por que um “humano no circuito” não foi suficiente

A diferença decisiva está entre uma pessoa capaz de reexaminar as evidências de forma independente e alguém que apenas confirma o resultado produzido pelo sistema. Em um caso relacionado, o Tribunal de Apelação de Amsterdã concluiu que as revisões humanas apresentadas pela Uber eram meramente simbólicas e rejeitou a ideia de um “humano no circuito” apenas nominal.

Essa decisão anterior ajuda a explicar a importância jurídica da nova medida da AP. A participação humana precisa ter condições reais de alterar o resultado; não pode ser uma etapa burocrática que deixe a decisão do algoritmo praticamente intocada. Além disso, os motoristas devem receber informações suficientes para contestar a medida de forma significativa.

O que os motoristas supostamente não foram informados

De acordo com reportagens baseadas na decisão do regulador, a Uber não informou adequadamente aos motoristas afetados que processos automatizados eram usados para gerar suspensões ou desativações. Essa falta de transparência era relevante porque dificultava entender por que o acesso havia sido perdido e como contestar a decisão original.

O caso envolve, portanto, dois problemas de conformidade relacionados:

• O problema da decisão: o processamento automatizado podia gerar consequências importantes sem intervenção humana adequada.
• O problema da transparência: os motoristas não eram informados de maneira suficiente sobre o processo automatizado e seus efeitos.

A discussão não se resume ao resultado final, mas também ao caminho usado para chegar até ele. Quando um sistema ameaça a fonte de renda de alguém, a empresa precisa explicar não só qual medida tomou, mas também como a pessoa pode conseguir uma revisão verdadeira.

Por que a autoridade holandesa analisou uma reclamação francesa

A reclamação teve origem na França, mas o caso transfronteiriço foi conduzido pela AP porque a sede europeia da Uber fica nos Países Baixos. Pelo mecanismo de “balcão único” do GDPR, a autoridade de proteção de dados do país onde a empresa mantém seu principal estabelecimento na União Europeia geralmente lidera as investigações que atravessam fronteiras, enquanto outros reguladores nacionais relevantes podem participar.

O objetivo é evitar que uma multinacional seja submetida a investigações principais totalmente separadas em cada país europeu afetado por suas práticas. É por isso que uma queixa apresentada por motoristas franceses pode resultar em uma decisão da autoridade holandesa.

Como a Uber reagiu

A Uber disse que recorrerá da decisão e classificou a multa como desproporcional. A empresa afirma que oferece revisão humana e o direito de contestar suspensões. Também declarou que as suspensões relacionadas a suspeitas de fraude eram temporárias e negou que contas tenham sido desativadas permanentemente apenas por meio de automação.

A empresa acrescentou que atualmente não toma decisões de desativação permanente baseadas exclusivamente em sistemas automatizados. Essas declarações representam a posição da Uber; a penalidade da AP diz respeito às práticas examinadas no período relevante, principalmente entre 2020 e 2022.

O que o caso sinaliza sobre a gestão por algoritmos

A decisão mostra por que a chamada gestão algorítmica está se tornando uma questão importante de privacidade e trabalho na Europa. Os sistemas analisados não serviam apenas para recomendar anúncios ou organizar dados rotineiros de clientes. Eles podiam determinar se um trabalhador continuaria tendo acesso a uma plataforma que lhe fornecia renda.

A principal lição de conformidade é que uma política de “revisão humana” provavelmente não basta se os responsáveis pela análise não puderem examinar os fatos de forma independente, ouvir a explicação do afetado e reverter o resultado automatizado. Empresas que usam sistemas automáticos para admissão de trabalhadores, detecção de fraude, restrições de contas ou desativações precisam considerar transparência e possibilidade de contestação no momento em que essas ferramentas passam a afetar a subsistência de uma pessoa.

O caso também se soma ao histórico mais amplo da Uber com o GDPR nos Países Baixos. Em 2024, a autoridade holandesa aplicou separadamente uma multa de €290 milhões à empresa por transferir para os Estados Unidos dados pessoais de motoristas europeus. Já a multa de €1,2 bilhão contra a Meta tratou da transferência de dados de usuários europeus do Facebook para os EUA, e não de decisões de gestão de trabalhadores.

Por enquanto, o valor de €825 milhões continua sujeito ao recurso da Uber. Mas a mensagem central já está dada: sob o GDPR, a gestão automatizada não pode funcionar como uma caixa-preta quando suas decisões podem tirar de alguém o acesso ao trabalho.