Algoritmo da Uber leva a multa recorde

Um motorista abre a aplicação da Uber de manhã e descobre que a conta foi bloqueada. O sistema assinalou alguma coisa: talvez um percurso considerado anómalo, lido como tentativa de inflacionar a tarifa, talvez uma sequência de avaliações baixas de passageiros. Não houve aviso formal, telefonema, nem uma pessoa a olhar para o caso antes da decisão. Apenas um ecrã a dizer que hoje não pode trabalhar.

É este o mecanismo que está no centro da multa de 825 milhões de euros aplicada esta semana à Uber pela Autoridade neerlandesa de Proteção de Dados (AP), a segunda maior sanção de sempre ao abrigo da legislação europeia de privacidade, atrás da coima de 1,2 mil milhões de euros imposta à Meta em 2023 (Reuters via Yahoo Finance, DutchNews). O regulador concluiu que a Uber usou software para suspender ou afastar definitivamente motoristas na Europa sem lhes dar informação suficiente nem uma revisão humana efetiva (NOS, Euractiv).

A lei que impede um computador de decidir sozinho

O princípio jurídico está no artigo 22.º do RGPD, o Regulamento Geral sobre a Proteção de Dados da União Europeia. A norma dá às pessoas o direito de não ficarem sujeitas a decisões tomadas apenas por software quando essas decisões tenham efeitos relevantes na sua vida (texto oficial do RGPD). Uma recomendação personalizada de publicidade não chega a esse limiar. Cortar o rendimento de alguém chega.

A fronteira é relativamente simples. Abaixo dela, o software pode ordenar viagens, detetar padrões ou sinalizar comportamentos suspeitos. Acima dela, quando está em causa o rendimento ou a posição jurídica de uma pessoa, o RGPD exige três garantias: alguém tem de rever realmente o caso, a pessoa afetada tem de saber que dados e que lógica conduziram à decisão, e deve existir uma forma útil de a contestar (texto oficial do RGPD, orientações subscritas pelo Comité Europeu para a Proteção de Dados). «Revisão humana» não significa um funcionário carregar em «confirmar» num painel informático. As orientações dos reguladores especificam que quem revê deve compreender o resultado produzido pelo sistema, ter acesso aos dados subjacentes e poder alterar a decisão (orientações subscritas pelo Comité Europeu para a Proteção de Dados).

A vice-presidente da AP, Monique Verdier, resumiu o caso de forma direta: os motoristas eram tornados inativos sem aviso, e um computador não deve tomar sozinho decisões com consequências graves antes de uma pessoa as avaliar (Xinhua).

Motoristas franceses, multa neerlandesa

O processo começou com queixas de motoristas franceses da Uber, ao que tudo indica envolvendo 171 queixosos, embora a queixa original não tenha surgido publicamente (Boursorama/AFP, Le Figaro/AFP). Pelas regras do RGPD, nos casos transfronteiriços o regulador principal é normalmente o do país onde a empresa tem a sede europeia. Como a Uber está sediada em Amesterdão, a autoridade neerlandesa assumiu o processo; daí que uma queixa de motoristas em França tenha produzido uma decisão com alcance europeu (NRC).

Segundo a AP, os sistemas da Uber sinalizavam motoristas por suspeitas de fraude ou avaliações baixas e suspendiam contas sem explicação adequada nem um meio eficaz de contestação. A Uber contesta partes centrais desta leitura: afirma que as desativações permanentes não eram totalmente automatizadas e que apenas 126 motoristas europeus foram desativados em 2021 por avaliações baixas de clientes (Reuters via Yahoo Finance, Quartz). A empresa considera a multa «desproporcionada», diz que as práticas investigadas foram abandonadas há vários anos e confirma que irá recorrer (Bloomberg via Yahoo Finance).

O montante pode mudar, o princípio não

O recurso significa que os 825 milhões de euros ainda não são definitivos. Os tribunais poderão confirmar, reduzir ou anular a sanção. A decisão integral da AP ainda não tinha sido publicada quando a notícia foi conhecida, pelo que o cálculo exato da coima continua por esclarecer (Boursorama/AFP). A anterior multa neerlandesa de 290 milhões de euros aplicada à Uber pela transferência de dados de motoristas para os Estados Unidos terá ficado suspensa durante o recurso, o que sugere que o mesmo poderá acontecer agora (DutchNews).

O sinal político e regulatório ultrapassa a Uber. Milhões de trabalhadores de plataformas dependem hoje de software, e não de um gestor identificável, para saberem se podem ganhar dinheiro num determinado dia. O RGPD já está a ser usado para fiscalizar a gestão algorítmica do trabalho, mesmo antes de instrumentos mais recentes, como o Regulamento Europeu da Inteligência Artificial, que classifica a IA no local de trabalho como sistema de alto risco, ou a Diretiva do Trabalho em Plataformas, que dará aos trabalhadores direitos mais fortes para contestarem decisões automatizadas, se tornarem o principal campo de disputa (Deutschlandfunk, Regulamento da IA, Regulamento 2024/1689). Todos apontam na mesma direção: o software pode apoiar uma decisão laboral, mas não pode ser o único responsável por ela.

Para quem depende de uma plataforma para obter rendimento, a consequência prática já é clara. Se um algoritmo bloquear uma conta, há direito a saber que dados e que lógica foram usados, a ter uma pessoa real a rever a decisão e a contestá-la. Quer os tribunais venham a fazer a Uber pagar 825 milhões ou 82 milhões de euros por ignorar esses direitos, os direitos em si não vão desaparecer.