Uber krijgt €825 million algoritmeboete

Een chauffeur opent 's ochtends de Uber-app en ziet dat zijn account is geblokkeerd. De software van het platform heeft iets verdachts gezien: misschien een ongebruikelijke route die als ritprijsopdrijving werd gelezen, misschien een reeks lage beoordelingen van passagiers. Geen waarschuwingsbrief, geen telefoontje, geen medewerker die het dossier heeft bekeken. Alleen een scherm dat meldt dat er vandaag niet gewerkt kan worden.

Precies dat mechanisme ligt onder de boete van € 825 miljoen die de Autoriteit Persoonsgegevens (AP) Uber deze week heeft opgelegd. Het is de op een na hoogste sanctie ooit onder de Europese privacywetgeving, na de boete van € 1,2 miljard voor Meta in 2023 (Reuters via Yahoo Finance, DutchNews). Volgens de toezichthouder gebruikte Uber software om chauffeurs in Europa tijdelijk of permanent van het platform te halen, zonder hun voldoende informatie te geven en zonder echte menselijke beoordeling (NOS, Euractiv).

De wet die zegt dat een computer niet alleen mag beslissen

De juridische kern is artikel 22 van de AVG, de Europese privacyverordening. Die bepaling geeft mensen het recht om niet te worden onderworpen aan besluiten die uitsluitend door software worden genomen, wanneer zulke besluiten grote gevolgen hebben voor hun leven (GDPR official text). Een gepersonaliseerde advertentie valt daar niet onder. Iemands inkomen afsnijden wel.

De grens is vrij scherp. Onder die grens mag software ritten rangschikken of patronen signaleren. Boven die grens, wanneer inkomen of rechtspositie in het geding is, eist de AVG drie dingen: een mens moet de zaak daadwerkelijk beoordelen, de betrokkene moet weten welke gegevens en welke logica tot het besluit hebben geleid, en er moet een bruikbare manier zijn om bezwaar te maken (GDPR official text, EDPB-endorsed guidance). "Menselijke beoordeling" betekent overigens niet dat een medewerker op een dashboard op "bevestigen" klikt. Volgens de richtsnoeren moet de beoordelaar de uitkomst van de software begrijpen, de onderliggende gegevens kunnen zien en de bevoegdheid hebben om het besluit terug te draaien (EDPB-endorsed guidance).

AP-vicevoorzitter Monique Verdier vatte het nuchter samen: chauffeurs werden zonder waarschuwing op non-actief gezet, terwijl een computer niet zelfstandig besluiten met grote gevolgen hoort te nemen voordat een mens ernaar heeft gekeken (Xinhua).

Franse chauffeurs, Nederlandse boete

De zaak begon met klachten van Franse Uber-chauffeurs. Volgens berichtgeving ging het om 171 klagers, al is de oorspronkelijke klacht niet openbaar opgedoken (Boursorama/AFP, Le Figaro/AFP). Onder de AVG leidt meestal de toezichthouder van het land waar een bedrijf zijn Europese hoofdkantoor heeft grensoverschrijdende zaken. Omdat Uber in Amsterdam is gevestigd, kwam de Nederlandse AP aan zet. Zo leidde een klacht van chauffeurs in Frankrijk tot een handhavingsbesluit voor heel Europa (NRC).

Volgens de AP markeerden Ubers systemen chauffeurs wegens vermoedelijke fraude of lage beoordelingen, waarna accounts werden geschorst zonder voldoende uitleg of effectieve bezwaarroute. Uber bestrijdt belangrijke onderdelen van dat oordeel. Het bedrijf zegt dat permanente deactiveringen niet volledig geautomatiseerd waren en dat in 2021 slechts 126 Europese chauffeurs vanwege lage klantbeoordelingen van het platform zijn gehaald (Reuters via Yahoo Finance, Quartz). Uber noemt de boete "disproportioneel", stelt dat de onderzochte praktijken jaren geleden zijn stopgezet en heeft aangekondigd in beroep te gaan (Bloomberg via Yahoo Finance).

Het bedrag kan veranderen, het principe niet

Door het beroep staat de boete van € 825 miljoen nog niet vast. De rechter kan haar handhaven, verlagen of volledig vernietigen. Toen het nieuws naar buiten kwam, had de AP het volledige besluit nog niet gepubliceerd. Daardoor blijft de precieze berekening voorlopig ondoorzichtig (Boursorama/AFP). Ubers eerdere Nederlandse boete van € 290 miljoen voor het doorgeven van chauffeursgegevens aan de VS is naar verluidt opgeschort tijdens het beroep. Dat kan bij deze boete dus ook gebeuren (DutchNews).

Het bredere signaal reikt verder dan Uber. Miljoenen platformwerkers hebben inmiddels geen manager meer die bepaalt of zij op een bepaalde dag kunnen verdienen, maar software. De AVG wordt nu al gebruikt om toezicht te houden op algoritmisch personeelsbeheer, nog voordat nieuwere regels zoals de Europese AI-verordening en de Platformwerkrichtlijn het hoofdterrein worden. De AI-verordening classificeert AI op de werkvloer als hoog risico en vereist extra toezicht; de Platformwerkrichtlijn moet platformwerkers sterkere rechten geven om geautomatiseerde besluiten aan te vechten (Deutschlandfunk, AI Act, Regulation 2024/1689). Beide duwen platforms naar dezelfde regel: software mag een arbeidsbesluit ondersteunen, maar zij mag niet de enige verantwoordelijke actor zijn.

Voor wie voor zijn inkomen afhankelijk is van een platform, is de praktische les inmiddels helder. Blokkeert een algoritme je account, dan heb je het recht te weten welke gegevens en welke logica zijn gebruikt, recht op beoordeling door een echte persoon en recht om het besluit aan te vechten. Of de rechter Uber uiteindelijk € 825 miljoen of € 82 miljoen laat betalen voor het negeren van die rechten, verandert weinig aan die rechten zelf.