Uber får bøde for algoritmefyringer

En chauffør åbner Uber-appen en morgen og opdager, at kontoen er blokeret. Systemet har markeret noget: måske en rute, som softwaren tolker som kunstigt oppustet betaling, måske en række lave passagerbedømmelser. Der er intet varsel, ingen telefonsamtale og ingen medarbejder, der har gennemgået sagen. Kun en besked på skærmen om, at chaufføren ikke kan arbejde i dag.

Det er kernen i den bøde på 825 mio. euro, som den nederlandske datatilsynsmyndighed, AP, i denne uge har udstedt til Uber. Det er den næststørste bøde under EU’s databeskyttelsesregler, kun overgået af Metas bøde på 1,2 mia. euro i 2023 (Reuters via Yahoo Finance, DutchNews). Ifølge tilsynet brugte Uber software til at suspendere eller helt lukke chauffører ude i Europa uden tilstrækkelig information og uden reel menneskelig vurdering (NOS, Euractiv).

Reglen, der siger, at computeren ikke må afgøre sagen alene

Den centrale bestemmelse er artikel 22 i GDPR, EU’s databeskyttelsesforordning. Den giver borgere ret til ikke at blive underlagt afgørelser, der alene træffes af software, når afgørelsen har væsentlig betydning for deres liv (GDPR official text). En målrettet reklame falder normalt udenfor. At miste sin indkomst gør ikke.

Grænsen er ret håndfast. Under den kan software godt rangere ture eller markere mønstre. Over den, hvor indkomst eller retsstilling er på spil, kræver GDPR tre ting: Et menneske skal faktisk gennemgå sagen, personen skal have at vide, hvilke data og hvilken logik der lå bag afgørelsen, og der skal være en brugbar mulighed for at klage (GDPR official text, EDPB-endorsed guidance). »Menneskelig vurdering« betyder ikke, at en medarbejder trykker »bekræft« i et kontrolpanel. Ifølge den vejledning, som EU’s databeskyttelsesmyndigheder står bag, skal den ansvarlige kunne forstå systemets output, se de underliggende data og have reel myndighed til at ændre afgørelsen (EDPB-endorsed guidance).

AP’s næstformand, Monique Verdier, formulerede det enkelt: Chauffører blev gjort inaktive uden varsel, og en computer bør ikke selv træffe beslutninger med store konsekvenser, før et menneske har set på sagen (Xinhua).

Franske chauffører, nederlandsk bøde

Sagen begyndte med klager fra franske Uber-chauffører. Ifølge medier drejede det sig om 171 klagere, men den oprindelige klage er ikke offentliggjort (Boursorama/AFP, Le Figaro/AFP). Efter GDPR-reglerne leder tilsynet i det land, hvor en virksomhed har sit EU-hovedsæde, normalt grænseoverskridende sager. Fordi Uber er etableret i Amsterdam, endte sagen hos den nederlandske myndighed. Derfor blev en fransk chaufførklage til en afgørelse med virkning for hele Europa (NRC).

AP konkluderede, at Ubers systemer markerede chauffører for mistanke om svindel eller lave bedømmelser og suspenderede konti uden fyldestgørende forklaring eller effektiv klageadgang. Uber afviser centrale dele af kritikken. Selskabet siger, at permanente deaktiveringer ikke var fuldt automatiserede, og at kun 126 europæiske chauffører i 2021 blev deaktiveret på grund af lave kundebedømmelser (Reuters via Yahoo Finance, Quartz). Uber kalder bøden »uproportional«, oplyser, at de undersøgte praksisser blev stoppet for flere år siden, og bekræfter, at selskabet vil anke (Bloomberg via Yahoo Finance).

Beløbet kan ændre sig, men princippet bliver stående

Anken betyder, at de 825 mio. euro ikke er det endelige beløb. Domstolene kan stadfæste bøden, sænke den eller annullere den. Da nyheden kom frem, var AP’s fulde afgørelse endnu ikke offentliggjort, så beregningen bag beløbet er stadig uklar (Boursorama/AFP). Ubers tidligere nederlandske bøde på 290 mio. euro for overførsel af chaufførdata til USA blev ifølge DutchNews sat i bero under anken, og det samme kan ske her (DutchNews).

Det vigtigste signal rækker ud over Uber. Millioner af platformsarbejdere har i dag software, ikke en chef, som afgør, om de kan tjene penge på en bestemt dag. GDPR bruges allerede til at regulere, hvordan platforme leder ansatte og freelancere gennem algoritmer, før nyere regler for alvor bliver kamppladsen. EU’s AI-forordning klassificerer kunstig intelligens på arbejdspladsen som højrisiko og kræver ekstra kontrol. Platformsarbejdsdirektivet vil samtidig give gigarbejdere stærkere rettigheder til at anfægte automatiserede afgørelser (Deutschlandfunk, AI Act, Regulation 2024/1689). Retningen er den samme: Software må støtte en arbejdsretlig beslutning, men den må ikke være den eneste ansvarlige aktør.

For alle, der er afhængige af en platform for deres indkomst, er den praktiske lære allerede klar. Hvis en algoritme blokerer din konto, har du ret til at få at vide, hvilke data og hvilken logik der blev brugt. Du har ret til, at et rigtigt menneske gennemgår afgørelsen. Og du har ret til at gøre indsigelse. Om retten til sidst mener, at Uber skal betale 825 mio. euro eller 82 mio. euro for at tilsidesætte de rettigheder, ændrer ikke ved, at rettighederne bliver stående.