Uber dostal pokutu za algoritmus

Řidič si ráno otevře aplikaci Uberu a zjistí, že má zablokovaný účet. Systém něco vyhodnotil jako problém: možná neobvyklou trasu, kterou přečetl jako umělé navyšování jízdného, možná sérii nízkých hodnocení od cestujících. Nepřišel dopis s varováním, nezavolal operátor, případ zjevně neprošel člověkem. Na obrazovce se jen objeví, že dnes nemůže pracovat.

Právě tento mechanismus stojí v jádru pokuty 825 milionů eur, kterou tento týden uložil Uberu nizozemský Úřad pro ochranu osobních údajů (AP). Jde o druhou nejvyšší sankci v dějinách evropského práva na ochranu soukromí, hned po pokutě 1,2 miliardy eur pro Metu z roku 2023 (Reuters via Yahoo Finance, DutchNews). Podle regulátora Uber v Evropě používal software, který řidičům pozastavoval nebo trvale rušil přístup k práci, aniž by jim firma poskytla dostatečné vysvětlení a skutečné lidské přezkoumání (NOS, Euractiv).

Zákon, podle něhož počítač nesmí rozhodovat sám

Právním základem je článek 22 GDPR, evropského nařízení o ochraně osobních údajů. Ten lidem dává právo nebýt vystaveni rozhodnutí učiněnému výhradně softwarem, pokud má takové rozhodnutí významný dopad na jejich život (GDPR official text). Personalizovaná reklama do této kategorie nepatří. Odříznutí od příjmu ano.

Hranice je poměrně jasná. Pod ní může software dál řadit jízdy nebo označovat podezřelé vzorce. Nad ní, tedy ve chvíli, kdy jde o příjem člověka nebo jeho právní postavení, vyžaduje GDPR tři věci: případ musí skutečně posoudit člověk, dotčený člověk se musí dozvědět, jaká data a logika k rozhodnutí vedly, a musí dostat použitelnou možnost se bránit (GDPR official text, EDPB-endorsed guidance). „Lidské přezkoumání“ přitom neznamená, že zaměstnanec na obrazovce jen odklikne potvrzení. Podle výkladových pokynů musí posuzovatel rozumět výstupu softwaru, vidět podkladová data a mít pravomoc rozhodnutí změnit (EDPB-endorsed guidance).

Místopředsedkyně AP Monique Verdierová to shrnula přímo: řidiči byli bez varování vyřazeni z provozu a počítač by neměl samostatně přijímat rozhodnutí se závažnými dopady dříve, než se na ně podívá člověk (Xinhua).

Francouzští řidiči, nizozemská pokuta

Případ začal stížnostmi francouzských řidičů Uberu. Podle dostupných informací šlo o 171 stěžovatelů, původní podání však veřejně zveřejněno nebylo (Boursorama/AFP, Le Figaro/AFP). U přeshraničních kauz podle GDPR obvykle vede řízení úřad v zemi, kde má firma evropské sídlo. Protože Uber sídlí v Amsterdamu, převzal věc nizozemský regulátor. Stížnost francouzských řidičů tak vyústila v rozhodnutí s dopadem pro celou Evropu (NRC).

Podle AP systémy Uberu označovaly řidiče kvůli podezření z podvodu nebo nízkému hodnocení a následně jim pozastavovaly účty bez dostatečného vysvětlení a bez účinné možnosti rozhodnutí napadnout. Uber podstatné části závěrů odmítá. Tvrdí, že trvalé deaktivace nebyly plně automatizované a že kvůli nízkému zákaznickému hodnocení bylo v roce 2021 v Evropě odpojeno jen 126 řidičů (Reuters via Yahoo Finance, Quartz). Pokutu firma označuje za „nepřiměřenou“, uvádí, že vyšetřované postupy ukončila už před lety, a potvrdila, že se odvolá (Bloomberg via Yahoo Finance).

Částka se může změnit, pravidlo zůstane

Kvůli odvolání není částka 825 milionů eur konečná. Soud ji může potvrdit, snížit nebo celé rozhodnutí zrušit. Úplné rozhodnutí AP v době zveřejnění zprávy ještě nebylo venku, takže přesný výpočet pokuty zůstává nejasný (Boursorama/AFP). Dřívější nizozemská pokuta 290 milionů eur, kterou Uber dostal za předávání dat řidičů do USA, byla podle médií po dobu odvolání odložena; podobný postup může nastat i nyní (DutchNews).

Důležitější signál ale přesahuje Uber. U milionů lidí pracujících přes platformy dnes o tom, zda si v daný den vydělají, fakticky nerozhoduje manažer, ale software. GDPR se už nyní používá jako nástroj kontroly algoritmického řízení práce, a to ještě předtím, než se hlavním bojištěm stanou novější pravidla: unijní akt o umělé inteligenci, který řadí AI na pracovišti mezi vysoce rizikové systémy vyžadující silnější dohled, nebo směrnice o platformové práci, jež má pracovníkům v zakázkové ekonomice dát pevnější právo napadat automatizovaná rozhodnutí (Deutschlandfunk, AI Act, Regulation 2024/1689). Všechna tato pravidla míří stejným směrem: software může pracovní rozhodnutí podporovat, ale nesmí být jediným odpovědným aktérem.

Pro každého, kdo je příjmem závislý na platformě, z toho plyne praktický závěr už teď. Pokud algoritmus zablokuje účet, má dotčený člověk právo vědět, jaká data a jaká logika k tomu vedly, požadovat skutečné přezkoumání člověkem a rozhodnutí napadnout. Jestli soud nakonec Uberu za nerespektování těchto práv vyměří 825 milionů eur, nebo 82 milionů, na samotné existenci těch práv to nic nezmění.