Uber dostal pokutu za algoritmus

Vodič si ráno otvorí aplikáciu Uberu a zistí, že účet má zablokovaný. Softvér platformy niečo vyhodnotil ako problém: možno nezvyčajnú trasu, ktorú systém čítal ako umelé navyšovanie cestovného, možno sériu slabších hodnotení od zákazníkov. Bez upozornenia, bez telefonátu, bez človeka, ktorý by sa na prípad pozrel. Len obrazovka, z ktorej vyplýva, že dnes nemôže pracovať.

Práve takýto mechanizmus je jadrom pokuty 825 miliónov eur, ktorú tento týždeň uložil Uberu holandský Úrad na ochranu osobných údajov (AP). Ide o druhú najvyššiu sankciu podľa európskeho práva na ochranu súkromia; vyššia bola len pokuta 1,2 miliardy eur pre Metu v roku 2023 (Reuters via Yahoo Finance, DutchNews). Regulátor dospel k záveru, že Uber používal softvér na dočasné alebo trvalé odpojenie vodičov v Európe bez dostatočného vysvetlenia a bez skutočného ľudského preskúmania (NOS, Euractiv).

Zákon, podľa ktorého nemôže rozhodovať iba počítač

Právnym základom prípadu je článok 22 všeobecného nariadenia o ochrane údajov, známeho ako GDPR. Ten dáva ľuďom právo nebyť vystavení rozhodnutiam prijatým výlučne softvérom, ak majú takéto rozhodnutia významný dosah na ich život (oficiálne znenie GDPR). Personalizované odporúčanie reklamy sem nepatrí. Odrezanie človeka od príjmu áno.

Hranica je pomerne jasná. Pod ňou môže softvér ďalej radiť jazdy alebo upozorňovať na podozrivé vzorce správania. Nad ňou, keď ide o príjem alebo právne postavenie človeka, GDPR vyžaduje tri veci: prípad musí reálne preskúmať človek, dotknutá osoba musí dostať informáciu o údajoch a logike, ktoré rozhodnutie viedli, a musí mať použiteľný spôsob, ako sa brániť (oficiálne znenie GDPR, usmernenie potvrdené EDPB). Ľudské preskúmanie neznamená, že zamestnanec na obrazovke klikne na „potvrdiť“. Podľa regulačných usmernení musí človek výstupu softvéru rozumieť, vidieť podkladové údaje a mať právomoc rozhodnutie zmeniť (usmernenie potvrdené EDPB).

Podpredsedníčka AP Monique Verdier to zhrnula priamo: vodiči boli zneaktívnení bez varovania a počítač by nemal samostatne prijímať rozhodnutia s vážnymi následkami skôr, než sa na ne pozrie človek (Xinhua).

Francúzski vodiči, holandská pokuta

Prípad sa začal sťažnosťami francúzskych vodičov Uberu. Podľa dostupných správ išlo o 171 sťažovateľov, hoci pôvodné podanie sa verejne neobjavilo (Boursorama/AFP, Le Figaro/AFP). Pri cezhraničných prípadoch podľa GDPR zvyčajne vedie konanie úrad v krajine, kde má firma európske sídlo. Keďže Uber sídli v Amsterdame, vec prevzal holandský regulátor. Preto sa zo sťažností vodičov vo Francúzsku stalo rozhodnutie s celoeurópskym dosahom (NRC).

Podľa AP systémy Uberu označovali vodičov pre podozrenie z podvodu alebo pre nízke hodnotenia a účty im pozastavovali bez dostatočného vysvetlenia a bez účinného spôsobu, ako rozhodnutie napadnúť. Uber kľúčové časti záverov spochybňuje. Tvrdí, že trvalé deaktivácie neboli plne automatizované a že v roku 2021 bolo pre nízke hodnotenia zákazníkov deaktivovaných iba 126 európskych vodičov (Reuters via Yahoo Finance, Quartz). Firma označuje pokutu za neprimeranú, hovorí, že skúmané praktiky ukončila už pred rokmi, a potvrdila, že sa odvolá (Bloomberg via Yahoo Finance).

Suma sa môže zmeniť, princíp nie

Odvolanie znamená, že suma 825 miliónov eur ešte nie je konečná. Súdy ju môžu potvrdiť, znížiť alebo úplne zrušiť. Keď sa prípad dostal na verejnosť, celé rozhodnutie AP ešte nebolo zverejnené, takže presný výpočet sankcie zostáva nejasný (Boursorama/AFP). Predchádzajúca holandská pokuta 290 miliónov eur pre Uber za prenos údajov vodičov do USA bola podľa dostupných správ počas odvolania pozastavená, čo sa môže stať aj teraz (DutchNews).

Dôležitejší signál však presahuje Uber. Miliónom ľudí pracujúcich cez platformy dnes o tom, či môžu v daný deň zarábať, nerozhoduje nadriadený, ale softvér. GDPR sa už používa na kontrolu toho, ako platformy riadia pracovníkov algoritmami, ešte skôr, než sa hlavným bojiskom stanú novšie pravidlá, napríklad európsky akt o umelej inteligencii, ktorý zaraďuje AI na pracovisku medzi vysokorizikové systémy s prísnejším dohľadom, alebo smernica o práci cez platformy, ktorá má pracovníkom dať silnejšie práva pri napádaní automatizovaných rozhodnutí (Deutschlandfunk, AI Act, Regulation 2024/1689). Všetky tieto pravidlá tlačia platformy rovnakým smerom: softvér môže pri pracovnom rozhodnutí pomáhať, ale nemôže byť jediným aktérom, ktorý zaň fakticky zodpovedá.

Pre každého, kto je príjmovo závislý od platformy, je praktický dôsledok už teraz zrozumiteľný. Ak vám algoritmus zablokuje účet, máte právo vedieť, aké údaje a aká logika boli použité, máte právo na skutočné preskúmanie človekom a máte právo rozhodnutie napadnúť. Či súd napokon vyčíslí ignorovanie týchto práv Uberom na 825 miliónov eur alebo 82 miliónov eur, samotné práva tým nezmiznú.