Algorytm Ubera z karą €825 million

Kierowca otwiera rano aplikację Ubera i widzi, że konto zostało zablokowane. System coś wykrył: być może trasę uznaną za próbę zawyżenia opłaty, być może serię niskich ocen od pasażerów. Nie ma wcześniejszego ostrzeżenia, telefonu z firmy ani człowieka, który przejrzał sprawę. Jest tylko komunikat w aplikacji: dziś nie możesz pracować.

Właśnie ten mechanizm znalazł się w centrum kary w wysokości 825 mln EUR, którą holenderski urząd ochrony danych osobowych AP nałożył w tym tygodniu na Ubera. To druga najwyższa sankcja w historii europejnego prawa o ochronie prywatności, po karze 1,2 mld EUR dla Mety z 2023 r. (Reuters via Yahoo Finance, DutchNews). Według regulatora Uber wykorzystywał oprogramowanie do zawieszania lub trwałego odcinania kierowców w Europie od platformy, nie zapewniając im wystarczających wyjaśnień ani realnej kontroli człowieka nad decyzją (NOS, Euractiv).

Prawo, które nie pozwala komputerowi decydować samodzielnie

Podstawą sprawy jest art. 22 RODO, unijnego rozporządzenia o ochronie danych osobowych. Przepis daje obywatelom prawo do tego, by nie podlegać decyzjom podejmowanym wyłącznie przez oprogramowanie, jeśli decyzje te istotnie wpływają na ich życie (GDPR official text). Spersonalizowana reklama nie spełnia tego progu. Odcięcie człowieka od dochodu już tak.

Mechanizm jest prosty. Algorytm może porządkować zlecenia, wykrywać wzorce i sygnalizować ryzyka. Gdy jednak w grę wchodzi praca, dochód albo sytuacja prawna konkretnej osoby, RODO wymaga trzech rzeczy: faktycznej oceny przez człowieka, informacji o danych i logice stojącej za decyzją oraz użytecznej ścieżki odwołania (GDPR official text, EDPB-endorsed guidance). „Kontrola człowieka” nie oznacza kliknięcia przycisku „zatwierdź” w panelu. Wytyczne regulatorów wskazują, że osoba sprawdzająca musi rozumieć wynik działania systemu, widzieć dane źródłowe i mieć realne uprawnienie do zmiany decyzji (EDPB-endorsed guidance).

Monique Verdier, wiceprzewodnicząca AP, ujęła to bez ozdobników: kierowcy byli dezaktywowani bez ostrzeżenia, a komputer nie powinien samodzielnie podejmować decyzji o poważnych skutkach, zanim sprawy nie obejrzy człowiek (Xinhua).

Francuscy kierowcy, holenderska kara

Sprawa zaczęła się od skarg francuskich kierowców Ubera. Według doniesień chodziło o 171 skarżących, choć pierwotny dokument skargi nie został publicznie ujawniony (Boursorama/AFP, Le Figaro/AFP). W transgranicznych postępowaniach RODO sprawę zwykle prowadzi organ z państwa, w którym firma ma unijną siedzibę. Ponieważ Uber działa w UE z Amsterdamu, postępowanie przejął regulator holenderski. Tak skargi z Francji doprowadziły do decyzji o znaczeniu dla całego europejskiego rynku platform (NRC).

AP ustalił, że systemy Ubera oznaczały kierowców z powodu podejrzeń oszustwa lub niskich ocen, a następnie zawieszały konta bez wystarczającego wyjaśnienia i skutecznej możliwości zakwestionowania decyzji. Uber kwestionuje kluczowe elementy tej oceny. Firma twierdzi, że trwałe dezaktywacje nie były w pełni zautomatyzowane, a w 2021 r. z powodu niskich ocen klientów odłączono od platformy tylko 126 europejskich kierowców (Reuters via Yahoo Finance, Quartz). Spółka uznaje karę za „nieproporcjonalną”, podkreśla, że badane praktyki zakończono przed laty, i zapowiada odwołanie (Bloomberg via Yahoo Finance).

Kwota może się zmienić, zasada raczej nie

825 mln EUR nie jest jeszcze kwotą ostateczną. Sąd może karę utrzymać, obniżyć albo uchylić. Gdy sprawa trafiła do mediów, pełna decyzja AP nie była jeszcze opublikowana, więc dokładny sposób wyliczenia sankcji pozostawał niejasny (Boursorama/AFP). Wcześniejsza holenderska kara dla Ubera, 290 mln EUR za transfer danych kierowców do USA, miała zostać wstrzymana na czas odwołania, więc podobny scenariusz jest możliwy także teraz (DutchNews).

Znaczenie sprawy wykracza jednak poza samą wysokość sankcji. Dla milionów pracowników platformowych to nie kierownik zmiany, lecz system informatyczny decyduje, czy danego dnia będą mogli zarabiać. RODO już dziś służy regulatorom do kontroli algorytmicznego zarządzania pracą, zanim głównym polem sporu staną się nowsze przepisy: akt o sztucznej inteligencji, który uznaje systemy AI w miejscu pracy za wysokiego ryzyka i wymaga dodatkowego nadzoru, oraz dyrektywa o pracy platformowej, wzmacniająca prawo pracowników do kwestionowania decyzji automatycznych (Deutschlandfunk, AI Act, Regulation 2024/1689). Wszystkie te regulacje prowadzą platformy w tym samym kierunku: oprogramowanie może pomagać w decyzjach kadrowych, ale nie może być jedynym podmiotem, który za nie odpowiada.

Dla osób utrzymujących się z pracy przez aplikację praktyczny wniosek jest już dziś jasny. Jeżeli algorytm blokuje konto, użytkownik ma prawo wiedzieć, jakie dane i jaka logika doprowadziły do tej decyzji, domagać się realnej oceny przez człowieka i skutecznie się odwołać. To, czy sąd ostatecznie uzna, że zignorowanie tych praw kosztuje Ubera 825 mln EUR czy 82 mln EUR, nie zmieni samej zasady: tych praw nie da się po cichu wyłączyć w ustawieniach platformy.