Uber algoritmui – €825 million bauda

Vieną rytą vairuotojas atsidaro „Uber“ programėlę ir pamato, kad jo paskyra užblokuota. Platformos sistema kažką pažymėjo kaip įtartina: galbūt neįprastą maršrutą, palaikytą bandymu dirbtinai padidinti kelionės kainą, galbūt prastesnių keleivių vertinimų seką. Jokio išankstinio įspėjimo, jokio skambučio, jokio žmogaus, kuris būtų peržiūrėjęs bylą. Tik ekranas, iš esmės pranešantis: šiandien dirbti negalite.

Būtent tokia situacija atsidūrė 825 mln. € baudos, kurią Nyderlandų duomenų apsaugos institucija AP šią savaitę skyrė „Uber“, centre. Tai antra pagal dydį kada nors pagal Europos privatumo teisę skirta sankcija po 2023 m. „Metai“ skirtos 1,2 mlrd. € baudos (Reuters via Yahoo Finance, DutchNews). Reguliuotojas nustatė, kad „Uber“ programinė įranga visoje Europoje laikinai ar visam laikui atjungdavo vairuotojus nuo platformos, nesuteikdama jiems pakankamos informacijos ir realios žmogaus peržiūros galimybės (NOS, Euractiv).

Įstatymas, draudžiantis kompiuteriui spręsti vienam

Teisinis ginčo pagrindas — Bendrojo duomenų apsaugos reglamento, arba BDAR, 22 straipsnis. Jis suteikia žmonėms teisę nebūti sprendimų, priimamų vien automatizuotu būdu, objektu, jei tokie sprendimai jiems sukelia reikšmingų pasekmių (GDPR official text). Asmeniškai pritaikyta reklamos rekomendacija į šią kategoriją nepatenka. Pajamų šaltinio atėmimas — patenka.

Riba gana aiški. Žemiau jos programinė įranga gali reitinguoti keliones, žymėti neįprastus modelius ar padėti aptikti sukčiavimo riziką. Aukščiau jos, kai sprendžiamas žmogaus pajamų ar teisinės padėties klausimas, BDAR reikalauja trijų dalykų: bylą turi iš tikrųjų peržiūrėti žmogus, asmeniui turi būti paaiškinta, kokie duomenys ir logika lėmė sprendimą, o pats sprendimas turi būti praktiškai ginčijamas (GDPR official text, EDPB-endorsed guidance). „Žmogaus peržiūra“ nereiškia, kad darbuotojas tiesiog paspaudžia „patvirtinti“ sistemos lange. Reguliavimo gairėse nurodoma, kad peržiūrą atliekantis asmuo turi suprasti programinės įrangos rezultatą, matyti pagrindinius duomenis ir turėti įgaliojimus sprendimą pakeisti (EDPB-endorsed guidance).

AP pirmininko pavaduotoja Monique Verdier tai suformulavo tiesiai: vairuotojai buvo padaromi neaktyvūs be įspėjimo, o kompiuteris neturėtų savarankiškai priimti didelių pasekmių turinčių sprendimų, kol jų neperžiūrėjo žmogus (Xinhua).

Prancūzų vairuotojai, Nyderlandų bauda

Byla prasidėjo nuo Prancūzijos „Uber“ vairuotojų skundų. Teigiama, kad jų buvo 171, nors pradinis skundo dokumentas viešai nepaskelbtas (Boursorama/AFP, Le Figaro/AFP). Pagal BDAR taisykles tarpvalstybinėse bylose paprastai vadovauja tos šalies reguliuotojas, kurioje įmonė turi ES būstinę. Kadangi „Uber“ įsikūrusi Amsterdame, tyrimą perėmė Nyderlandų institucija. Taip Prancūzijos vairuotojų skundas virto visai Europai reikšmingu priežiūros sprendimu (NRC).

AP nustatė, kad „Uber“ sistemos žymėdavo vairuotojus dėl įtariamo sukčiavimo ar žemų vertinimų ir sustabdydavo paskyras be pakankamo paaiškinimo bei veiksmingos galimybės sprendimą apskųsti. „Uber“ ginčija esmines šios išvados dalis. Bendrovė teigia, kad nuolatiniai paskyrų išjungimai nebuvo visiškai automatizuoti, o 2021 m. dėl žemų klientų vertinimų Europoje esą buvo deaktyvuoti tik 126 vairuotojai (Reuters via Yahoo Finance, Quartz). Bendrovė baudą vadina „neproporcinga“, nurodo, kad tirtos praktikos nutrauktos prieš kelerius metus, ir patvirtina sprendimą skųsianti (Bloomberg via Yahoo Finance).

Suma gali keistis, principas — ne

Apeliacija reiškia, kad 825 mln. € suma dar negalutinė. Teismai gali ją palikti galioti, sumažinti arba panaikinti visą sprendimą. Kai istorija tapo vieša, visas AP sprendimas dar nebuvo paskelbtas, todėl tikslus baudos apskaičiavimo mechanizmas kol kas neaiškus (Boursorama/AFP). Ankstesnės „Uber“ skirtos 290 mln. € Nyderlandų baudos už vairuotojų duomenų perdavimą į JAV vykdymas, kaip pranešama, buvo sustabdytas apeliacijos laikotarpiu. Tas pats gali nutikti ir šį kartą (DutchNews).

Svarbesnis signalas neapsiriboja „Uber“. Milijonams platformų darbuotojų klausimą, ar jie tą dieną gali uždirbti, vis dažniau sprendžia ne vadovas, o programinė įranga. BDAR jau naudojamas kaip priemonė prižiūrėti algoritminį darbuotojų valdymą, dar iki tol, kol pagrindiniu ginčo lauku taps naujesni ES teisės aktai: Dirbtinio intelekto aktas, darbo vietose naudojamą DI priskiriantis didelės rizikos sistemoms ir reikalaujantis papildomos priežiūros, bei Platforminio darbo direktyva, suteiksianti platformų darbuotojams stipresnes teises ginčyti automatizuotus sprendimus (Deutschlandfunk, AI Act, Regulation 2024/1689). Visų šių taisyklių kryptis ta pati: programinė įranga gali padėti priimti darbo santykiams svarbų sprendimą, bet ji negali būti vienintelis atsakingas sprendėjas.

Žmogui, kurio pajamos priklauso nuo platformos, praktinė išvada jau aiški. Jei algoritmas užblokuoja paskyrą, jis turi teisę žinoti, kokie duomenys ir kokia logika tam panaudoti, reikalauti realios žmogaus peržiūros ir sprendimą ginčyti. Ar teismas galiausiai įvertins šių teisių nepaisymą 825 mln. €, ar 82 mln. €, pačios teisės dėl to neišnyks.