Uber algoritmam €825 million sods

Autovadītājs no rīta atver Uber lietotni un ierauga, ka konts bloķēts. Platformas programmatūra kaut ko atzīmējusi kā aizdomīgu: varbūt neparastu maršrutu, ko sistēma nolasījusi kā mēģinājumu palielināt brauciena maksu, varbūt vairākus zemus pasažieru vērtējumus pēc kārtas. Nav brīdinājuma vēstules, nav telefona zvana, nav cilvēka, kas lietu būtu izskatījis. Ir tikai ekrāns, kas pasaka: šodien strādāt nevar.

Tieši šāds mehānisms ir 825 milj. € soda pamatā, ko Nīderlandes Datu aizsardzības iestāde AP šonedēļ piemēroja Uber. Tas ir otrs lielākais sods, kāds jebkad noteikts saskaņā ar Eiropas privātuma tiesībām; lielāks bijis tikai 1,2 mljrd. € sods Meta 2023. gadā (Reuters via Yahoo Finance, DutchNews). Regulators secināja, ka Uber izmantojis programmatūru, lai visā Eiropā uz laiku apturētu vai pilnībā liegtu autovadītājiem piekļuvi darbam, nesniedzot pietiekamu skaidrojumu un nenodrošinot īstu cilvēka veiktu pārbaudi (NOS, Euractiv).

Likums, kas neļauj datoram lemt vienam

Strīda centrā ir Vispārīgās datu aizsardzības regulas jeb GDPR 22. pants. Tas cilvēkiem dod tiesības nebūt pakļautiem lēmumiem, ko pilnībā pieņem programmatūra, ja šādi lēmumi būtiski ietekmē viņu dzīvi (GDPR official text). Personalizēta reklāmas rekomendācija šajā kategorijā neietilpst. Cilvēka ienākumu avota atslēgšana ietilpst.

Robeža ir samērā skaidra. Zem tās programmatūra drīkst kārtot braucienu pieprasījumus vai atzīmēt aizdomīgus modeļus. Virs tās, kad likme ir cilvēka ienākumi vai tiesiskais stāvoklis, GDPR prasa trīs lietas: lieta reāli jāizskata cilvēkam, personai jāpasaka, kādi dati un kāda loģika noveda pie lēmuma, un jābūt praktiski izmantojamai iespējai to apstrīdēt (GDPR official text, EDPB-endorsed guidance). „Cilvēka veikta pārbaude” nenozīmē darbinieku, kurš vadības panelī tikai nospiež „apstiprināt”. Regulatoru vadlīnijās noteikts, ka pārbaudītājam jāsaprot programmatūras rezultāts, jāredz pamatā esošie dati un jābūt pilnvarām lēmumu mainīt (EDPB-endorsed guidance).

AP priekšsēdētāja vietniece Monika Verdjē to formulēja tieši: autovadītāji padarīti neaktīvi bez brīdinājuma, un dators nedrīkst patstāvīgi pieņemt lēmumus ar būtiskām sekām, pirms tos nav pārbaudījis cilvēks (Xinhua).

Francijas autovadītāji, Nīderlandes sods

Lieta sākās ar Francijas Uber autovadītāju sūdzībām. Kā tiekot ziņots, tajā bijis iesaistīts 171 sūdzības iesniedzējs, lai gan sākotnējais sūdzības teksts publiski nav parādījies (Boursorama/AFP, Le Figaro/AFP). GDPR pārrobežu lietās galveno lomu parasti uzņemas tās valsts regulators, kur atrodas uzņēmuma ES galvenā mītne. Tā kā Uber Eiropas bāze ir Amsterdamā, lietu vadīja Nīderlandes iestāde. Tāpēc Francijas autovadītāju sūdzība pārtapa par Eiropas mēroga uzraudzības lēmumu (NRC).

AP secināja, ka Uber sistēmas atzīmējušas autovadītājus aizdomās par krāpšanu vai zemu vērtējumu dēļ un apturējušas kontus bez pietiekama skaidrojuma un bez efektīvas iespējas lēmumu apstrīdēt. Uber būtiskām regulatora secinājumu daļām nepiekrīt. Uzņēmums apgalvo, ka pastāvīga kontu deaktivizēšana neesot bijusi pilnībā automatizēta un ka 2021. gadā zemu klientu vērtējumu dēļ Eiropā deaktivizēti tikai 126 autovadītāji (Reuters via Yahoo Finance, Quartz). Uber sodu sauc par „nesamērīgu”, norāda, ka izmeklētā prakse pārtraukta jau pirms vairākiem gadiem, un apstiprina, ka lēmumu pārsūdzēs (Bloomberg via Yahoo Finance).

Summa var mainīties, princips paliks

Pārsūdzība nozīmē, ka 825 milj. € summa vēl nav galīga. Tiesa var sodu atstāt spēkā, samazināt vai atcelt pilnībā. Kad ziņa kļuva publiska, AP pilnais lēmums vēl nebija publicēts, tāpēc precīzs soda aprēķins joprojām nav redzams (Boursorama/AFP). Uber iepriekšējā 290 milj. € soda izpilde Nīderlandē par autovadītāju datu pārsūtīšanu uz ASV pārsūdzības laikā esot apturēta, un tas varētu notikt arī šoreiz (DutchNews).

Signāls sniedzas tālāk par Uber. Miljoniem platformu darbinieku šobrīd ikdienas pieeju ienākumiem nosaka nevis vadītājs, bet programmatūra. GDPR jau tiek izmantota, lai kontrolētu, kā platformas ar algoritmiem pārvalda darbu, vēl pirms par galveno strīdu lauku kļuvuši jaunāki ES tiesību akti: Mākslīgā intelekta akts, kas darba vietā izmantotu MI klasificē kā augsta riska sistēmu ar papildu uzraudzības prasībām, un Platformu darba direktīva, kas platformu darbiniekiem dos stingrākas tiesības apstrīdēt automatizētus lēmumus (Deutschlandfunk, AI Act, Regulation 2024/1689). Visi šie noteikumi platformas ved vienā virzienā: programmatūra var palīdzēt pieņemt darba lēmumu, bet tā nedrīkst būt vienīgais atbildīgais lēmuma pieņēmējs.

Cilvēkam, kura ienākumi ir atkarīgi no platformas, praktiskā nozīme jau ir skaidra. Ja algoritms bloķē kontu, cilvēkam ir tiesības zināt, kādi dati un kāda loģika izmantoti, tiesības prasīt īstu cilvēka veiktu pārbaudi un tiesības lēmumu apstrīdēt. Vai tiesa beigās Uber par šo tiesību ignorēšanu liks maksāt 825 milj. € vai 82 milj. €, pašas tiesības no tā nepazudīs.