Uberi algoritm tõi 825 mln € trahvi

Uberi juht avab hommikul rakenduse ja näeb, et konto on suletud. Platvormi tarkvara on midagi märganud: võib-olla ebatavalist marsruuti, mida süsteem tõlgendas sõidutasu kunstliku paisutamisena, võib-olla järjest madalaid reisijahindeid. Hoiatust ei tulnud, telefonikõnet samuti mitte. Keegi ei selgitanud otsust. Ekraan ütleb lihtsalt, et täna tööd teha ei saa.

Selline olukord on Hollandi andmekaitseameti AP määratud 825 mln € trahvi keskmes. Tegemist on suuruselt teise trahviga, mis Euroopa andmekaitsereeglite alusel kunagi määratud: suurem oli vaid Meta 1,2 mlrd € sanktsioon 2023. aastal (Reuters via Yahoo Finance, DutchNews). Järelevalve hinnangul kasutas Uber tarkvara, mis peatas või sulges Euroopas juhtide kontosid ilma piisava selgituse ja tegeliku inimkontrollita (NOS, Euractiv).

Seadus, mis ei luba arvutil üksi otsustada

Õiguslik alus on isikuandmete kaitse üldmääruse ehk GDPR-i artikkel 22. See annab inimesele õiguse mitte alluda üksnes automaatsele otsusele, kui otsusel on tema elule oluline mõju (GDPR official text). Isikupärastatud reklaamisoovitus üldjuhul sellesse kategooriasse ei kuulu. Sissetuleku äravõtmine kuulub.

Piir jookseb sealt, kus tarkvara ei piirdu enam sõitude järjestamise või mustrite märkamisega. Kui kaalul on inimese sissetulek või õiguslik seisund, nõuab GDPR kolme asja: juhtumit peab sisuliselt hindama inimene, inimesele tuleb selgitada, milliste andmete ja loogika põhjal otsus tehti, ning tal peab olema tegelik võimalus otsus vaidlustada (GDPR official text, EDPB-endorsed guidance). „Inimkontroll” ei tähenda töötajat, kes vajutab armatuurlaual kinnitamisnuppu. Euroopa andmekaitsesuunised ütlevad, et läbivaataja peab mõistma tarkvara väljundit, nägema alusandmeid ja saama otsuse ümber muuta (EDPB-endorsed guidance).

AP asejuht Monique Verdier sõnastas selle otse: juhid muudeti hoiatamata mitteaktiivseks ning arvuti ei tohiks teha iseseisvalt suuri tagajärgi kaasa toovaid otsuseid enne, kui inimene on juhtumi üle vaadanud (Xinhua).

Prantsuse juhid, Hollandi trahv

Juhtum algas Prantsuse Uberi juhtide kaebustest. Teadete järgi oli kaebajaid 171, ehkki algset kaebust ei ole avalikult näha (Boursorama/AFP, Le Figaro/AFP). GDPR-i piiriülestes asjades juhib menetlust tavaliselt selle riigi järelevalveasutus, kus ettevõttel on EL-i peakontor. Uberi Euroopa peakontor asub Amsterdamis, mistõttu võttis asja enda kätte Hollandi amet. Nii viis Prantsusmaa juhtide kaebus kogu Euroopat puudutava otsuseni (NRC).

AP hinnangul märkisid Uberi süsteemid juhte võimaliku pettuse või madalate hinnangute tõttu ning peatasid kontosid ilma piisava põhjenduse ja toimiva vaidlustuskanalita. Uber vaidleb sellele vastu. Ettevõtte sõnul ei olnud püsivad konto sulgemised täielikult automatiseeritud ning 2021. aastal suleti madalate kliendihinnangute tõttu vaid 126 Euroopa juhi konto (Reuters via Yahoo Finance, Quartz). Uber nimetab trahvi ebaproportsionaalseks, ütleb, et uurimise all olnud praktika lõpetati juba aastaid tagasi, ning kinnitab, et kaebab otsuse edasi (Bloomberg via Yahoo Finance).

Summa võib muutuda, põhimõte mitte

Edasikaebamine tähendab, et 825 mln € ei ole lõplik summa. Kohus võib trahvi jõusse jätta, vähendada või tühistada. AP täisteksti ei olnud uudise ilmumise ajaks avaldatud, mistõttu pole ka trahviarvutuse täpne loogika teada (Boursorama/AFP). Uberi varasem 290 mln € Hollandi trahv juhtide andmete USA-sse edastamise eest on teadete järgi kaebemenetluse ajaks peatatud. Sama võib juhtuda ka uue trahviga (DutchNews).

Olulisem signaal ulatub Uberist kaugemale. Miljonite platvormitöötajate puhul otsustab igapäevase töövõimaluse üle sageli tarkvara, mitte vahetu juht. GDPR-i kasutatakse juba praegu selle kontrollimiseks, kuidas platvormid algoritmidega töötajaid juhivad. See toimub enne, kui uued reeglid, näiteks EL-i tehisintellekti määrus või platvormitöö direktiiv, saavad peamiseks vaidlusväljaks. Tehisintellekti määrus liigitab töökohal kasutatava tehisintellekti suure riskiga süsteemiks, mis nõuab lisajärelevalvet. Platvormitöö direktiiv annab platvormitöötajatele tugevamad õigused automatiseeritud otsuseid vaidlustada (Deutschlandfunk, AI Act, Regulation 2024/1689).

Kõik need reeglid liiguvad samas suunas: tarkvara võib tööotsust toetada, kuid ei tohi olla ainus vastutav otsustaja.

Platvormist sõltuva sissetulekuga inimese jaoks on praktiline järeldus juba selge. Kui algoritm konto sulgeb, on inimesel õigus teada, milliseid andmeid ja loogikat kasutati, nõuda otsuse tegelikku inimlikku läbivaatamist ning otsus vaidlustada. Kas kohus jätab Uberile lõpuks 825 mln € või 82 mln € trahvi, ei muuda põhiõigust ennast.