Algoritmul Uber aduce amendă-record

Un șofer deschide aplicația Uber dimineața și vede că i-a fost blocat contul. Sistemul platformei a semnalat ceva: poate un traseu neobișnuit, interpretat ca încercare de majorare artificială a tarifului, poate o serie de evaluări slabe din partea pasagerilor. Nu primește o notificare prealabilă, nu îl sună nimeni, nu există un angajat care să fi analizat cazul. Doar un ecran care îi spune că în ziua aceea nu poate lucra.

Acest tip de situație se află în centrul amenzii de 825 mil. euro aplicate săptămâna aceasta Uber de Autoritatea olandeză pentru protecția datelor (AP), a doua cea mai mare sancțiune emisă vreodată în baza legislației europene privind confidențialitatea, după amenda de 1,2 mld. euro primită de Meta în 2023 (Reuters via Yahoo Finance, DutchNews). Autoritatea a constatat că Uber a folosit programe informatice pentru a suspenda sau exclude definitiv șoferi din Europa fără să le ofere informații suficiente și fără o verificare umană reală (NOS, Euractiv).

Legea care spune că un calculator nu poate decide singur

Principiul juridic vine din articolul 22 al GDPR, regulamentul european privind protecția datelor. Acesta le dă oamenilor dreptul să nu fie supuși unor decizii luate exclusiv de programe informatice atunci când deciziile respective le afectează semnificativ viața (textul oficial GDPR). O recomandare personalizată de reclamă nu intră în această categorie. Tăierea venitului unei persoane intră.

Linia de demarcație este destul de clară. Sub ea, software-ul poate în continuare să ordoneze curse sau să semnaleze tipare suspecte. Deasupra ei, atunci când venitul sau statutul juridic al unei persoane este în joc, GDPR cere trei lucruri: cazul trebuie analizat efectiv de un om, persoana vizată trebuie să afle ce date și ce logică au dus la decizie, iar contestarea trebuie să fie posibilă în mod practic, nu doar teoretic (textul oficial GDPR, ghid aprobat de EDPB). „Verificare umană” nu înseamnă ca un angajat să apese „confirmă” într-un panou de control. Ghidurile autorităților europene arată că persoana care verifică trebuie să înțeleagă rezultatul produs de software, să vadă datele de la bază și să aibă autoritatea de a schimba decizia (ghid aprobat de EDPB).

Vicepreședinta AP, Monique Verdier, a formulat simplu miza: șoferii au fost făcuți inactivi fără avertisment, iar un calculator nu ar trebui să ia pe cont propriu decizii cu efecte majore înainte ca un om să le verifice (Xinhua).

Șoferi francezi, amendă olandeză

Cazul a pornit de la plângeri depuse de șoferi Uber din Franța, aparent în numele a 171 de reclamanți, deși documentul inițial al plângerii nu a apărut public (Boursorama/AFP, Le Figaro/AFP). În procedurile transfrontaliere GDPR, autoritatea din statul în care o companie își are sediul european conduce, de regulă, investigația. Cum Uber are sediul la Amsterdam, autoritatea olandeză a preluat dosarul, iar o plângere a unor șoferi din Franța a ajuns să producă o decizie cu efect la nivel european (NRC).

AP a constatat că sistemele Uber marcau șoferi pentru suspiciuni de fraudă sau evaluări slabe și suspendau conturi fără explicații suficiente și fără o cale eficientă de contestare. Uber contestă părți importante din concluzii, susținând că dezactivările permanente nu erau complet automatizate și că doar 126 de șoferi europeni au fost dezactivați în 2021 din cauza evaluărilor slabe primite de la clienți (Reuters via Yahoo Finance, Quartz). Compania consideră amenda „disproporționată”, spune că practicile investigate au fost abandonate cu ani în urmă și confirmă că va face apel (Bloomberg via Yahoo Finance).

Suma se poate schimba, principiul rămâne

Apelul înseamnă că suma de 825 mil. euro nu este definitivă. Instanțele pot menține amenda, o pot reduce sau o pot anula integral. Decizia completă a AP nu fusese publicată la momentul apariției informației, astfel că metoda exactă de calcul rămâne neclară (Boursorama/AFP). O amendă olandeză anterioară, de 290 mil. euro, aplicată Uber pentru transferul datelor șoferilor către SUA, ar fi fost suspendată pe durata apelului, ceea ce sugerează că același lucru s-ar putea întâmpla și acum (DutchNews).

Semnalul depășește însă cazul Uber. Milioane de lucrători de platformă depind astăzi de software, nu de un manager, pentru a afla dacă pot câștiga bani într-o anumită zi. GDPR este deja folosit pentru a controla felul în care platformele își administrează lucrătorii prin algoritmi, înainte ca legislația mai nouă, precum Regulamentul european privind inteligența artificială, care clasifică AI-ul folosit la locul de muncă drept risc ridicat și cere supraveghere suplimentară, sau Directiva privind munca pe platforme, care va întări dreptul lucrătorilor de a contesta deciziile automate, să devină principalul teren de dispută (Deutschlandfunk, Regulamentul AI, 2024/1689). Toate împing platformele către aceeași regulă: software-ul poate ajuta la luarea unei decizii de muncă, dar nu poate fi singurul actor responsabil.

Pentru oricine depinde de o platformă ca să obțină venituri, consecința practică este deja limpede. Dacă un algoritm îți blochează contul, ai dreptul să știi ce date și ce logică au fost folosite, să ceri analiza unei persoane reale și să contești decizia. Indiferent dacă o instanță va stabili în final că Uber trebuie să plătească 825 mil. euro sau 82 mil. euro pentru ignorarea acestor drepturi, drepturile în sine nu dispar.