Πρόστιμο €825 million στον αλγόριθμο της Uber

Ένας οδηγός ανοίγει ένα πρωί την εφαρμογή της Uber και βλέπει ότι ο λογαριασμός του έχει μπλοκαριστεί. Το λογισμικό της πλατφόρμας εντόπισε κάτι: ίσως μια ασυνήθιστη διαδρομή που ερμήνευσε ως τεχνητή αύξηση κομίστρου, ίσως μια σειρά χαμηλών αξιολογήσεων από επιβάτες. Δεν προηγήθηκε προειδοποιητική επιστολή, ούτε τηλεφώνημα, ούτε έλεγχος της υπόθεσης από άνθρωπο. Μόνο μια οθόνη που του λέει ότι σήμερα δεν μπορεί να δουλέψει.

Αυτό ακριβώς το σενάριο βρίσκεται στον πυρήνα του προστίμου των 825 εκατ. ευρώ που επέβαλε αυτή την εβδομάδα στην Uber η ολλανδική Αρχή Προστασίας Δεδομένων, γνωστή ως AP. Πρόκειται για το δεύτερο μεγαλύτερο πρόστιμο που έχει επιβληθεί ποτέ βάσει της ευρωπαϊκής νομοθεσίας για την προστασία της ιδιωτικότητας, μετά την κύρωση των 1,2 δισ. ευρώ στη Meta το 2023 (Reuters μέσω Yahoo Finance, DutchNews). Η Αρχή έκρινε ότι η Uber χρησιμοποίησε λογισμικό για να αναστέλλει ή να διακόπτει οριστικά την πρόσβαση οδηγών στην πλατφόρμα σε όλη την Ευρώπη, χωρίς να τους παρέχει επαρκή ενημέρωση ή ουσιαστικό ανθρώπινο έλεγχο (NOS, Euractiv).

Ο νόμος που λέει ότι ένας υπολογιστής δεν αποφασίζει μόνος

Η νομική βάση είναι το άρθρο 22 του Γενικού Κανονισμού για την Προστασία Δεδομένων, του ευρωπαϊκού πλαισίου που είναι γνωστό ως ΓΚΠΔ. Το άρθρο αυτό δίνει στους πολίτες το δικαίωμα να μη γίνονται αντικείμενο αποφάσεων που λαμβάνονται αποκλειστικά από λογισμικό, όταν οι αποφάσεις αυτές επηρεάζουν σοβαρά τη ζωή τους (επίσημο κείμενο του ΓΚΠΔ). Μια προσωποποιημένη διαφήμιση δεν εμπίπτει σε αυτή την κατηγορία. Η διακοπή του εισοδήματος κάποιου εμπίπτει.

Η γραμμή είναι σχετικά καθαρή. Κάτω από αυτήν, το λογισμικό μπορεί να ιεραρχεί διαδρομές ή να εντοπίζει μοτίβα. Πάνω από αυτήν, όταν διακυβεύεται το εισόδημα ή η νομική θέση ενός ανθρώπου, ο ΓΚΠΔ απαιτεί τρία πράγματα: να εξετάζει πράγματι την υπόθεση άνθρωπος, να ενημερώνεται ο ενδιαφερόμενος για τα δεδομένα και τη λογική που οδήγησαν στην απόφαση, και να έχει πρακτικά λειτουργικό τρόπο να την αμφισβητήσει (επίσημο κείμενο του ΓΚΠΔ, κατευθυντήριες γραμμές εγκεκριμένες από το ΕΣΠΔ). «Ανθρώπινος έλεγχος» δεν σημαίνει ένας υπάλληλος που πατά απλώς «επιβεβαίωση» σε έναν πίνακα ελέγχου. Οι κατευθυντήριες γραμμές των εποπτικών αρχών ορίζουν ότι ο ελεγκτής πρέπει να κατανοεί το αποτέλεσμα του λογισμικού, να βλέπει τα υποκείμενα δεδομένα και να έχει την εξουσία να ανατρέψει την απόφαση (κατευθυντήριες γραμμές εγκεκριμένες από το ΕΣΠΔ).

Η αντιπρόεδρος της AP, Monique Verdier, το διατύπωσε ευθέως: οι οδηγοί τίθεντο εκτός λειτουργίας χωρίς προειδοποίηση, ενώ ένας υπολογιστής δεν πρέπει να λαμβάνει μόνος του αποφάσεις με σοβαρές συνέπειες προτού τις εξετάσει άνθρωπος (Xinhua).

Γάλλοι οδηγοί, ολλανδικό πρόστιμο

Η υπόθεση ξεκίνησε από καταγγελίες Γάλλων οδηγών της Uber. Σύμφωνα με δημοσιεύματα, αφορούσε 171 καταγγέλλοντες, αν και το αρχικό κείμενο της καταγγελίας δεν έχει δημοσιοποιηθεί (Boursorama/AFP, Le Figaro/AFP). Βάσει των κανόνων του ΓΚΠΔ, στις διασυνοριακές υποθέσεις συνήθως προηγείται η αρχή της χώρας όπου μια εταιρεία έχει την ευρωπαϊκή έδρα της. Επειδή η Uber είναι εγκατεστημένη στο Άμστερνταμ, την υπόθεση ανέλαβε η ολλανδική Αρχή, με αποτέλεσμα μια καταγγελία οδηγών στη Γαλλία να οδηγήσει σε απόφαση εφαρμογής με πανευρωπαϊκό βάρος (NRC).

Η AP διαπίστωσε ότι τα συστήματα της Uber επισήμαιναν οδηγούς για ύποπτη απάτη ή χαμηλές αξιολογήσεις και ανέστελλαν λογαριασμούς χωρίς επαρκή εξήγηση ή αποτελεσματική δυνατότητα προσφυγής. Η Uber αμφισβητεί κρίσιμα σημεία του πορίσματος, υποστηρίζοντας ότι οι οριστικές απενεργοποιήσεις δεν ήταν πλήρως αυτοματοποιημένες και ότι το 2021 απενεργοποιήθηκαν μόνο 126 Ευρωπαίοι οδηγοί λόγω χαμηλών αξιολογήσεων πελατών (Reuters μέσω Yahoo Finance, Quartz). Η εταιρεία χαρακτηρίζει το πρόστιμο «δυσανάλογο», αναφέρει ότι οι πρακτικές που ερευνήθηκαν έχουν σταματήσει εδώ και χρόνια και επιβεβαιώνει ότι θα ασκήσει έφεση (Bloomberg μέσω Yahoo Finance).

Το ποσό μπορεί να αλλάξει, η αρχή όμως όχι

Η έφεση σημαίνει ότι το ποσό των 825 εκατ. ευρώ δεν είναι οριστικό. Τα δικαστήρια μπορούν να το επικυρώσουν, να το μειώσουν ή να το ακυρώσουν πλήρως. Η πλήρης απόφαση της AP δεν είχε δημοσιευθεί όταν έγινε γνωστή η υπόθεση, επομένως ο ακριβής τρόπος υπολογισμού του προστίμου παραμένει ασαφής (Boursorama/AFP). Το προηγούμενο ολλανδικό πρόστιμο των 290 εκατ. ευρώ στην Uber για μεταφορά δεδομένων οδηγών στις ΗΠΑ φέρεται να έχει ανασταλεί όσο εκκρεμεί η έφεση, κάτι που αφήνει ανοιχτό ανάλογο ενδεχόμενο και εδώ (DutchNews).

Το ευρύτερο μήνυμα αφορά πολύ περισσότερους από την Uber. Εκατομμύρια εργαζόμενοι σε πλατφόρμες εξαρτώνται πλέον από λογισμικό, όχι από έναν προϊστάμενο, για το αν θα μπορέσουν να κερδίσουν εισόδημα μέσα στην ημέρα. Ο ΓΚΠΔ χρησιμοποιείται ήδη ως εργαλείο ελέγχου του τρόπου με τον οποίο οι πλατφόρμες διοικούν εργαζομένους μέσω αλγορίθμων, προτού ακόμη μεταφερθεί το κέντρο βάρους σε νεότερα νομοθετήματα, όπως ο κανονισμός της ΕΕ για την τεχνητή νοημοσύνη, ο οποίος χαρακτηρίζει τα συστήματα τεχνητής νοημοσύνης στον χώρο εργασίας ως υψηλού κινδύνου, ή η οδηγία για την εργασία σε πλατφόρμες, που θα δώσει στους εργαζομένους της gig οικονομίας ισχυρότερα δικαιώματα αμφισβήτησης αυτοματοποιημένων αποφάσεων (Deutschlandfunk, κανονισμός για την τεχνητή νοημοσύνη, 2024/1689). Όλα κινούνται προς τον ίδιο κανόνα: το λογισμικό μπορεί να υποστηρίζει μια εργασιακή απόφαση, αλλά δεν μπορεί να είναι ο μόνος υπεύθυνος παράγοντας.

Για όποιον εξαρτά το εισόδημά του από μια πλατφόρμα, το πρακτικό συμπέρασμα είναι ήδη σαφές. Αν ένας αλγόριθμος μπλοκάρει τον λογαριασμό του, έχει δικαίωμα να μάθει ποια δεδομένα και ποια λογική χρησιμοποιήθηκαν, να ζητήσει ουσιαστική επανεξέταση από άνθρωπο και να αμφισβητήσει την απόφαση. Είτε τα δικαστήρια καταλήξουν ότι η Uber πρέπει να πληρώσει 825 εκατ. ευρώ είτε 82 εκατ. ευρώ για την παραβίαση αυτών των δικαιωμάτων, τα ίδια τα δικαιώματα δεν πρόκειται να εξαφανιστούν.