Алгоритъмът на Uber донесе глоба

Шофьор отваря приложението на Убер сутринта и вижда, че профилът му е блокиран. Софтуерът на платформата е отчел нещо: може би необичаен маршрут, разчетен като изкуствено завишаване на цената, или поредица от ниски оценки от клиенти. Няма предупредително писмо, няма телефонно обаждане, няма човек, който да е прегледал случая. Има само екран, от който става ясно, че днес не може да работи.

Точно този механизъм стои в основата на глобата от 825 млн. евро, която Нидерландският орган за защита на личните данни наложи на Убер тази седмица. Това е втората най-голяма санкция досега по европейското законодателство за защита на данните след глобата от 1,2 млрд. евро срещу Мета през 2023 г. (Ройтерс чрез Yahoo Finance, DutchNews). Регулаторът е установил, че Убер е използвала софтуер, за да спира временно или окончателно достъпа на шофьори в Европа до платформата, без да им дава достатъчно информация и без реален човешки преглед на решението (NOS, Euractiv).

Законът, според който компютърът не може да решава сам

Правният принцип е в член 22 от Общия регламент за защита на данните, европейския закон за личните данни. Той дава на хората право да не бъдат подлагани на решения, взети единствено от софтуер, когато тези решения имат сериозно отражение върху живота им (официален текст на ОРЗД). Персонализирана реклама не попада в тази категория. Спирането на нечий доход попада.

Границата е сравнително ясна. Под нея софтуерът може да подрежда курсове или да отчита подозрителни модели. Над нея, когато става дума за доход, трудов достъп или правно положение, регламентът изисква три неща: човек действително да прегледа случая, засегнатият да разбере какви данни и логика са довели до решението, и да има работещ начин да го оспори (официален текст на ОРЗД, насоки, подкрепени от Европейския комитет по защита на данните). „Човешки преглед“ не означава служител просто да натисне „потвърждавам“ в административен панел. Според регулаторните насоки проверяващият трябва да разбира изхода от софтуера, да вижда данните зад него и да има правомощие да отмени решението (насоки, подкрепени от Европейския комитет по защита на данните).

Заместник-председателката на нидерландския регулатор Моник Вердие формулира случая директно: шофьорите са били деактивирани без предупреждение, а компютър не бива самостоятелно да взема решения с големи последици, преди човек да ги е прегледал (Синхуа).

Френски шофьори, нидерландска глоба

Случаят започва с жалби от френски шофьори на Убер. Според публикации те са били 171, макар първоначалната жалба да не е публично достъпна (Boursorama/АФП, Le Figaro/АФП). По правилата на ОРЗД трансграничните случаи обикновено се водят от регулатора в държавата, където компанията има европейската си централа. Тъй като Убер е регистрирана в Амстердам, нидерландският орган пое случая. Така жалба на шофьори във Франция доведе до решение с ефект за цяла Европа (NRC).

Регулаторът е установил, че системите на Убер са маркирали шофьори за предполагаема измама или ниски оценки и са спирали профили без достатъчно обяснение и без ефективна процедура за оспорване. Убер оспорва ключови части от това заключение. Компанията твърди, че окончателните деактивации не са били изцяло автоматизирани и че през 2021 г. само 126 европейски шофьори са били деактивирани заради ниски клиентски оценки (Ройтерс чрез Yahoo Finance, Quartz). Убер определя глобата като „непропорционална“, казва, че разследваните практики са били прекратени преди години, и потвърждава, че ще обжалва (Bloomberg чрез Yahoo Finance).

Сумата може да се промени, принципът не

Обжалването означава, че сумата от 825 млн. евро не е окончателна. Съдът може да я потвърди, намали или изцяло да я отмени. Пълното решение на нидерландския регулатор не беше публикувано към момента, в който новината излезе, затова точният начин на изчисление остава неясен (Boursorama/АФП). Предишната нидерландска глоба от 290 млн. евро срещу Убер за прехвърляне на данни на шофьори към САЩ reportedly е била спряна по време на обжалването, което подсказва, че и тази санкция може да бъде временно блокирана (DutchNews).

По-важният сигнал излиза извън случая с Убер. Милиони работещи през платформи вече зависят от софтуер, а не от пряк ръководител, за да разберат дали могат да печелят в даден ден. ОРЗД вече се използва, за да контролира как платформите управляват работниците чрез алгоритми, още преди по-нови правила като Акта на ЕС за изкуствения интелект или Директивата за работа през платформи да се превърнат в основното поле на спорове. Актът за изкуствения интелект класифицира системите на работното място като високорискови и изисква допълнителен надзор, а директивата ще даде на работещите през платформи по-силни права да оспорват автоматизирани решения (Deutschlandfunk, Акт за изкуствения интелект, Регламент 2024/1689). Посоката е една и съща: софтуерът може да подпомага решение на работното място, но не може да бъде единственият отговорен фактор.

За всеки, който зависи от платформа за доходите си, практическото значение вече е ясно. Ако алгоритъм блокира профила му, той има право да знае какви данни и логика са използвани, да получи реален човешки преглед и да оспори решението. Дали съдът в крайна сметка ще приеме, че Убер трябва да плати 825 млн. евро или 82 млн. евро за нарушаването на тези права, самите права няма да изчезнат.