Google odpowiada za fałszywe oskarżenie AI

W całej Europie wciąż nie ma jasności, czy Google ma obowiązek reagować na błędne odpowiedzi własnej sztucznej inteligencji. 24 września sąd w Akwizgranie nakazał firmie przestać informować użytkowników, że niemiecki ordynator został skazany za przymus seksualny (KPW, Beck aktuell). Skazanie dotyczyło innego człowieka. Google wiedział o błędzie, ale odmówił usunięcia tej informacji.

Dwóch mężczyzn, jedna odpowiedź

28 sierpnia jeden z kolegów ordynatora wyszukał jego nazwisko wraz z niemieckim słowem oznaczającym „zawieszenie”. Tryb AI Google odpowiedział, że lekarz został skazany, zwolniony i otrzymał sześciocyfrową kwotę w ramach ugody (Beck aktuell). Chodziło o historię innego byłego wysokiego rangą pracownika tej samej kliniki.

System połączył dwie osoby. Artykuły, na których się opierał, dotyczyły tamtego mężczyzny i w ogóle nie wymieniały nazwiska ordynatora. Lekarz twierdzi, że nigdy nie toczyło się przeciwko niemu postępowanie ani nie było skargi, zarzutu czy wyroku. Gdy zażądał usunięcia odpowiedzi, 15 września Google odpisał, że nie podejmie żadnych działań (LHR). Nie pomogło też przedsądowe wezwanie wysłane przez jego prawnika.

Co Google ma teraz przestać podawać

Nakaz ma wąski zakres: zakazuje trzech konkretnych wersji fałszywej odpowiedzi. Adresatem jest Google Ireland Limited, europejska spółka zależna koncernu (KPW).

Sąd uznał Google za Störerin — podmiot, który ma obowiązek przerwać naruszenie, jeśli może to zrobić, nawet gdy sam go nie spowodował. Ponieważ fałszywe oskarżenie o przestępstwo jest poważne i wymaga szybkiej reakcji, sąd wydał nakaz bez wcześniejszego wysłuchania Google. Za jego złamanie grozi grzywna do 250 000 EUR, ale dotąd jej nie nałożono (LHR).

Wcześniej w podobnym kierunku poszedł Sąd Krajowy Monachium I. 28 maja rozpatrywał sprawę AI Overview, które powiązało dwóch lokalnych wydawców z oszustwem abonamentowym (wyrok z Monachium). Uznał, że system Google nie ograniczył się do zacytowania źródeł: połączył informacje w nowe twierdzenie, za które — zdaniem sądu — odpowiada Google.

Google zaskarżył wyrok z Monachium, ale postępowanie odwoławcze zakończyło się ugodą i sąd wyższej instancji nie ocenił tej argumentacji (The Decoder). Oba orzeczenia zapadły w pierwszej instancji i nie wiążą innych sędziów.

Luka w prawie UE

Z opublikowanych relacji wynika, że Google odmówił działania, ale nie wiadomo, jak uzasadnił tę decyzję. Najmocniejszy argument, jaki może podnieść, dotyczy skali: system odpowiada na ogromną liczbę pytań i nie może z wyprzedzeniem sprawdzać każdego zdania, a użytkownicy mogą przejść do cytowanych źródeł.

Unijne prawo uwzględnia ten argument, ale nie rozstrzyga sprawy. Akt o usługach cyfrowych (DSA), przyjęty w 2022 r., chroni usługi, które przechowują lub przekazują treści innych osób. Nie nakłada na nie ogólnego obowiązku monitorowania tych treści i zwalnia je z odpowiedzialności, jeśli szybko reagują po otrzymaniu informacji o nielegalnych materiałach (Akt o usługach cyfrowych).

Nierozstrzygnięte pozostaje, czy zdanie napisane przez własną AI Google jest w ogóle treścią „innych osób”. Jeśli tak, Google działa jak dostawca hostingu i musi zareagować po zgłoszeniu. Jeśli nie, jest bliżej autora oskarżenia. Trybunał Sprawiedliwości UE dotąd tego nie rozstrzygnął (Lawfare).

Sąd w Akwizgranie nie musiał wybierać między tymi interpretacjami. W każdym z tych ujęć Google otrzymał udokumentowaną informację o fałszu i pozostawił ją w sieci. To nasza ocena opisanych faktów, a nie uzasadnienie przedstawione przez sąd.

Włoski regulator rynku łączności AGCOM zwrócił się 29 kwietnia do Komisji Europejskiej o zbadanie AI Overviews i AI Mode pod kątem przepisów DSA o ryzyku systemowym (AGCOM). Przepisy te zobowiązują największe platformy do oceny i ograniczania szkód, które powodują ich usługi. Włoski wniosek wynikał przede wszystkim z obaw wydawców o utratę czytelników, a nie z fałszywych oskarżeń. Dochodzenie Komisji mogłoby skłonić Google do lepszego zarządzania takim ryzykiem, ale samo w sobie nie przesądziłoby, kto odpowiada za zniesławiającą odpowiedź AI.

Ordynator uzyskał tyle, ile mogła przynieść ta sprawa: nakaz sądu dotyczący trzech fałszywych odpowiedzi na jego temat, wydany po tym, jak Google zignorował skargę. W Europie wciąż brakuje ogólnej, ustalonej zasady dotyczącej odpowiedzi wyszukiwarek opartych na AI. Osoby w innych krajach nadal mogą korzystać z krajowych przepisów o zniesławieniu i ochronie prywatności, ale każdy sąd musi sam ocenić, czy wypowiedź AI jest wypowiedzią Google. Rozstrzygnięcie obowiązujące w całej Europie wymagałoby wyroku sądu krajowego wyższej instancji, orzeczenia Trybunału Sprawiedliwości UE albo nowych przepisów. Żadne z nich dotąd nie zapadło.