Njemački sudovi Google terete zbog lažnih AI tvrdnji

Zemaljski sud u Aachenu 24. rujna zabranio je Googleu da korisnicima prikazuje tvrdnju da je njemački predstojnik bolničkog odjela osuđen za seksualnu prisilu (KPW, Beck aktuell). Osuđen je bio netko drugi. Google je znao za pogrešku, ali je odbio ukloniti tvrdnju. Još nije razjašnjeno ima li Google istu obvezu reagirati na takve pogreške i drugdje u Europi.

Dvojica muškaraca, jedan odgovor

Kolega je 28. kolovoza pretražio liječnikovo ime uz njemačku riječ za „suspenziju“. Googleova značajka AI Mode odgovorila je da je liječnik osuđen, otpušten i da je dobio nagodbu u šesteroznamenkastom iznosu (Beck aktuell). Taj se niz događaja odnosio na drugog bivšeg visokog dužnosnika iste klinike.

Umjetna inteligencija spojila je dvojicu muškaraca. Članci na kojima se odgovor temeljio odnosili su se na drugog muškarca i liječnika nisu ni spominjali. Liječnik tvrdi da protiv njega nikad nije bilo prijave, postupka ni osude. Kad je zatražio od Googlea da ukloni odgovore, tvrtka mu je 15. rujna poručila da neće ništa poduzeti (LHR). Nije pomogla ni formalna opomena njegova odvjetnika.

Što Google sada mora ukloniti

Nalog je ograničen: zabranjuje tri točno određene inačice lažnog odgovora. Upućen je Google Ireland Limitedu, europskoj podružnici tvrtke (KPW).

Sud je Googleu pripisao status Störerin: prema njemačkom pravu zaštite osobnosti, riječ je o subjektu koji mora zaustaviti povredu ako to može učiniti, premda je nije sam prouzročio. Budući da je lažna optužba za kazneno djelo ozbiljna i hitna, sud je odlučio bez prethodnog saslušanja Googlea. Kršenje naloga moglo bi biti kažnjeno novčanom kaznom do 250.000 eura, no kazna još nije izrečena (LHR).

Sličan je smjer zauzeo i raniji njemački sud. Zemaljski sud u Münchenu I razmatrao je 28. svibnja pregled AI Overviewa koji je dva lokalna izdavača doveo u vezu s prijevarom s pretplatama (presuda iz Münchena). Sud je utvrdio da Googleov sustav nije samo prenio navode iz izvora: povezao ih je i sastavio novu tvrdnju, za koju je sud smatrao odgovornim Google.

Google se žalio na münchensku presudu, ali je žalbeni postupak završio nagodbom, pa viši sud nije provjerio njezino obrazloženje (The Decoder). Obje su odluke prvostupanjske i nijedna ne obvezuje sudove drugdje.

Nerazjašnjeno pitanje u pravu EU-a

Objavljeni prikazi slučaja navode da je Google odbio postupiti, ali ne i zašto. Njegov najjači mogući argument odnosi se na razmjere: sustav koji odgovara na golem broj upita ne može unaprijed provjeriti svaku rečenicu, a korisnici mogu pratiti poveznice na izvore.

Pravo EU-a uzima u obzir taj argument, ali ne daje konačan odgovor. Akt o digitalnim uslugama, odnosno DSA, pravila su EU-a za internetske platforme donesena 2022. godine. Njime se štite usluge koje pohranjuju ili prenose tuđi sadržaj. Te usluge nemaju opću obvezu nadzirati sadržaj i ne snose odgovornost ako brzo reagiraju nakon obavijesti da je nešto nezakonito (Akt o digitalnim uslugama).

Otvoreno je pitanje smatra li se rečenica koju je napisala Googleova umjetna inteligencija tuđim sadržajem. Ako se smatra, Google je pružatelj usluge smještaja sadržaja i mora reagirati nakon što bude obaviješten. Ako ne, više nalikuje autoru tvrdnje. Sud Europske unije o tome još nije odlučivao (Lawfare).

Sud u Aachenu nije morao izabrati između tih tumačenja. Prema bilo kojem od njih, Google je dobio dokaze da je tvrdnja neistinita, ali ju je ostavio na internetu. To je naše tumačenje objavljenih činjenica, a ne obrazloženje koje je sud iznio.

Italija nudi jednu usporedbu. Talijansko regulatorno tijelo za komunikacije AGCOM zatražilo je 29. travnja od Europske komisije da ispita AI Overviews i AI Mode prema pravilima Akta o sistemskim rizicima (AGCOM). Ta pravila obvezuju najveće platforme da procjenjuju i ograničavaju štetu koju njihove usluge mogu prouzročiti. Talijanski je potez potaknula ponajprije zabrinutost izdavača zbog gubitka čitatelja, a ne lažne optužbe. Istraga Europske komisije mogla bi potaknuti Google da bolje upravlja takvim rizicima, ali sama po sebi ne bi odredila tko odgovara za klevetu u odgovoru umjetne inteligencije.

Liječnik je dobio ono što je ovaj slučaj mogao donijeti: sudski nalog protiv triju lažnih odgovora o njemu, nakon što je Google zanemario njegovu pritužbu. Europa i dalje nema utvrđeno pravilo za odgovore umjetne inteligencije u tražilicama općenito. Ljudi drugdje nisu bez pravne zaštite jer se i dalje primjenjuju nacionalni zakoni o kleveti i privatnosti. No svaki sud mora sam odlučiti govori li Googleova umjetna inteligencija u ime Googlea. Za zajednički europski odgovor bila bi potrebna odluka višeg nacionalnog suda, presuda Suda Europske unije ili novo zakonodavstvo; zasad se ništa od toga nije dogodilo.