Google nemôže ignorovať falošné tvrdenia AI

24. septembra nariadil Krajinský súd v Aachene Googlu, aby prestal používateľom tvrdiť, že nemecký primár bol odsúdený za sexuálne donucovanie (KPW, Beck aktuell). Odsúdený bol niekto iný. Google o chybe vedel, no neodstránil ju. Zatiaľ nie je jasné, či má rovnakú povinnosť konať aj pri podobných chybách v iných krajinách Európy.

Dvaja muži, jedna odpoveď

28. augusta zadal kolega meno lekára spolu s nemeckým výrazom pre „dočasné zbavenie funkcie“. Funkcia AI Mode od Googlu odpovedala, že lekára odsúdili, prepustili a vyplatili mu šesťciferné vyrovnanie (Beck aktuell). Táto minulosť patrila inému bývalému vedúcemu pracovníkovi tej istej kliniky.

Umelá inteligencia si pomýlila dvoch ľudí. Články, z ktorých čerpala, sa týkali druhého muža a lekára vôbec nespomínali. Lekár tvrdí, že proti nemu nikdy nepodali trestné oznámenie, neviedlo sa konanie ani nebol odsúdený. Keď požiadal Google o odstránenie odpovedí, spoločnosť mu 15. septembra oznámila, že konať nebude (LHR). Nepomohla ani formálna výzva jeho advokáta.

Čo musí Google prestať robiť

Súdny príkaz má úzky rozsah: zakazuje tri konkrétne podoby nepravdivej odpovede. Smeruje voči spoločnosti Google Ireland Limited, európskej dcérskej spoločnosti Googlu (KPW).

Súd posudzoval Google ako Störerin — subjekt, ktorý je podľa nemeckého práva na ochranu osobnosti povinný ukončiť zásah, ak ho dokáže zastaviť, aj keď ho sám nespôsobil. Nepravdivé obvinenie z trestného činu považoval za natoľko závažné a naliehavé, že rozhodol bez toho, aby Google najprv vypočul. Za porušenie hrozí pokuta do 250 000 €, zatiaľ ju však súd neuložil (LHR).

Podobným smerom sa už skôr vydal aj nemecký súd. Krajinský súd v Mníchove 28. mája posudzoval prehľad AI Overview, ktorý spájal dve miestne vydavateľstvá s podvodom pri predplatnom (rozsudok Mníchovského súdu). Zistil, že systém Googlu len necitoval zdroje, ale spojil ich do nového tvrdenia. Zaň potom podľa súdu zodpovedal Google.

Google sa proti mníchovskému rozhodnutiu odvolal, odvolanie sa však skončilo dohodou. Vyšší súd preto jeho právne zdôvodnenie nepreskúmal (The Decoder). Obe rozhodnutia vydali súdy prvej inštancie. Pre súdy v iných prípadoch nie sú záväzné.

Medzera v práve EÚ

Zverejnené opisy prípadu uvádzajú, že Google odmietol konať, dôvod však neuvádzajú. Jeho najsilnejšou námietkou môže byť rozsah prevádzky: systém, ktorý odpovedá na obrovské množstvo otázok, nemôže vopred preveriť každú vetu a používatelia môžu kliknúť na citované odkazy.

Právny rámec EÚ túto námietku zohľadňuje, no otázku nerieši. Akt o digitálnych službách (DSA), pravidlá EÚ pre online platformy prijaté v roku 2022, chráni služby, ktoré ukladajú alebo prenášajú obsah iných ľudí. Takéto služby nemajú všeobecnú povinnosť obsah kontrolovať a nenesú zaň zodpovednosť, ak po upozornení na nezákonný obsah rýchlo zakročia (Akt o digitálnych službách).

Otázkou zostáva, či veta vytvorená vlastnou umelou inteligenciou Googlu vôbec patrí medzi obsah iných ľudí. Ak áno, Google je poskytovateľom, ktorý musí po upozornení konať. Ak nie, pripomína skôr autora tvrdenia. Súdny dvor EÚ o tom zatiaľ nerozhodol (Lawfare).

Súd v Aachene si nemusel vybrať medzi týmito výkladmi. V oboch prípadoch Google dostal doklad o nepravdivom tvrdení a nechal ho online. Takto čítame zverejnené fakty; súd to vo svojom odôvodnení výslovne nepovedal.

Porovnanie ponúka Taliansko. Jeho úrad pre reguláciu komunikácií AGCOM 29. apríla požiadal Európsku komisiu, aby preskúmala AI Overviews a AI Mode z hľadiska pravidiel o systémových rizikách v akte (AGCOM). Tieto pravidlá ukladajú najväčším platformám povinnosť posudzovať a obmedzovať škody, ktoré ich služby spôsobujú. Taliansky krok vyvolali najmä obavy vydavateľov, že prídu o čitateľov, nie nepravdivé obvinenia. Vyšetrovanie Komisie by mohlo prinútiť Google, aby tieto riziká lepšie riadil. Samo osebe by však nerozhodlo, kto zodpovedá za ohováranie v odpovediach umelej inteligencie.

Lekár dosiahol, čo tento prípad mohol priniesť: súd zakázal tri nepravdivé odpovede o ňom po tom, čo Google ignoroval jeho sťažnosť. Európa však stále nemá ustálené pravidlo pre odpovede umelej inteligencie vo vyhľadávaní. Ľudia v iných krajinách sa môžu brániť podľa vnútroštátnych pravidiel na ochranu osobnosti a súkromia. Každý súd však musí sám rozhodnúť, či sa odpoveď umelej inteligencie právne pripíše Googlu. Celoeurópska odpoveď by si vyžadovala rozhodnutie vyššej súdnej inštancie v niektorom členskom štáte, rozsudok Súdneho dvora EÚ alebo novú legislatívu. Zatiaľ nič z toho nenastalo.