Google odpovídá za lživá obvinění své AI

Dne 24. září nařídil Zemský soud v Cáchách Googlu, aby přestal uživatelům tvrdit, že německý primář byl odsouzen za sexuální nátlak (KPW, Beck aktuell). Odsouzen za něj byl někdo jiný. Google o chybě věděl, ale odmítl tvrzení odstranit. Zda má stejnou povinnost zasahovat proti podobným chybám i jinde v Evropě, zatím není jasné.

Dva muži, jedna odpověď

Dne 28. srpna zadal jeden z lékařových kolegů do vyhledávání jeho jméno spolu s německým výrazem pro suspendování z funkce. Google v režimu AI Mode uvedl, že lékaře odsoudili, propustili a při vyrovnání dostal šestimístnou částku (Beck aktuell). Tento příběh se ale týkal jiného bývalého vedoucího pracovníka téže kliniky.

AI sloučila údaje o dvou lidech. Články, z nichž čerpala, se týkaly druhého muže a lékaře vůbec nejmenovaly. Lékař tvrdí, že proti němu nikdy nikdo nepodal stížnost, nebylo proti němu vedeno řízení ani nebyl odsouzen. Když požádal Google o odstranění odpovědí, společnost mu 15. září sdělila, že nezasáhne (LHR). Nepomohla ani formální výzva jeho právníka.

Co musí Google odstranit

Soudní zákaz se vztahuje na tři konkrétní varianty nepravdivé odpovědi. Míří na Google Ireland Limited, evropskou dceřinou společnost Googlu (KPW).

Soud posoudil Google jako Störerin. Podle německého práva na ochranu osobnosti jde o subjekt, který musí ukončit zásah, pokud ho může zastavit, i když ho sám nezpůsobil. Nepravdivé obvinění z trestného činu je závažné a naléhavé, proto soud rozhodl bez předchozího slyšení Googlu. Za porušení příkazu může soud uložit pokutu až 250 000 eur; zatím žádnou neuložil (LHR).

Podobným směrem se vydal i dřívější německý soud. Dne 28. května posuzoval Zemský soud v Mnichově I výsledek AI Overview, který spojil dva místní vydavatele s podvodem s předplatným (rozsudek z Mnichova). Podle soudu systém zdroje pouze necitoval: spojil jejich informace a vytvořil nové tvrzení. Za něj soud činil odpovědným Google.

Google se proti mnichovskému rozsudku odvolal, odvolací řízení ale skončilo dohodou, takže vyšší soud tuto argumentaci neposoudil (The Decoder). Oba rozsudky vydaly soudy prvního stupně. Jiné soudy nezavazují.

Mezera v právu EU

Zveřejněné zprávy uvádějí, že Google odmítl zasáhnout, důvod ale nepopisují. Google může namítat především rozsah služby: systém, který odpovídá na obrovské množství dotazů, nemůže předem kontrolovat každou odpověď a uživatelé mohou přejít na citované odkazy.

Právo EU tuto námitku částečně řeší, spor ale neuzavírá. Nařízení o digitálních službách (DSA), unijní pravidla pro online platformy přijatá v roce 2022, chrání služby, které ukládají nebo předávají obsah třetích stran. Tyto služby nemají obecnou povinnost obsah sledovat a neodpovídají za něj, pokud po upozornění na jeho protiprávnost rychle zasáhnou (Nařízení o digitálních službách).

Zásadní otázkou zůstává, zda věta vytvořená vlastní umělou inteligencí Googlu vůbec spadá pod obsah třetích stran. Pokud ano, Google má postavení poskytovatele hostingu a po upozornění musí jednat. Pokud ne, připomíná spíše autora tvrzení. Soudní dvůr EU o tom dosud nerozhodl (Lawfare).

Soud v Cáchách tuto otázku nemusel rozhodnout. V obou výkladech měl Google doloženou nepravdivou informaci, přesto ji ponechal na internetu. Tak lze číst popsaná fakta; soud to však ve svém odůvodnění výslovně neuvedl.

Srovnání nabízí Itálie. Dne 29. dubna požádal tamní regulátor komunikací AGCOM Evropskou komisi, aby prověřila AI Overviews a AI Mode podle pravidel DSA o systémových rizicích (AGCOM). Tato pravidla ukládají největším platformám posuzovat a omezovat rizika, která jejich služby vytvářejí. Italský podnět vyvolaly hlavně obavy vydavatelů, že přijdou o čtenáře, nikoli nepravdivá obvinění. Šetření Komise by mohlo Google přimět, aby tato rizika lépe řídil. Samo by ale nerozhodlo, kdo odpovídá za nepravdivé obvinění v odpovědi AI.

Primář získal to, co tento spor mohl přinést: soud po ignorované stížnosti Googlu zakázal tři nepravdivé odpovědi o něm. Pro odpovědi AI ve vyhledávačích zatím v Evropě neplatí jednotné pravidlo. Lidé v jiných zemích mají dál k dispozici právní prostředky, protože se na ně vztahují vnitrostátní pravidla pro pomluvu a ochranu soukromí. Každý soud ale musí sám rozhodnout, zda jsou odpovědi AI výroky Googlu. Jednotné evropské řešení by vyžadovalo rozhodnutí vyššího vnitrostátního soudu, rozsudek Soudního dvora EU nebo novou právní úpravu. Zatím nepřišlo ani jedno.