ChatGPT míří pod nejpřísnější dohled EU

Když se v titulcích objevilo, že Brusel zařadil ChatGPT, Reddit a Roblox pod nejpřísnější pravidla pro bezpečnost online služeb, snadno to mohlo vypadat jako trest za konkrétní provinění. O to nejde. Evropská komise všechny tři služby přesunula do kategorie platforem tak velkých, že jejich nastavení už neovlivňuje jen jednotlivé uživatele, ale i veřejný prostor. Blíže než k pokutě má tento krok k povinným kontrolám u budovy, která kvůli své velikosti nemůže spoléhat jen na vlastní údržbový deník.

Pravidlo velikosti

Akt o digitálních službách, známý jako DSA, stanovuje jasnou hranici: pokud online službu v EU používá více než 45 milionů lidí měsíčně, spadá do nejvyšší úrovně dohledu (Evropská komise). Jde zhruba o desetinu obyvatel Unie, tedy o velikost, při níž podle Bruselu mohou pravidla, algoritmy a obchodní model služby vytvářet dopady napříč celým blokem (přehled DSA Evropské komise).

Všechny tři služby tuto hranici překročily. ChatGPT vykázal u své vyhledávací funkce zhruba 159 milionů uživatelů v EU, Reddit 57,2 milionu a Roblox přibližně 47 milionů (Euronews, Yahoo News). Celkový počet služeb zařazených do nejpřísnějšího režimu tak vzrostl na 28 (IEU Monitoring).

U Redditu a Robloxu je zařazení poměrně přímočaré. Reddit stojí na obsahu vytvářeném uživateli, Roblox na hrách vytvářených uživateli. Obě služby odpovídají typu platforem, pro které byl DSA původně psán. Zajímavější je ChatGPT. Ten skládá odpovědi z informací dostupných na webu do jedné konverzační reakce a Komise ho zařadila mezi vyhledávače, protože při dotazu vyhledává a řadí externí informace (Straits Times). Vyhledávač ovlivňuje, co uživatel najde. Chatbot připojený k webu jde ještě dál: více zdrojů převádí do jedné odpovědi, takže je hůře vidět, proč uživatel dostal právě tuto odpověď, a ne jinou.

Do této úrovně dohledu se tak poprvé dostal běžně používaný AI chatbot. Zvlášť existuje Akt o umělé inteligenci, který chatbotům ukládá povinnosti v oblasti transparentnosti. Zařazení podle DSA míří jinam: zachází se službou jako s informační infrastrukturou, která může kvůli svému nastavení vytvářet rizika ve velkém měřítku, nikoli jen prostřednictvím jednotlivého příspěvku nebo jedné odpovědi (Les Echos, ZDNet France).

Každoroční kontrola, externí audit, otevřené knihy

Od oznámení mají tři služby čtyři měsíce na splnění nových povinností. V praxi se posouvají z režimu „věřte nám, moderujeme“ do režimu doložitelné a auditovatelné správy (DSA, nařízení 2022/2065). Mění se hlavně tři věci.

Zaprvé přichází každoroční kontrola rizik. Firmy musí popsat rizika, která vznikají z jejich designu, algoritmů a způsobu používání: od nelegálního obsahu přes dopady na děti až po vliv na veřejnou debatu a bezpečnost (vysvětlení EDAA). Zadruhé nastupuje externí kontrolor. To, zda ochranná opatření skutečně fungují, mají hodnotit nezávislí auditoři, nikoli samotné firmy (text DSA podle Prighter). Zatřetí se otevírá přístup k datům pro výzkumníky. Komise a prověření akademici mohou žádat vysvětlení, jak algoritmy řadí a doporučují obsah, a to podle rámce stanoveného delegovaným nařízením z roku 2025.

Neznamená to, že by úředník EU seděl mezi dotazem v ChatGPT a odpovědí, nebo schvaloval jednotlivé příspěvky na Redditu. Cílem je systém: logika řazení, moderační aparát, reklamní infrastruktura a nastavení ochrany dětí. Když Komise zjistí porušení pravidel, používá samostatné nástroje vymáhání, jak už ukázala u pokuty 120 milionů EUR pro síť X nebo u předběžných zjištění vůči Metě kvůli návykovému designu. Pokuty mohou dosáhnout až 6 % celosvětového ročního obratu (Brussels Times).

Proč by to mělo zajímat rodiče

Pro rodiče je nejhmatatelnějším případem Roblox. Přibližně 70 % jeho uživatelů je mladších 18 let (Biz Chosun). Pokyny DSA k ochraně nezletilých zakazují cílenou reklamu založenou na uživatelských profilech, pokud služba ví, že uživatelem je dítě. Zařazení do nejvyšší úrovně dohledu zároveň Robloxu ukládá posoudit, zda jeho uživatelské hry, chatovací systémy a doporučovací algoritmy nevytvářejí rizika pro děti ve velkém měřítku (pokyny Komise k nezletilým). Roblox už zavedl ověřování věku pomocí rozpoznávání obličeje, věkově odstupňovaná omezení chatu i moderaci s pomocí AI. Teď půjde o to, zda tyto nástroje dohromady fungují i při desítkách milionů uživatelů. Komise k tomu bude mít silnější přístup než dosud.

Výkonná místopředsedkyně Komise Henna Virkkunenová zařazení popsala jako snahu podrobit tyto služby kontrole odpovídající jejich dosahu (UPI). Pravomoci za touto větou nejsou symbolické. Do konce prosince by firmy měly být schopny předložit hotová posouzení rizik, nastavené audity a procesy pro přístup výzkumníků. Podstatné teď nebude samotné zařazení na seznam, ale to, zda bruselský auditní aparát dokáže odlišit skutečnou odpovědnost od dobře uhlazené dokumentace.