ChatGPT spadá pod najprísnejší dohľad EÚ

Ak ste zachytili titulky, že Brusel zaradil ChatGPT, Reddit a Roblox pod najprísnejšie pravidlá online bezpečnosti, ľahko sa dá nadobudnúť dojem, že ide o trest za porušenie pravidiel. Tak to nie je. Európska komisia pridala všetky tri služby na zoznam platforiem, ktoré sú také veľké, že ich dizajn neovplyvňuje iba používateľov, ale aj verejný priestor. Skôr než pokutu to pripomína situáciu, keď budova prejde zo systému vlastných kontrol do režimu povinných externých inšpekcií.

Pravidlo veľkosti

Akt o digitálnych službách stanovuje hranicu: každá online služba, ktorú v EÚ mesačne používa viac než 45 miliónov ľudí, spadá do najvyššej úrovne dohľadu (Európska komisia). Ide približne o desatinu obyvateľov EÚ, teda o bod, pri ktorom Brusel považuje architektúru služby za schopnú vyvolávať účinky v celom bloku (prehľad Komisie k DSA).

Všetky tri služby túto hranicu prekročili. ChatGPT nahlásil pri svojej vyhľadávacej funkcii približne 159 miliónov používateľov v EÚ, Reddit 57,2 milióna a Roblox približne 47 miliónov (Euronews, Yahoo News). Celkovo je takto označených už 28 služieb (IEU Monitoring).

Reddit stojí na obsahu, ktorý vytvárajú používatelia. Roblox na hrách vytváraných používateľmi. Obe služby zapadajú do typu platforiem, pre ktoré bol Akt o digitálnych službách písaný. Pri ChatGPT je prípad zaujímavejší. Služba skladá odpovede z informácií naprieč webom do jednej konverzačnej reakcie a Komisia ju zaradila medzi vyhľadávače, pretože pri odpovediach vyhľadáva a zoraďuje externé informácie (Straits Times). Vyhľadávač ovplyvňuje, čo ľudia nájdu. Chatbot napojený na web ide ešte ďalej: viacero zdrojov zlieva do jednej odpovede, a tým sťažuje pochopenie, prečo používateľ dostal práve túto odpoveď a nie inú.

Do tejto kategórie sa prvýkrát dostal veľký AI chatbot. Akt o umelej inteligencii, samostatný právny predpis, ukladá chatbotom povinnosti v oblasti transparentnosti. Označenie podľa DSA robí niečo iné: zaobchádza so službou ako s informačnou infraštruktúrou, ktorá môže škody vytvárať svojím dizajnom vo veľkom rozsahu, nie iba jednotlivým príspevkom či odpoveďou (Les Echos, ZDNet France).

Každoročná kontrola, externý audit, prístup k dátam

Od doručenia oznámenia majú tri služby štyri mesiace na splnenie povinností. V praxi ide o posun od modelu „verte nám, obsah moderujeme“ k správe systému, ktorú možno dokázať a skontrolovať (DSA, nariadenie 2022/2065). Menia sa tri veci.

Po prvé, každoročná kontrola rizík. Firmy musia identifikovať riziká, ktoré vznikajú z ich dizajnu, algoritmov a spôsobu používania. Týka sa to nelegálneho obsahu, škôd pre deti, vplyvu na verejnú debatu aj bezpečnosti (vysvetlenie EDAA). Po druhé, prichádza externý audit. To, či ochranné opatrenia skutočne fungujú, nehodnotia samotné firmy, ale nezávislí audítori (text DSA podľa Prighter). Po tretie, otvára sa prístup k dátam pre výskumníkov. Komisia a preverení akademici môžu žiadať vysvetlenia, ako algoritmy zoraďujú a odporúčajú obsah, a to podľa rámca stanoveného delegovaným nariadením z roku 2025.

Neznamená to, že úradník EÚ bude stáť medzi otázkou pre ChatGPT a odpoveďou alebo schvaľovať jednotlivé príspevky na Reddite. Cieľom je systém: logika zoraďovania, moderovanie, reklamná architektúra a ochrana detí. Keď Komisia zistí porušenia, používa samostatné nástroje presadzovania práva, ako už ukázala pri pokute 120 miliónov EUR pre X či pri predbežných zisteniach voči Mete pre návykový dizajn. Pokuty môžu dosiahnuť až 6 % celosvetového ročného obratu (Brussels Times).

Prečo by to malo zaujímať rodiny

Pre rodičov je najhmatateľnejším prípadom Roblox. Približne 70 % jeho používateľov má menej než 18 rokov (Biz Chosun). Usmernenia DSA k ochrane maloletých zakazujú cielenú reklamu založenú na používateľských profiloch, ak služba vie, že používateľom je dieťa. Zaradenie do najvyššej kategórie núti Roblox posúdiť, či jeho hry vytvárané používateľmi, chatovacie systémy a odporúčacie algoritmy nevytvárajú riziká pre deti vo veľkom rozsahu (usmernenia Komisie k maloletým). Roblox už zaviedol overovanie veku cez rozpoznávanie tváre, vekovo odstupňované obmedzenia chatu aj moderovanie pomocou umelej inteligencie. Teraz pôjde o to, či tieto nástroje spolu fungujú pri desiatkach miliónov používateľov. Komisia bude mať právomoc to posúdiť.

Výkonná podpredsedníčka Komisie Henna Virkkunenová označila nové zaradenia za spôsob, ako prispôsobiť dohľad dosahu týchto služieb (UPI). Právomoci za týmto vyhlásením sú reálne. Do konca decembra by firmy mali vedieť predložiť dokončené hodnotenia rizík, nastavenie auditov a procesy prístupu pre výskumníkov. Podstatné teraz nie je samotné zaradenie na zoznam, ale to, či audítorský aparát Komisie dokáže odlíšiť skutočnú zodpovednosť od dobre pripravenej dokumentácie.