ChatGPT pod strožji nadzor EU

Novica, da je Bruselj ChatGPT, Reddit in Roblox uvrstil pod najstrožja pravila za spletno varnost, se zlahka bere kot ugotovitev kršitve. To ni to. Evropska komisija je vse tri storitve dodala na seznam platform, ki so tako velike, da njihove oblikovne in poslovne odločitve ne vplivajo več samo na uporabnike, temveč na širšo družbo. Gre manj za kazen in bolj za prehod iz samoporočanja v režim obveznih pregledov.

Pravilo velikosti

Akt o digitalnih storitvah določa jasen prag: vsaka spletna storitev, ki jo v EU mesečno uporablja več kot 45 milijonov ljudi, preide v najvišjo raven nadzora (European Commission). Ta številka približno ustreza desetini prebivalstva EU, kar je meja, pri kateri Bruselj ocenjuje, da lahko arhitektura storitve povzroča učinke na ravni celotne Unije (Commission DSA overview).

Vse tri storitve so prag presegle. ChatGPT je za svojo iskalno funkcijo prijavil približno 159 milijonov uporabnikov v EU, Reddit 57,2 milijona, Roblox pa približno 47 milijonov (Euronews, Yahoo News). Skupno število tako označenih storitev je zdaj 28 (IEU Monitoring).

Reddit temelji na vsebinah, ki jih ustvarjajo uporabniki. Roblox gosti igre, ki jih prav tako ustvarjajo uporabniki. Obe storitvi se dobro ujemata s tipom platform, za katere je bil Akt o digitalnih storitvah napisan. ChatGPT je zahtevnejši primer. Odgovore sestavlja iz informacij z različnih delov spleta in jih uporabniku predstavi kot en sam pogovorni odgovor. Komisija ga je zato obravnavala kot iskalnik, ker pri uporabniških poizvedbah pridobiva in razvršča zunanje informacije (Straits Times). Iskalnik vpliva na to, kaj uporabniki najdejo. Klepetalnik, ki išče po spletu, naredi še korak dlje: več virov stisne v en odgovor, zato je težje razbrati, zakaj je uporabnik dobil prav ta odgovor in ne drugega.

To je prvič, da je v ta razred vstopil množično uporabljan klepetalnik umetne inteligence. Akt o umetni inteligenci, ločen pravni okvir, klepetalnikom nalaga obveznosti preglednosti. Oznaka po Aktu o digitalnih storitvah pomeni nekaj drugega: storitev se obravnava kot informacijska infrastruktura, ki lahko zaradi svoje zasnove in obsega povzroča sistemska tveganja, ne le škode zaradi posamezne objave ali odgovora (Les Echos, ZDNet France).

Letni pregled, zunanji nadzornik, odprte knjige

Tri storitve imajo od uradnega obvestila štiri mesece časa za uskladitev. V praksi se obveznosti premaknejo od logike »zaupajte nam, moderiramo« k dokazljivemu in preverljivemu upravljanju (DSA, Regulation 2022/2065). Spremenijo se tri stvari.

Prva je letna ocena tveganj. Podjetja morajo opredeliti tveganja, ki jih ustvarjajo njihova zasnova, algoritmi in vzorci uporabe, vključno z nezakonitimi vsebinami, škodo za otroke, vplivom na javno razpravo in varnostjo (EDAA explainer). Druga je zunanji pregled. Neodvisni revizorji, ne podjetja sama, ocenjujejo, ali zaščitni ukrepi dejansko delujejo (Prighter DSA text). Tretja so odprte knjige za raziskovalce. Komisija in preverjeni akademski raziskovalci lahko zahtevajo pojasnila, kako algoritmi razvrščajo in priporočajo vsebine, v okviru, ki ga je določila delegirana uredba iz leta 2025.

To ne pomeni, da bo uradnik EU sedel med uporabnikovim vprašanjem ChatGPT in njegovim odgovorom ali potrjeval posamezne objave na Redditu. Tarča je sistem: logika razvrščanja, mehanizmi moderiranja, oglaševalska arhitektura in zasnova varstva otrok. Kadar Komisija ugotovi kršitve, uporabi ločena izvršilna orodja, kot je to že storila pri 120-milijonski globi za X in pri predhodnih ugotovitvah proti Meti zaradi zasvojljive zasnove. Globe lahko dosežejo 6 odstotkov svetovnega letnega prometa (Brussels Times).

Zakaj bi morali biti starši pozorni

Za starše je Roblox najbolj otipljiv primer. Približno 70 odstotkov njegovih uporabnikov je mlajših od 18 let (Biz Chosun). Smernice Akta o digitalnih storitvah za mladoletnike prepovedujejo ciljno oglaševanje na podlagi uporabniških profilov, kadar storitev ve, da je uporabnik otrok. Uvrstitev v najvišji nadzorni razred pomeni, da mora Roblox oceniti, ali igre, klepetalni sistemi in priporočilni algoritmi, ki jih ustvarjajo oziroma uporabljajo uporabniki, povzročajo tveganja za otroke v velikem obsegu (Commission minors guidelines). Roblox je že uvedel preverjanje starosti s prepoznavanjem obraza, starostno omejene klepete in moderiranje z umetno inteligenco. Zdaj bo ključno, ali ti ukrepi delujejo povezano in pri množični uporabi, Komisija pa bo imela podlago, da to presodi.

Izvršna podpredsednica Henna Virkkunen je odločitev predstavila kot zahtevo, da so storitve podvržene nadzoru, ki ustreza njihovemu dosegu (UPI). Pristojnosti za izvrševanje niso simbolične. Do konca decembra bi morala podjetja pokazati dokončane ocene tveganj, dogovorjene revizijske postopke in mehanizme za dostop raziskovalcev. Odločilno zdaj ni samo imenovanje na seznam, temveč vprašanje, ali bo nadzorni aparat Komisije dovolj natančen, da bo ločil dejansko odgovornost od dobro urejene dokumentacije o skladnosti.