ChatGPT patenka į griežčiausią ES priežiūrą

Antraštės apie tai, kad Briuselis ChatGPT, Reddit ir Roblox pritaikė griežčiausias interneto saugumo taisykles, gali sudaryti klaidingą įspūdį: tai nėra pažeidimo konstatavimas. Europos Komisija visas tris paslaugas įtraukė į sąrašą platformų, kurių mastas toks didelis, kad jų dizaino sprendimai veikia ne tik naudotojus, bet ir platesnę visuomenę. Tiksliau tai panašu ne į baudą už saugumo pažeidimą, o į pastatą, kuriam nuo savarankiškos priežiūros pereinama prie privalomų patikrinimų.

Dydžio taisyklė

Skaitmeninių paslaugų aktas nustato ribą: bet kuri internetinė paslauga, kuria ES per mėnesį naudojasi daugiau kaip 45 mln. žmonių, patenka į aukščiausią priežiūros kategoriją (Europos Komisija). Tai maždaug dešimtadalis ES gyventojų — lygis, nuo kurio Briuselis laiko paslaugos architektūrą pajėgia sukelti poveikį visame bloke (Komisijos DSA apžvalga).

Visos trys paslaugos šią ribą peržengė. ChatGPT nurodė turinti apie 159 mln. ES naudotojų savo paieškos funkcijai, Reddit — 57,2 mln., Roblox — apie 47 mln. (Euronews, Yahoo News). Iš viso taip paskirtų paslaugų dabar 28 (IEU Monitoring).

Reddit talpina naudotojų kuriamą turinį. Roblox talpina naudotojų kuriamus žaidimus. Abi paslaugos atitinka modelį, kuriam Skaitmeninių paslaugų aktas ir buvo rašytas. ChatGPT atvejis sudėtingesnis. Ši paslauga iš įvairių interneto šaltinių sintetina atsakymus į vieną pokalbio formos tekstą, o Komisija ją priskyrė paieškos sistemoms, nes, naudotojui pateikus klausimą, ji gauna ir rikiuoja išorinę informaciją (Straits Times). Paieškos sistema formuoja tai, ką naudotojas randa. Internetą naršantis pokalbių robotas žengia toliau: kelis šaltinius sutraukia į vieną atsakymą, todėl sunkiau suprasti, kodėl pateiktas būtent toks, o ne kitoks atsakymas.

Tai pirmas kartas, kai į šią kategoriją patenka plačiai naudojamas dirbtinio intelekto pokalbių robotas. Atskirai galiojantis Dirbtinio intelekto aktas pokalbių robotams nustato skaidrumo pareigas. Skaitmeninių paslaugų akto priskyrimas daro ką kita: paslauga traktuojama kaip informacinė infrastruktūra, kurios mastas leidžia žalai atsirasti dėl sistemos dizaino, o ne dėl vieno įrašo ar vieno atsakymo (Les Echos, ZDNet France).

Metinis patikrinimas, išorės auditorius, atveriami duomenys

Nuo pranešimo gavimo trys paslaugos turi keturis mėnesius prisitaikyti prie reikalavimų. Praktikoje tai reiškia perėjimą nuo „pasitikėkite mumis, mes moderuojame“ prie įrodomo ir audituojamo valdymo (DSA, Reglamentas 2022/2065). Keičiasi trys dalykai.

Pirma — metinis sistemos būklės patikrinimas. Įmonės turės nustatyti rizikas, kylančias iš jų dizaino, algoritmų ir naudojimo modelių: neteisėtą turinį, žalą vaikams, poveikį viešajai diskusijai ir saugumui (EDAA paaiškinimas). Antra — išorės auditorius. Ne pačios įmonės, o nepriklausomi auditoriai vertins, ar apsaugos priemonės iš tiesų veikia (Prighter DSA tekstas). Trečia — prieiga tyrėjams. Komisija ir patikrinti akademiniai tyrėjai galės prašyti paaiškinimų, kaip algoritmai rikiuoja ir rekomenduoja turinį; šią sistemą nustatė 2025 m. deleguotasis reglamentas.

Tai nereiškia, kad ES pareigūnas atsistos tarp ChatGPT užklausos ir atsakymo arba tvirtins atskirus Reddit įrašus. Taikinys — sistema: rikiavimo logika, moderavimo mechanizmai, reklamos architektūra, vaikų apsaugos dizainas. Kai Komisija nustato pažeidimų, ji taiko atskiras vykdymo užtikrinimo priemones, kaip jau padaryta skyrus 120 mln. € baudą X ir pateikus preliminarias išvadas dėl Meta priklausomybę skatinančio dizaino. Baudos gali siekti 6 % pasaulinės metinės apyvartos (Brussels Times).

Kodėl tai svarbu šeimoms

Tėvams apčiuopiamiausias atvejis — Roblox. Apie 70 % jos naudotojų jaunesni nei 18 metų (Biz Chosun). Skaitmeninių paslaugų akto gairės dėl nepilnamečių draudžia tikslinę reklamą pagal naudotojo profilį, kai paslauga žino, kad naudotojas vaikas. Aukščiausios kategorijos priskyrimas įpareigoja Roblox įvertinti, ar naudotojų kuriami žaidimai, pokalbių sistemos ir rekomendavimo algoritmai dideliu mastu kelia rizikų vaikams (Komisijos gairės dėl nepilnamečių). Roblox jau įdiegė amžiaus patikrinimą pagal veido atpažinimą, amžiaus grupėmis ribojamus pokalbius ir dirbtiniu intelektu paremtą moderavimą. Dabar klausimas, ar šios priemonės veikia kartu ir dideliu mastu; Komisija turės pagrindą tai vertinti.

Vykdomoji pirmininkės pavaduotoja Hena Virkunen šiuos priskyrimus apibūdino kaip priežiūros suderinimą su paslaugų pasiekiamumu (UPI). Už šių žodžių stovi realios vykdymo galios. Iki gruodžio pabaigos įmonės turėtų galėti parodyti atliktus rizikos vertinimus, audito susitarimus ir tyrėjų prieigos procedūras. Toliau svarbiausia ne pats priskyrimas, o tai, ar Komisijos audito mechanizmas pajėgs atskirti tikrą atskaitomybę nuo tvarkingai parengtų atitikties dokumentų.