ChatGPT nonāk stingrākā ES uzraudzībā

Ja virsrakstos lasījāt, ka Brisele ChatGPT, Reddit un Roblox pakļāvusi stingrākajiem tiešsaistes drošības noteikumiem, to nevajadzētu uztvert kā pārkāpuma konstatējumu. Eiropas Komisija visus trīs pakalpojumus iekļāvusi to platformu sarakstā, kuru mērogs ir tik liels, ka to dizaina izvēles ietekmē ne tikai lietotājus, bet arī sabiedrību kopumā. Precīzāk to var salīdzināt nevis ar sodu par drošības pārkāpumu, bet ar ēku, kurai vairs nepietiek ar paša īpašnieka uzturēšanas ziņojumiem un jāveic obligātas ārējās pārbaudes.

Mēroga robeža

Digitālo pakalpojumu akts nosaka skaidru slieksni: ja tiešsaistes pakalpojumu ES mēnesī izmanto vairāk nekā 45 miljoni cilvēku, tas nonāk augstākajā uzraudzības līmenī (Eiropas Komisija). Šis skaitlis ir aptuveni desmitā daļa ES iedzīvotāju, un Brisele to uzskata par robežu, aiz kuras pakalpojuma arhitektūra var radīt sekas visā blokā (Komisijas DPA pārskats).

Visi trīs pakalpojumi šo slieksni pārsniedza. ChatGPT ziņoja par aptuveni 159 miljoniem ES lietotāju tā meklēšanas funkcijai, Reddit — par 57,2 miljoniem, bet Roblox — par aptuveni 47 miljoniem (Euronews, Yahoo News). Kopējais šādi izraudzīto pakalpojumu skaits tagad sasniedz 28 (IEU Monitoring).

Reddit balstās lietotāju radītā saturā. Roblox uztur lietotāju veidotas spēles. Abi labi atbilst platformu tipam, kuram Digitālo pakalpojumu akts sākotnēji tika rakstīts. ChatGPT gadījums ir sarežģītāks. Tas no tīmeklī pieejamas informācijas veido vienu sarunvalodas atbildi, un Komisija to klasificēja kā meklētājprogrammu, jo pakalpojums pēc lietotāja vaicājuma iegūst un ranžē ārēju informāciju (Straits Times). Meklētājprogramma ietekmē to, ko lietotājs atrod. Čatbots, kas meklē tīmeklī, iet soli tālāk: tas vairākus avotus sapresē vienā atbildē, tādēļ lietotājam ir grūtāk saprast, kāpēc viņš saņēma tieši šo atbildi, nevis citu.

Šī ir pirmā reize, kad plaši lietots mākslīgā intelekta čatbots nonāk šajā uzraudzības līmenī. Mākslīgā intelekta akts, kas ir atsevišķs regulējums, čatbotiem nosaka pārredzamības pienākumus. Digitālo pakalpojumu akta piemērošana nozīmē ko citu: pakalpojums tiek uztverts kā informācijas infrastruktūra, kas sava mēroga dēļ var radīt kaitējumu caur sistēmas dizainu, nevis tikai caur kādu atsevišķu ierakstu vai atbildi (Les Echos, ZDNet France).

Ikgadējs risks, ārējs audits, piekļuve pētniekiem

No paziņošanas brīža trīs pakalpojumiem ir četri mēneši, lai izpildītu prasības. Praktiski tas nozīmē pāreju no principa „uzticieties, mēs moderējam” uz pārbaudāmu un auditējamu pārvaldību (DPA, Regula 2022/2065). Mainās trīs lietas.

Pirmkārt, uzņēmumiem jāveic ikgadējs riska izvērtējums. Tajā jāidentificē riski, ko rada pakalpojuma dizains, algoritmi un lietošanas modeļi, tostarp nelikumīgs saturs, kaitējums bērniem, ietekme uz publisko diskusiju un drošību (EDAA skaidrojums). Otrkārt, vērtēšanā jāiesaista ārējs pārbaudītājs. Neatkarīgiem auditoriem, nevis pašiem uzņēmumiem, jāvērtē, vai aizsardzības pasākumi patiešām darbojas (Prighter DPA teksts). Treškārt, uzņēmumiem jāatver dati pētniekiem. Komisija un apstiprināti akadēmiķi var pieprasīt skaidrojumus par to, kā algoritmi ranžē un iesaka saturu, izmantojot kārtību, kas noteikta ar 2025. gada deleģēto regulu.

Tas nenozīmē, ka ES amatpersona stāvēs starp ChatGPT vaicājumu un atbildi vai apstiprinās atsevišķus Reddit ierakstus. Uzraudzības mērķis ir sistēma: ranžēšanas loģika, moderēšanas mehānismi, reklāmas arhitektūra un bērnu drošības dizains. Ja Komisija konstatē pārkāpumus, tā izmanto atsevišķus izpildes instrumentus, kā tas jau noticis ar 120 milj. € sodu platformai X un sākotnējiem konstatējumiem pret Meta par atkarību veicinošu dizainu. Sodi var sasniegt 6 % no uzņēmuma globālā gada apgrozījuma (Brussels Times).

Kāpēc tas svarīgi ģimenēm

Vecākiem taustāmākais gadījums ir Roblox. Aptuveni 70 % tā lietotāju ir jaunāki par 18 gadiem (Biz Chosun). Digitālo pakalpojumu akta vadlīnijas par nepilngadīgajiem aizliedz mērķētu reklāmu, kas balstīta lietotāja profilā, ja pakalpojums zina, ka lietotājs ir bērns. Augstākais uzraudzības līmenis nozīmē, ka Roblox jāvērtē, vai lietotāju veidotās spēles, čata sistēmas un ieteikumu algoritmi bērniem nerada mēroga riskus (Komisijas vadlīnijas par nepilngadīgajiem). Roblox jau ieviesis vecuma pārbaudes ar sejas atpazīšanu, vecuma grupām piesaistītus čata ierobežojumus un mākslīgā intelekta moderēšanu. Tagad jautājums ir, vai šie instrumenti darbojas kopā un pietiekamā mērogā; Komisijai būs tiesības to vērtēt.

Eiropas Komisijas izpildpriekšsēdētājas vietniece Henna Virkunena šo lēmumu raksturoja kā prasību pakalpojumus uzraudzīt atbilstoši to sasniedzamībai (UPI). Aiz šiem vārdiem ir reālas izpildes pilnvaras. Līdz decembra beigām uzņēmumiem jāspēj parādīt pabeigtus riska izvērtējumus, audita kārtību un pētnieku piekļuves procesus. Izšķirošais vairs nav pats iekļaušanas fakts, bet gan tas, vai Komisijas audita mehānisms spēs nošķirt īstu atbildību no labi noformētas atbilstības dokumentācijas.