ChatGPT ulazi pod najstroži nadzor EU-a

Ako ste vidjeli naslove da je Bruxelles stavio ChatGPT, Reddit i Roblox pod najstroža pravila za sigurnost na internetu, lako je izvući pogrešan zaključak: da je Europska komisija već utvrdila neku povredu. Nije. Komisija je sve tri usluge uvrstila među platforme toliko velike da njihove odluke o dizajnu više ne utječu samo na korisnike, nego i na šire društvo. To je manje kazna, a više prelazak iz režima samoprocjene u režim obveznih pregleda.

Pravilo veličine

Akt o digitalnim uslugama povlači jasnu crtu: svaka internetska usluga koju u Europskoj uniji mjesečno koristi više od 45 milijuna ljudi ulazi u najviši stupanj nadzora (Europska komisija). Taj prag odgovara otprilike desetini stanovništva EU-a, što je razina na kojoj Bruxelles smatra da arhitektura neke usluge može proizvoditi učinke na razini cijelog bloka (pregled DSA-a Europske komisije).

Sve tri usluge premašile su taj prag. ChatGPT je za svoju funkciju pretraživanja prijavio oko 159 milijuna korisnika u EU-u, Reddit 57,2 milijuna, a Roblox oko 47 milijuna (Euronews, Yahoo News). Ukupan broj tako označenih usluga sada iznosi 28 (IEU Monitoring).

Reddit počiva na sadržaju koji stvaraju korisnici. Roblox počiva na igrama koje stvaraju korisnici. Obje se usluge dobro uklapaju u model za koji je Akt o digitalnim uslugama pisan. ChatGPT je složeniji slučaj. On iz različitih izvora na internetu sastavlja jedan razgovorni odgovor, a Komisija ga je svrstala među tražilice jer na zahtjev korisnika dohvaća i rangira vanjske informacije (Straits Times). Tražilica oblikuje ono što korisnik pronalazi. Chatbot koji pretražuje internet ide korak dalje: više izvora svodi na jedan odgovor, pa korisniku postaje teže vidjeti zašto je dobio baš taj odgovor, a ne neki drugi.

Ovo je prvi put da je široko korišten AI chatbot ušao u taj režim. Akt o umjetnoj inteligenciji, kao zaseban propis, chatbotovima nameće obveze transparentnosti. Ova odluka prema Aktu o digitalnim uslugama čini nešto drugo: tretira uslugu kao informacijsku infrastrukturu dovoljno veliku da štetu može proizvesti samim dizajnom i razmjerom, a ne samo pojedinačnom objavom ili odgovorom (Les Echos, ZDNet France).

Godišnji pregled, vanjska revizija, otvorene knjige

Tri usluge imaju četiri mjeseca od službene obavijesti da se usklade s pravilima. U praksi to znači prijelaz s poruke „vjerujte nam, moderiramo sadržaj” na upravljanje koje se može dokazati i revidirati (Akt o digitalnim uslugama, Uredba 2022/2065). Mijenjaju se tri stvari.

Prvo, uvodi se godišnja procjena rizika. Tvrtke moraju utvrditi koje rizike stvaraju njihov dizajn, algoritmi i obrasci korištenja, uključujući nezakonit sadržaj, štetu za djecu, učinke na javnu raspravu i sigurnost (EDAA objašnjenje). Drugo, dolazi vanjska provjera. Neovisni revizori, a ne same tvrtke, procjenjuju djeluju li zaštitne mjere doista (tekst DSA-a, Prighter). Treće, otvaraju se podaci za istraživače. Komisija i provjereni akademski istraživači mogu tražiti objašnjenja o tome kako algoritmi rangiraju i preporučuju sadržaj, prema okviru utvrđenom delegiranom uredbom iz 2025..

To ne znači da europski dužnosnik sjedi između upita u ChatGPT-u i odgovora, niti da odobrava pojedinačne objave na Redditu. Meta nadzora jest sustav: logika rangiranja, mehanizmi moderiranja, oglašivačka arhitektura i zaštita djece. Kada Komisija utvrdi povrede, za to koristi zasebne provedbene alate, kao što je već učinila s kaznom od 120 milijuna eura za X i preliminarnim nalazima protiv Mete zbog dizajna koji potiče ovisničko korištenje. Kazne mogu dosegnuti 6 posto godišnjeg svjetskog prihoda (Brussels Times).

Zašto bi roditelji trebali obratiti pozornost

Za roditelje je Roblox najopipljiviji slučaj. Oko 70 posto njegovih korisnika mlađe je od 18 godina (Biz Chosun). Smjernice Akta o digitalnim uslugama za maloljetnike zabranjuju ciljano oglašavanje na temelju korisničkih profila kada usluga zna da je korisnik dijete. Ulazak u najviši nadzorni razred obvezuje Roblox da procijeni stvaraju li njegove igre koje izrađuju korisnici, sustavi za razgovor i algoritmi preporuka rizike za djecu u velikim razmjerima (smjernice Komisije o maloljetnicima). Roblox je već uveo provjeru dobi prepoznavanjem lica, dobno ograničene razgovore i moderiranje uz pomoć umjetne inteligencije. Sada se provjerava rade li ti alati zajedno, na velikom broju korisnika, a Komisija će imati ovlasti to ocijeniti.

Izvršna potpredsjednica Komisije Henna Virkkunen opisala je odluku kao pokušaj da se nadzor nad tim uslugama uskladi s njihovim dosegom (UPI). Ovlasti koje stoje iza te poruke nisu simbolične. Do kraja prosinca tvrtke bi trebale moći pokazati dovršene procjene rizika, dogovorene revizijske postupke i procese pristupa za istraživače. Ključno pitanje sada više nije sama oznaka, nego hoće li Komisijin nadzorni aparat znati razlikovati stvarnu odgovornost od uredno složene dokumentacije o usklađenosti.