ChatGPT влиза под най-строгия надзор в ЕС

Ако сте видели заглавия, че Брюксел поставя ChatGPT, Reddit и Roblox под най-строгите си правила за онлайн безопасност, лесно е това да се прочете като санкция или констатация за нарушение. Не е така. Европейската комисия добави трите услуги към списъка на платформите, които са толкова големи, че решенията в дизайна им засягат обществото, а не само собствените им потребители. По-близката аналогия не е глоба за безопасност, а сграда, която преминава от самодекларирана поддръжка към задължителни проверки.

Правилото за размера

Законодателният акт за цифровите услуги поставя праг: всяка онлайн услуга с над 45 млн. потребители месечно в ЕС влиза в най-високото ниво на надзор (Европейска комисия). Това е приблизително една десета от населението на съюза — мащабът, при който Брюксел приема, че архитектурата на една услуга може да има ефект върху целия блок (преглед на Комисията за Акта за цифровите услуги).

И трите услуги преминават този праг. ChatGPT е отчел около 159 млн. потребители в ЕС за функцията си за търсене, Reddit — 57,2 млн., а Roblox — около 47 млн. (Euronews, Yahoo News). Общият брой на вече обозначените услуги достига 28 (IEU Monitoring).

Reddit хоства съдържание, създавано от потребители. Roblox хоства игри, създавани от потребители. И двете услуги се вписват в модела, за който беше писан Актът за цифровите услуги. ChatGPT е по-интересният случай. Той обобщава информация от мрежата в един разговорен отговор, а Комисията го класифицира като търсачка, защото извлича и подрежда външна информация, когато потребителят му зададе въпрос (Straits Times). Търсачката влияе върху това какво намират хората. Чатбот, който търси в интернет, отива една стъпка по-далеч: той събира множество източници в един отговор и така прави по-трудно да се види защо е даден точно този отговор, а не друг.

За пръв път масов чатбот с изкуствен интелект влиза в този режим. Законодателният акт за изкуствения интелект, който е отделен регламент, налага задължения за прозрачност на чатботовете. Обозначаването по Акта за цифровите услуги прави друго: третира услугата като информационна инфраструктура, достатъчно голяма, за да създава вреди чрез дизайна си в мащаб, а не чрез отделна публикация или отделен отговор (Les Echos, ZDNet France).

Годишна проверка, външен одитор, отворени данни

Трите услуги имат четири месеца от уведомяването, за да приведат работата си в съответствие с правилата. На практика задълженията преместват системата от „доверете ни се, модерираме“ към управление, което може да бъде доказано и проверено (Акт за цифровите услуги, Регламент 2022/2065). Променят се три неща.

Първо, въвежда се годишна проверка на риска. Компаниите трябва да установяват рисковете, създавани от техния дизайн, алгоритми и модели на употреба — включително незаконно съдържание, вреди за деца, ефекти върху публичния дебат и сигурността (обяснение на EDAA). Второ, идва външен контрол. Независими одитори, а не самите компании, ще оценяват дали защитните механизми работят (текст на Акта за цифровите услуги в Prighter). Трето, системите се отварят за изследователи. Комисията и проверени академични екипи могат да искат обяснения как алгоритмите подреждат и препоръчват съдържание по рамка, въведена с делегиран регламент от 2025 г..

Това не означава, че служител на ЕС ще стои между въпроса към ChatGPT и отговора му или ще одобрява отделни публикации в Reddit. Обектът е системата: логиката на подреждане, машината за модерация, рекламната архитектура, дизайнът за защита на децата. Когато Комисията установи нарушения, тя използва отделни инструменти за прилагане на закона, както вече направи с глобата от 120 млн. евро срещу X и предварителните заключения срещу Meta за пристрастяващ дизайн. Санкциите могат да достигнат 6 % от годишния световен оборот (Brussels Times).

Защо родителите трябва да следят темата

За родителите Roblox е най-осезаемият случай. Около 70 % от потребителите му са под 18 години (Biz Chosun). Насоките на Акта за цифровите услуги за непълнолетните забраняват таргетирана реклама въз основа на потребителски профили, когато услугата знае, че потребителят е дете. Най-високият режим на надзор изисква Roblox да оцени дали игрите, създавани от потребители, чат системите и алгоритмите за препоръки създават рискове за деца в голям мащаб (насоки на Комисията за непълнолетните). Roblox вече въведе проверки на възрастта чрез лицево разпознаване, възрастови ограничения за чат и модерация с изкуствен интелект. Въпросът е дали тези инструменти работят заедно и в мащаб, а Комисията вече ще има позиция, от която да преценява това.

Изпълнителният заместник-председател Хена Виркунен представи решенията като поставяне на тези услуги под контрол, съответстващ на техния обхват (UPI). Зад тези думи има реални правомощия. До края на декември компаниите трябва да могат да покажат завършени оценки на риска, договорени одитни механизми и процедури за достъп на изследователи. Сега по-важното не е самото обозначаване, а дали одитната машина на Комисията ще се окаже достатъчно точна, за да различи реалната отчетност от добре подредената документация за съответствие.