EÚ zavádza povinné označovanie AI

Ak ste tento týždeň písali zákazníckemu chatbotu a hneď na začiatku vám oznámil, že je umelou inteligenciou, nebola to zdvorilosť navyše. Od 2. augusta je to povinnosť podľa európskeho práva. Článok 50 Aktu o umelej inteligencii vyžaduje, aby sa systémy umelej inteligencie a syntetický obsah označovali ako také (Akt o umelej inteligencii, zhrnutie Komisie). Pravidlo nič nezakazuje. Má len urobiť syntetickú vrstvu internetu o niečo čitateľnejšou.

Čo sa má v praxi stať

Pravidlá sa týkajú troch situácií. Chatbot musí na začiatku rozhovoru povedať, že je AI. Realistický syntetický obraz, video alebo zvuková nahrávka musia niesť viditeľné označenie. A text vytvorený umelou inteligenciou v otázkach verejného záujmu, teda napríklad vysvetľovače k voľbám, verejnozdravotné oznamy či zhrnutia politík, sa musí označiť ako strojovo vytvorený. Výnimka platí vtedy, ak ho skontroloval ľudský editor a prevzal zaň redakčnú zodpovednosť (usmernenie k článku 50).

Systém má dve vrstvy. Viditeľná je tá, ktorú si všimne používateľ: označenie pri deepfake videu alebo upozornenie pri okne chatbota. Skrytú vrstvu tvoria metadáta vložené priamo do súboru, teda záznam o pôvode obsahu, ktorý dokážu čítať detekčné nástroje aj vtedy, keď ľudské oko nič podozrivé nevidí (kódex postupov). Funguje to podobne ako pri označovaní potravín: jedna informácia je pre kupujúceho, druhá umožňuje regulátorom overiť, čo je naozaj vo vnútri.

Povinnosti sa líšia podľa toho, kde v reťazci subjekt stojí. OpenAI alebo iný dodávateľ chatbota musí systém navrhnúť tak, aby používateľ vedel, že komunikuje so strojom, a aby syntetické výstupy niesli metadáta o pôvode. Banka, redakcia alebo politická kampaň, ktorá takýto nástroj používa, má inú povinnosť: povedať publiku, keď prichádza do kontaktu s deepfake obsahom alebo s AI textom o veciach verejného záujmu (Stibbe). Upozornenie ukryté vo všeobecných obchodných podmienkach nestačí. Podľa Komisie musí byť informácia jasná, prístupná a uvedená na začiatku prvej interakcie (FAQ k Aktu o umelej inteligencii).

Ak niekto zverejní osobný AI meme, nie je hlavným adresátom pravidiel. Tie sa vzťahujú na profesionálne a komerčné použitie, nie na čisto osobnú aktivitu (Akt o umelej inteligencii).

Sťažnosti už majú adresu

Pravidlá vznikli v Bruseli, ale vymáhať ich budú vnútroštátne orgány. Najjasnejší obraz zatiaľ ponúka Nemecko: od 2. augusta je štandardným miestom na podávanie sťažností Bundesnetzagentur, spolková sieťová agentúra, a občania môžu hlásenia podávať bezplatne cez online formulár (Bundesnetzagentur, nemecká vláda). Írsko zriadilo národný úrad pre AI, ktorý má zabezpečovať koordináciu (írsky rezort podnikania). Podobné štruktúry pripravujú aj ďalšie členské štáty.

Za porušenie transparentnostných povinností môžu pokuty dosiahnuť až 15 miliónov eur alebo 3 % celosvetového ročného obratu. Je to menej než hranica 35 miliónov eur alebo 7 %, ktorú uvádzali niektoré texty; vyššia sadzba sa týka zakázaných praktík umelej inteligencie, nie zlyhaní pri označovaní (Akt o umelej inteligencii, poznámka Komisie k vymáhaniu).

Označenie je začiatok, nie riešenie

Tí, ktorí pravidlá obchádzať chcú, ich budú ignorovať. Obsah vytvorený pred účinnosťou povinnosti sa spätne označovať nemusí. A chýbajúce označenie ešte nedokazuje, že obsah je skutočný, pretože technické štandardy pre metadáta o pôvode sa stále vyvíjajú (Two Birds). Hraničné prípady budú riešiť súdy: čo ešte znamená „zjavne AI“? Ako výrazné musí byť označenie v konkrétnej aplikácii?

Zároveň neprichádza celý Akt o umelej inteligencii naraz. Generatívne systémy, ktoré už sú na trhu, majú čas do 2. decembra 2026, aby doplnili strojovo čitateľné označenia. Širšie pravidlá pre vysokorizikové systémy v zamestnávaní, vzdelávaní či úverovom hodnotení začnú platiť v decembri 2027 pri samostatných systémoch a v auguste 2028 pri systémoch zabudovaných do regulovaných produktov (AI Omnibus, RegDossier).

Systém je neúplný a dá sa obchádzať, no používateľom aj regulátorom dáva prvýkrát konkrétny bod, o ktorý sa môžu oprieť. Teraz sa ukáže, či označenia zmenia správanie, zvýšia dôveru, alebo sa stanú ďalším signálom v pozadí, ktorý sa ľudia naučia preskakovať.