Estónsko chystá digitálne ID pre AI

Keď dnes softvér koná online vo vašom mene, zvyčajne si požičiava celú vašu identitu. Vaše prihlásenie, vaše oprávnenia aj vaše právne meno. Je to digitálna verzia situácie, v ktorej kuriérovi dáte pas, kľúče od bytu aj bankovú kartu, hoci má doručiť iba jeden balík. Estónsko si myslí, že sa to dá urobiť lepšie.

Poradný orgán Eesti.ai, ktorý vznikol z iniciatívy premiéra Kristena Michala, sa zhodol, že Estónsko by malo vytvoriť samostatnú digitálnu identitu pre AI agentov. Miestne médiá ju nazývajú „AI-isikukood“, teda akýsi osobný identifikačný kód pre umelú inteligenciu, podľa kódu, na ktorom stojí estónsky digitálny štát (ERR). Návrh je užší, než naznačuje názov: nejde o identitu, ktorá by zo softvéru robila osobu, ale o spôsob, ako zabrániť tomu, aby softvér musel vystupovať ako vy.

Digitálny zástupca

Dá sa to predstaviť v troch vrstvách. Preukaz ukáže, ktorý softvérový agent prišiel. Splnomocnenie určí, čo smie urobiť, pre koho a v akých hraniciach. Potvrdenie zaznamená, čo sa naozaj stalo. Väčšina dnešných AI nástrojov funguje nanajvýš s prvou vrstvou. Agent, ktorý za vás podáva daňové priznanie alebo vyhľadáva údaje vo vládnych registroch, často používa vaše plné prihlasovacie údaje a dostáva prístup k oveľa väčšiemu rozsahu dát, než potrebuje.

Technologický podnikateľ Kaspar Korjus uviedol konkrétny príklad: AI agent s vlastnou identitou by mohol za človeka pripraviť daňové priznanie, zatiaľ čo citlivé úkony, napríklad presun peňazí, by zostali pod kontrolou človeka (Äripäev). Užitočný model nie je autonómna digitálna osoba, ale presne ohraničený zástupca: smie prečítať tento záznam a pripraviť tento formulár, no právnym nositeľom zostáva občan, ktorý môže poverenie kedykoľvek odvolať (Global Relay).

Estónsko môže takýto návrh predložiť preto, že jeho digitálna infraštruktúra už funguje. Systém eID zabezpečuje národnú identifikáciu (e-Estonia) a X-Road umožňuje bezpečnú výmenu dát medzi službami a registrami (e-Estonia). Identita pre agenta by sa na túto vrstvu napojila, nenahradila by ju. Zatiaľ však nebol prijatý zákon ani zverejnená technická špecifikácia. Ide o politický smer, nie o hotový systém.

Splnomocnenie, ktoré Európa ešte nenapísala

Najostrejšia kritika hovorí, že samotná identita rieši nesprávnu vrstvu problému. Estónsky komentátor Peeter P. Mõtsküla to pomenoval priamo: skutočná otázka neznie „kto je agent“, ale „čo smie robiť a kto zaň zodpovedá“ (ERR). Šéfka nemeckého spolkového úradu pre kybernetickú bezpečnosť Claudia Plattner upozornila, že štandardy na správu identít AI agentov chýbajú, najmä keď agenti konajú za firmy v e-mailoch alebo online službách (FAZ). Nemeckí bezpečnostní analytici už AI agentov zaraďujú medzi „neľudské identity“, teda strojové účty, ktorých prihlasovacie údaje často nikto dôsledne nesleduje a ktoré si potichu nazbierajú široké oprávnenia (Security-Insider).

Európa už má pravidlá na overovanie identity (eIDAS 2.0), obmedzenie zdieľaných údajov, zaznamenávanie fungovania AI systémov (AI Act), ochranu osobných údajov (GDPR) aj zabezpečenie sieťového prístupu (NIS2). Chýba jej však jednotný rámec pre softvérového zástupcu, ktorý prechádza cez všetky tieto oblasti. Žiadne jedno nariadenie nepokrýva celý reťazec: identifikáciu agenta, vymedzenie jeho mandátu, záznam jeho úkonov a určenie zodpovednosti, keď sa niečo pokazí.

Práve medzera v zodpovednosti je najcitlivejšia. Digitálny preukaz sám neodpovie na otázku, kto zaplatí škodu, ak zlyhá poverenie: firma, ktorá model vytvorila, podnik, ktorý ho nasadil, alebo organizácia, ktorá agentovi dovolila konať (FAZ). Smernica EÚ o zodpovednosti za umelú inteligenciu, ktorá mala riešiť práve tento problém, zostáva iba návrhom (AI Liability Directive).

Čí preukaz, čie pravidlá

Členské štáty pristupujú k rovnakému problému z rôznych strán. Dánsky AI sandbox ukladá delegovanie nad existujúci národný prihlasovací systém MitID (Datatilsynet). Holandsko zverejňuje verejný register vládnych AI systémov a zodpovednosť chápe ako administratívnu prax (Algoritmeregister). Švédsko rieši, ako certifikovať digitálne peňaženky, s ktorými počíta eIDAS 2.0: v praxi aplikácie v mobile odolné proti manipulácii, ktoré vedia preukázať jednu konkrétnu skutočnosť, napríklad vek alebo pobyt, bez toho, aby človek odovzdal celý identifikačný spis (DIGG).

Táto rozdrobenosť ukazuje, kde bude skutočný test. AI agent poverený v Estónsku môže potrebovať dôveru dánskeho prihlasovacieho systému, kontrolu podľa holandských pravidiel zodpovednosti a zabezpečenie proti zneužívaniu strojových účtov, pred ktorým už varujú nemeckí regulátori. Estónsko môže postaviť preukaz. Ďalšia práca patrí európskym regulátorom a štandardizačným orgánom: zabezpečiť, aby sa zástupca poverený v jednej krajine dal overiť, obmedziť a brať na zodpovednosť v inej.