Estonsko chystá digitální průkazy pro AI

Kdykoli za vás dnes software něco vyřizuje online, obvykle si půjčuje vaši identitu v celku: přihlašovací údaje, oprávnění i právní jméno. Digitálně je to podobné, jako kdybyste kurýrovi kvůli jednomu balíku předali pas, klíče od bytu a platební kartu. Estonsko chce tento model rozdělit na menší a kontrolovatelnější části.

Poradní orgán Eesti.ai, který vznikl z iniciativy premiéra Kristena Michala, se shodl, že by Estonsko mělo vytvořit samostatnou digitální identitu pro agenty umělé inteligence. Estonská média pro ni používají výraz „AI-isikukood“, tedy odkaz na osobní identifikační kód, na němž stojí estonský digitální stát (ERR). Návrh je užší, než název naznačuje: nejde o identitu, která by ze softwaru dělala osobu, ale o mechanismus, který by softwaru zabránil vydávat se za člověka.

Digitální zástupce

Prakticky jde o tři vrstvy. Průkaz určí, který softwarový agent se do systému hlásí. Pověření vymezí, co smí dělat, pro koho a v jakých mezích. Záznam ukáže, co se skutečně stalo. Většina dnešních nástrojů umělé inteligence pracuje nanejvýš s první vrstvou. Agent, který má za někoho vyplnit daňové přiznání nebo nahlédnout do státního registru, často používá plné přihlašovací údaje člověka a dostává se tak k mnohem širšímu okruhu dat, než úkol vyžaduje.

Technologický podnikatel Kaspar Korjus popsal konkrétní použití: agent s vlastní identitou by mohl za občana připravit daňové přiznání, zatímco citlivé úkony, například převody peněz, by zůstaly pod přímou kontrolou člověka (Äripäev). Funkční model by připomínal úzce vymezeného zástupce: smí si přečíst tento záznam a připravit tento formulář, ale právním nositelem odpovědnosti zůstává občan a delegaci může kdykoli odvolat (Global Relay).

Estonsko může takový návrh předložit proto, že jeho digitální infrastruktura už funguje. Systém eID zajišťuje státní elektronickou identifikaci (e-Estonia) a X-Road umožňuje bezpečnou výměnu dat mezi službami a registry (e-Estonia). Identita agenta by na této infrastruktuře seděla jako další vrstva, neměla by ji nahrazovat. Zatím však neexistuje zákon ani zveřejněná technická specifikace. Jde o politický směr, ne o hotový systém.

Pověření, které Evropa ještě nenapsala

Nejostřejší námitka míří k tomu, že samotná identita řeší jen část problému. Estonský komentátor Peeter P. Mõtsküla to formuloval přímo: podstatná otázka nezní „kdo je agent“, ale „co smí dělat a kdo za něj odpovídá“ (ERR). Šéfka německého Spolkového úřadu pro bezpečnost v informační technice Claudia Plattnerová upozornila, že standardy pro správu identit agentů umělé inteligence chybějí, zejména pokud tito agenti jednají za firmy v e-mailu nebo online službách (FAZ). Němečtí bezpečnostní analytici už agenty umělé inteligence řadí mezi „nelidské identity“, tedy strojové účty, jejichž přístupová práva se často nekontrolují a potichu se rozšiřují (Security-Insider).

Evropa už má pravidla pro prokazování totožnosti (eIDAS 2.0), pro omezení množství sdílených údajů, pro záznamy o systémech umělé inteligence (AI Act), pro ochranu osobních dat (GDPR) i pro zabezpečení přístupu k sítím (NIS2). Chybí jí však jeden soubor pravidel pro softwarového zástupce, který prochází všemi těmito oblastmi. Žádné jediné nařízení nepokrývá celý řetězec: identifikaci agenta, vymezení jeho mandátu, evidenci jeho úkonů a určení odpovědnosti, když se něco pokazí.

Právě mezera v odpovědnosti je nejméně pohodlná. Digitální průkaz sám neurčí, kdo zaplatí škodu, když delegace selže: firma, která model vytvořila, podnik, který ho nasadil, nebo organizace, která agenta zmocnila k jednání (FAZ). Unijní směrnice o odpovědnosti za umělou inteligenci, která měla tento problém řešit, zůstává zatím jen návrhem (AI Liability Directive).

Čí průkaz, čí pravidla

Členské státy přicházejí ke stejnému problému z různých stran. Dánský sandbox pro umělou inteligenci, tedy kontrolované prostředí pro testování nových služeb pod dohledem úřadů, staví delegaci na existujícím národním přihlašovacím systému MitID (Datatilsynet). Nizozemsko zveřejňuje veřejný registr vládních systémů umělé inteligence a odpovědnost bere jako otázku správní praxe (Algoritmeregister). Švédsko řeší certifikaci digitálních peněženek, s nimiž počítá eIDAS 2.0: v zásadě jde o aplikace v telefonu odolné proti manipulaci, které dokážou prokázat jednu konkrétní skutečnost, například věk nebo pobyt, aniž by člověk předával celý soubor dokladů (DIGG).

Tato roztříštěnost ukazuje, kde bude skutečná zkouška. Agent umělé inteligence zmocněný v Estonsku může potřebovat důvěru dánského přihlašovacího systému, audit podle nizozemských pravidel odpovědnosti a zabezpečení proti zneužití strojových účtů, před nímž už varují němečtí regulátoři. Estonsko může postavit průkaz. Další práce připadne evropským regulátorům a standardizačním orgánům: zajistit, aby zástupce pověřený v jedné zemi bylo možné v jiné zkontrolovat, omezit a pohnat k odpovědnosti.