Estonija pripravlja digitalne ID-je za AI agente

Ko programska oprema na spletu deluje v vašem imenu, danes praviloma prevzame skoraj celotno vašo digitalno identiteto: prijavo, dovoljenja in pravno ime. Za nalogo, ki bi morala biti omejena, dobi dostop, kot da bi kurirju za dostavo enega paketa izročili potni list, ključe stanovanja in bančno kartico. Estonija meni, da je mogoče ta model urediti bolj natančno.

Svetovalno telo Eesti.ai, ustanovljeno na pobudo predsednika vlade Kristena Michala, se je strinjalo, da bi morala Estonija razviti ločeno digitalno identiteto za agente umetne inteligence. Estonski mediji jo opisujejo kot »AI-isikukood«, po analogiji z osebno identifikacijsko številko, na kateri temelji estonska digitalna država (ERR). Vsebina predloga je ožja od imena: ne gre za to, da bi programska oprema dobila status osebe, temveč za to, da ji ne bi bilo treba nastopati kot človek, v imenu katerega deluje.

Digitalni pooblaščenec

Model je najlažje razumeti v treh plasteh. Oznaka pokaže, kateri programski agent se je pojavil. Pooblastilo določi, kaj sme storiti, za koga in v kakšnih mejah. Sled zabeleži, kaj se je dejansko zgodilo. Večina današnjih orodij umetne inteligence ima kvečjemu prvo plast. Če agent izpolnjuje davčno napoved ali vpogleduje v javne evidence, to pogosto počne s polnimi uporabnikovimi poverilnicami in z dostopom, ki je širši od naloge.

Tehnološki podjetnik Kaspar Korjus je navedel konkreten primer: agent umetne inteligence z lastno identiteto bi lahko v imenu posameznika pripravil davčno napoved, medtem ko bi občutljiva dejanja, denimo prenos denarja, ostala pod neposrednim nadzorom človeka (Äripäev). Uporaben model je torej strogo omejen pooblaščenec, ki sme prebrati določen zapis in pripraviti določen obrazec, državljan pa ostane pravni nosilec odločitve in lahko pooblastilo kadar koli prekliče (Global Relay).

Estonija lahko o tem razmišlja zato, ker njena digitalna infrastruktura že deluje. Sistem eID omogoča nacionalno elektronsko identifikacijo (e-Estonia), X-Road pa varno izmenjavo podatkov med storitvami in registri (e-Estonia). Identiteta agenta bi bila nadgradnja te infrastrukture, ne njena zamenjava. Za zdaj pa ni sprejetega zakona in ni objavljene tehnične specifikacije. Gre za smer politike, ne za dokončan sistem.

Pooblastilo, ki ga Evropa še ni napisala

Najmočnejši očitek estonskemu predlogu je, da identiteta rešuje napačno plast problema. Estonski komentator Peeter P. Mõtsküla je vprašanje postavil neposredno: bistveno ni, kdo je agent, temveč kaj sme storiti in kdo zanj odgovarja (ERR). Predsednica nemškega zveznega urada za kibernetsko varnost Claudia Plattner je opozorila, da standardov za upravljanje identitet agentov umetne inteligence še ni, zlasti kadar ti agenti za podjetja delujejo v elektronski pošti ali spletnih storitvah (FAZ). Nemški varnostni analitiki agente umetne inteligence že uvrščajo med »nečloveške identitete«, torej strojne račune, katerih poverilnice pogosto ostanejo brez nadzora in sčasoma pridobijo preširok dostop (Security-Insider).

Evropa že ima pravila za dokazovanje identitete (eIDAS 2.0), omejevanje razkritja podatkov, evidentiranje sistemov umetne inteligence (Akt o umetni inteligenci), varstvo osebnih podatkov (GDPR) in varnost omrežij (NIS2). Nima pa enotnega pravilnika za programskega pooblaščenca, ki bi segel čez vsa ta področja. Noben predpis ne pokrije celotne verige: identifikacije agenta, opredelitve njegovega mandata, beleženja njegovih dejanj in odgovornosti, kadar gre kaj narobe.

Prav odgovornost je najtežji del. Digitalna oznaka še ne pove, kdo plača škodo, če pooblastilo odpove: podjetje, ki je razvilo model, podjetje, ki ga je uvedlo, ali organizacija, ki je agentu dovolila delovati (FAZ). Direktiva EU o odgovornosti za umetno inteligenco, ki naj bi se ukvarjala prav s tem vprašanjem, ostaja predlog (AI Liability Directive).

Čigava oznaka, čigava pravila

Države članice isti problem odpirajo iz različnih smeri. Danski peskovnik za umetno inteligenco gradi pooblastila na obstoječem nacionalnem prijavnem sistemu MitID (Datatilsynet). Nizozemska objavlja javni register vladnih sistemov umetne inteligence in odgovornost obravnava kot upravno prakso (Algoritmeregister). Švedska se ukvarja s certificiranjem digitalnih denarnic, ki jih predvideva eIDAS 2.0: varnih aplikacij na telefonu, s katerimi uporabnik dokaže posamezno dejstvo o sebi, na primer starost ali prebivališče, ne da bi razkril celotno identitetno datoteko (DIGG).

Ta razdrobljenost kaže, kje bo pravi preizkus. Agent umetne inteligence, pooblaščen v Estoniji, bo morda moral pridobiti zaupanje danskega prijavnega sistema, prestati nadzor po nizozemskih pravilih odgovornosti in biti zavarovan pred zlorabami strojnih računov, ki že skrbijo nemške regulatorje. Estonija lahko zgradi oznako. Naslednja naloga je evropska: regulatorji in standardizacijski organi morajo zagotoviti, da se pooblaščenec iz ene države v drugi lahko preveri, omeji in pokliče na odgovornost.