Estija rengia ID DI agentams

Kai programinė įranga internete veikia jūsų vardu, ji dažnai perima visą jūsų tapatybę: prisijungimą, leidimus, teisinį vardą. Tai skaitmeninis atitikmuo situacijos, kai kurjeriui, turinčiam pristatyti vieną siuntą, atiduodamas pasas, namų raktai ir banko kortelė. Estija mano, kad galima sukurti tikslesnį modelį.

Premjero Kristeno Michalo iniciatyva įsteigta patariamoji taryba Eesti.ai sutarė, kad Estija turėtų kurti atskirą skaitmeninę tapatybę dirbtinio intelekto agentams. Vietos žiniasklaida tai vadina „AI-isikukood“ — dirbtinio intelekto asmens kodu, pasiskolindama terminą iš Estijos skaitmeninės valstybės pagrindo — asmens identifikavimo kodo (ERR). Tačiau pats pasiūlymas siauresnis, nei leidžia manyti pavadinimas: kalbama ne apie programinės įrangos pavertimą asmeniu, o apie mechanizmą, kuris leistų jai neveikti apsimetant žmogumi.

Skaitmeninis įgaliotinis

Tokį modelį galima suprasti kaip tris sluoksnius. Ženklelis parodo, kuris programinis agentas prisistatė sistemoje. Įgaliojimas apibrėžia, ką jis gali daryti, kieno vardu ir kokiomis ribomis. Kvitas užfiksuoja, kas iš tikrųjų įvyko. Šiandien dauguma DI įrankių veikia turėdami tik pirmąjį sluoksnį, o neretai — ir be jo. Agentas, pildantis mokesčių deklaraciją ar tikrinantis valstybės registrus, dažnai tai daro naudodamas visus žmogaus prisijungimo duomenis, gaudamas daugiau prieigos, nei reikia konkrečiai užduočiai.

Technologijų verslininkas Kasparas Korjusas pateikė konkretų pavyzdį: savo tapatybę turintis DI agentas galėtų žmogaus vardu parengti mokesčių deklaracijas, tačiau jautrūs veiksmai, pavyzdžiui, pinigų pervedimas, liktų žmogaus kontrolėje (Äripäev). Naudingas modelis čia — siaurai apibrėžtas įgaliotinis, galintis perskaityti konkretų įrašą ir parengti konkrečią formą, o pilietis lieka teisinis veiksmo subjektas ir bet kada gali atšaukti delegavimą (Global Relay).

Estija tokį modelį gali siūlyti todėl, kad jos skaitmeninė infrastruktūra jau veikia. Nacionalinei tapatybei naudojama eID sistema (e-Estonia), o X-Road užtikrina saugų duomenų mainą tarp paslaugų ir registrų (e-Estonia). DI agento tapatybė būtų kuriama ant šio pagrindo, o ne vietoj jo. Vis dėlto įstatymas dar nepriimtas, techninė specifikacija nepaskelbta. Tai politinė kryptis, ne veikianti sistema.

Įgaliojimas, kurio Europa dar neaprašė

Aštriausia kritika — kad tapatybė sprendžia ne tą problemos sluoksnį. Estų komentatorius Peeteris P. Mõtsküla ją suformulavo tiesiai: svarbiausias klausimas ne „kas yra agentas?“, o „ką jam leidžiama daryti ir kas už tai atsako?“ (ERR). Vokietijos federalinės kibernetinio saugumo tarnybos vadovė Claudia Plattner įspėjo, kad DI agentų tapatybių valdymo standartų trūksta, ypač kai tokie agentai veikia įmonių vardu elektroniniame pašte ar internetinėse paslaugose (FAZ). Vokietijos saugumo analitikai DI agentus jau priskiria „nežmogiškoms tapatybėms“ — mašininėms paskyroms, kurių prisijungimo duomenys dažnai nepakankamai stebimi ir ilgainiui sukaupia plačią prieigą (Security-Insider).

Europa jau turi taisykles, kaip įrodyti asmens tapatybę (eIDAS 2.0), riboti atskleidžiamų duomenų kiekį, registruoti DI sistemas (DI aktas), saugoti asmens duomenis (BDAR) ir užtikrinti tinklų prieigos saugumą (TIS2). Trūksta vieno taisyklių rinkinio programiniam įgaliotiniui, kuris kirstų visas šias sritis. Nė vienas reglamentas neapima visos grandinės: agento identifikavimo, jo mandato apibrėžimo, veiksmų registravimo ir atsakomybės priskyrimo, kai kas nors nepavyksta.

Būtent atsakomybės spraga — nepatogiausia dalis. Skaitmeninis ženklelis neatsako, kas moka, kai delegavimas suklysta: modelį sukūrusi bendrovė, jį įdiegęs verslas ar organizacija, leidusi agentui veikti (FAZ). ES DI atsakomybės direktyva, turėjusi spręsti būtent šį klausimą, tebėra pasiūlymas (AI Liability Directive).

Kieno ženklelis, kieno taisyklės

Valstybės narės tą pačią problemą sprendžia iš skirtingų pusių. Danijos DI smėliadėžė delegavimą sluoksniuoja ant esamos nacionalinės prisijungimo sistemos MitID (Datatilsynet). Nyderlandai skelbia viešą valdžios institucijų naudojamų DI sistemų registrą, atsakomybę traktuodami kaip administracinę praktiką (Algoritmeregister). Švedija aiškinasi, kaip sertifikuoti skaitmenines pinigines, numatytas eIDAS 2.0 reglamente — iš esmės nuo klastojimo apsaugotas telefono programėles, kurios gali įrodyti vieną faktą apie žmogų, pavyzdžiui, amžių ar gyvenamąją vietą, neperduodamos visos tapatybės bylos (DIGG).

Šis išsiskaidymas rodo tikrąjį būsimą testą. Estijoje įgaliotu DI agentu gali tekti pasitikėti Danijos prisijungimo sistemai, jo veiksmus audituoti pagal Nyderlandų atskaitomybės taisykles, o prieigą saugoti nuo tokio mašininių paskyrų piktnaudžiavimo, dėl kurio jau įspėja Vokietijos reguliuotojai. Estija gali sukurti ženklelį. Kitas darbas teks Europos reguliuotojams ir standartizacijos institucijoms: užtikrinti, kad vienoje šalyje įgaliotas skaitmeninis įgaliotinis kitoje būtų patikrinamas, apribojamas ir prireikus patraukiamas atsakomybėn.