Viro kaavailee digitaali-ID:tä tekoälyagenteille

Kun ohjelmisto toimii verkossa ihmisen puolesta, se käyttää yleensä ihmisen koko digitaalista identiteettiä: kirjautumista, oikeuksia ja juridista nimeä. Tehtävä voi olla rajattu, mutta käyttöoikeus ei ole. Viro haluaa tähän erillisen välikerroksen.

Pääministeri Kristen Michalin aloitteesta perustettu Eesti.ai-neuvosto on linjannut, että Viron pitäisi kehittää tekoälyagenteille oma digitaalinen identiteetti. Virolaismediassa siitä on käytetty nimitystä "AI-isikukood", viittauksena henkilötunnukseen, jonka varaan maan digitaalinen hallinto pitkälti rakentuu (ERR). Kyse ei kuitenkaan olisi ohjelmiston tekemisestä oikeushenkilöksi. Tarkoitus on estää sitä esiintymästä käyttäjänä silloin, kun se vain hoitaa rajattua tehtävää käyttäjän puolesta.

Digitaalinen sijainen

Malli voidaan jakaa kolmeen osaan. Tunniste kertoo, mikä ohjelmisto asioi palvelussa. Valtuutus määrittää, mitä se saa tehdä, kenen puolesta ja millä rajoilla. Lokitieto näyttää jälkikäteen, mitä tapahtui. Nykyisissä tekoälytyökaluissa näistä on usein käytössä vain ensimmäinen osa, jos sitäkään. Jos agentti täyttää veroilmoituksen tai hakee tietoja viranomaisrekisteristä, se toimii usein käyttäjän täydellä tunnuksella ja saa pääsyn laajempaan tietomäärään kuin tehtävä vaatii.

Teknologiayrittäjä Kaspar Korjus kuvasi käytännön esimerkin: omalla tunnisteella toimiva tekoälyagentti voisi valmistella veroilmoituksen ihmisen puolesta, mutta rahansiirron kaltaiset herkät toimet jäisivät edelleen ihmisen hyväksyttäviksi (Äripäev). Toimiva rakenne muistuttaa rajattua sijaista. Agentti saa lukea tietyn rekisterin ja luonnostella tietyn lomakkeen, mutta kansalainen pysyy juridisena päämiehenä ja voi peruuttaa valtuutuksen milloin tahansa (Global Relay).

Viro voi esittää tätä, koska sen digitaalinen perusinfrastruktuuri on jo olemassa. Sähköinen henkilöllisyysjärjestelmä hoitaa kansallisen tunnistamisen (e-Estonia), ja X-Road mahdollistaa turvallisen tiedonvaihdon palvelujen ja rekisterien välillä (e-Estonia). Tekoälyagentin tunniste rakentuisi tämän päälle, ei korvaisi sitä. Lakia ei silti ole säädetty eikä teknistä määrittelyä julkaistu. Kyse on poliittisesta suunnasta, ei valmiista järjestelmästä.

Valtuutus, jota Eurooppa ei ole vielä kirjoittanut

Terävin kritiikki kohdistuu siihen, että identiteetti ratkaisee vain osan ongelmasta. Virolainen kommentaattori Peeter P. Mõtsküla muotoili asian suoraan: olennaista ei ole vain, kuka agentti on, vaan mitä se saa tehdä ja kuka vastaa sen toimista (ERR). Saksan liittovaltion kyberturvajohtaja Claudia Plattner on varoittanut, että tekoälyagenttien identiteetinhallinnan standardit puuttuvat etenkin tilanteissa, joissa agentit toimivat yritysten puolesta sähköpostissa tai verkkopalveluissa (FAZ). Saksalaiset tietoturva-analyytikot luokittelevat tekoälyagentit jo "ei-inhimillisiksi identiteeteiksi": konekäyttäjiksi, joiden tunnuksia valvotaan usein heikosti ja joiden käyttöoikeudet laajenevat huomaamatta (Security-Insider).

EU:ssa on jo sääntöjä henkilöllisyyden todentamiseen (eIDAS 2.0), tietojen minimointiin, tekoälyjärjestelmien lokitukseen (AI Act), henkilötietojen suojaan (GDPR) ja verkkojen turvallisuuteen (NIS2). Puuttuu yksi sääntökokonaisuus ohjelmistosijaiselle, joka liikkuu näiden kaikkien läpi. Mikään yksittäinen asetus ei kata koko ketjua: agentin tunnistamista, sen valtuutuksen rajaamista, toimien kirjaamista ja vastuun kohdentamista virheen sattuessa.

Vastuuaukko on vaikein osa. Digitaalinen tunniste ei vielä kerro, kuka maksaa, jos valtuutus pettää: mallin rakentanut yhtiö, sen käyttöön ottanut yritys vai organisaatio, joka antoi agentille toimintaoikeuden (FAZ). EU:n tekoälyvastuudirektiivi laadittiin juuri tällaista ongelmaa varten, mutta se on yhä ehdotusvaiheessa (AI Liability Directive).

Kenen tunniste, kenen säännöt

Jäsenmaat lähestyvät samaa ongelmaa eri suunnista. Tanskan tekoälyhiekkalaatikko rakentaa valtuutuksia maan nykyisen MitID-kirjautumisjärjestelmän päälle (Datatilsynet). Alankomaat julkaisee julkista rekisteriä viranomaisten tekoälyjärjestelmistä ja käsittelee vastuullisuutta hallinnollisena käytäntönä (Algoritmeregister). Ruotsi selvittää, miten eIDAS 2.0:n tarkoittamat digitaaliset lompakot sertifioidaan. Käytännössä kyse on puhelinsovelluksista, joilla voi todistaa yhden tiedon, kuten iän tai asuinpaikan, luovuttamatta koko henkilöllisyystietojen pakettia (DIGG).

Hajanaisuus näyttää, mikä Euroopassa ratkaisee asian käytännössä. Virossa valtuutetun tekoälyagentin pitäisi ehkä toimia Tanskan kirjautumisjärjestelmässä, tulla tarkastetuksi Alankomaiden vastuullisuussääntöjen mukaan ja täyttää Saksan viranomaisten huoli konekäyttäjien väärinkäytöstä. Viro voi rakentaa tunnisteen. Seuraava työ kuuluu EU:n sääntelijöille ja standardointielimille: yhdessä maassa valtuutettu digitaalinen sijainen on voitava tarkistaa, rajata ja asettaa vastuuseen myös toisessa.