Estonia szykuje cyfrowe ID dla AI

Gdy oprogramowanie działa dziś w internecie w naszym imieniu, najczęściej przejmuje całą naszą tożsamość: login, uprawnienia, nazwisko, dostęp do konta. To cyfrowy odpowiednik sytuacji, w której kurier dostaje paszport, klucze do mieszkania i kartę bankową tylko po to, by doręczyć jedną paczkę. Estonia uważa, że ten model jest źle skonstruowany.

Rada doradcza Eesti.ai, powołana z inicjatywy premiera Kristena Michala, uzgodniła, że państwo powinno opracować osobną tożsamość cyfrową dla agentów AI. Estońskie media nazywają ją „AI-isikukood”, nawiązując do osobistego kodu identyfikacyjnego, na którym opiera się tamtejsze państwo cyfrowe (ERR). Sama propozycja jest jednak węższa, niż sugeruje nazwa. Nie chodzi o uznanie programu za osobę, lecz o to, by program nie musiał udawać obywatela.

Cyfrowy pełnomocnik

Mechanizm można opisać trzema warstwami. Identyfikator pokazuje, który agent pojawił się w systemie. Upoważnienie określa, co wolno mu zrobić, dla kogo i w jakich granicach. Ślad audytowy zapisuje, co faktycznie się wydarzyło. Dzisiejsze narzędzia AI często działają najwyżej na pierwszym poziomie, a niekiedy nawet bez niego. Agent, który ma przygotować deklarację podatkową albo pobrać dane z rejestru publicznego, korzysta z pełnych danych logowania użytkownika, choć do konkretnego zadania potrzebuje znacznie mniej.

Przedsiębiorca technologiczny Kaspar Korjus podał prosty przykład: agent AI z własną tożsamością mógłby przygotować deklarację podatkową w imieniu obywatela, ale czynności wrażliwe, takie jak przelew pieniędzy, pozostałyby pod kontrolą człowieka (Äripäev). W tym ujęciu agent jest ograniczonym pełnomocnikiem: może odczytać określony dokument i wypełnić konkretny formularz, ale obywatel pozostaje podmiotem prawnym i w każdej chwili może cofnąć delegację (Global Relay).

Estonia może myśleć o takim rozwiązaniu, bo jej infrastruktura cyfrowa już istnieje. System eID obsługuje identyfikację obywateli (e-Estonia), a X-Road umożliwia bezpieczną wymianę danych między usługami i rejestrami publicznymi (e-Estonia). Tożsamość agenta byłaby więc nakładką na działający system, nie jego zamiennikiem. Na razie nie ma jednak ani przyjętej ustawy, ani opublikowanej specyfikacji technicznej. To kierunek polityki, nie gotowy produkt.

Upoważnienie, którego Europa jeszcze nie napisała

Najmocniejszy zarzut wobec estońskiego pomysłu dotyczy tego, że sama identyfikacja rozwiązuje tylko część problemu. Estoński komentator Peeter P. Mõtsküla ujął to wprost: kluczowe pytanie nie brzmi „kim jest agent?”, lecz „co wolno mu zrobić i kto za to odpowiada?” (ERR). Podobny niepokój pojawia się w Niemczech. Claudia Plattner, szefowa federalnego urzędu cyberbezpieczeństwa, ostrzegła, że brakuje standardów zarządzania tożsamością agentów AI, zwłaszcza gdy działają one w imieniu firm w poczcie elektronicznej lub usługach online (FAZ). Niemieccy analitycy bezpieczeństwa klasyfikują już agentów AI jako „tożsamości nieludzkie”, czyli konta maszynowe, których uprawnienia bywają słabo monitorowane i z czasem obejmują coraz szerszy dostęp (Security-Insider).

Unia ma już przepisy o potwierdzaniu tożsamości (eIDAS 2.0), minimalizacji ujawnianych danych, dokumentowaniu działania systemów AI (AI Act), ochronie danych osobowych (RODO) i bezpieczeństwie sieci (NIS2). Nie ma natomiast jednego zestawu reguł dla cyfrowego pełnomocnika, który przecina wszystkie te obszary naraz. Żadne rozporządzenie nie obejmuje całego łańcucha: identyfikacji agenta, zakresu mandatu, rejestrowania działań i odpowiedzialności za błąd.

Właśnie odpowiedzialność jest najbardziej kłopotliwą luką. Cyfrowa plakietka nie odpowiada na pytanie, kto zapłaci, gdy delegacja zawiedzie: firma, która stworzyła model, przedsiębiorstwo, które go wdrożyło, czy organizacja, która pozwoliła agentowi działać (FAZ). Unijna dyrektywa o odpowiedzialności za sztuczną inteligencję, pomyślana właśnie jako odpowiedź na ten problem, wciąż pozostaje projektem (AI Liability Directive).

Czyj identyfikator, czyje reguły

Państwa członkowskie dochodzą do tego samego problemu różnymi drogami. Duńska piaskownica regulacyjna dla AI nakłada mechanizm delegowania na istniejący krajowy system logowania MitID (Datatilsynet). Holandia prowadzi publiczny rejestr systemów AI używanych przez administrację, traktując rozliczalność jako praktykę urzędową (Algoritmeregister). Szwecja pracuje nad certyfikacją portfeli tożsamości cyfrowej przewidzianych w eIDAS 2.0, czyli odpornych na manipulację aplikacji w telefonie, które mają potwierdzać pojedynczy fakt, na przykład wiek lub miejsce zamieszkania, bez ujawniania całej dokumentacji tożsamościowej (DIGG).

Ta fragmentacja pokazuje właściwy test dla Europy. Agent AI upoważniony w Estonii może potrzebować zaufania duńskiego systemu logowania, podlegać holenderskim regułom rozliczalności i jednocześnie wymagać ochrony przed nadużyciami kont maszynowych, przed którymi ostrzegają niemieccy regulatorzy. Estonia może zbudować identyfikator. Następne zadanie należy do unijnych regulatorów i organizacji standaryzacyjnych: sprawić, by pełnomocnika działającego w jednym państwie dało się sprawdzić, ograniczyć i rozliczyć w innym.