Естония готви дигитални лични кодове за ИИ

Когато софтуер действа от ваше име онлайн, той обикновено получава цялата ви самоличност: входа ви в системата, правата ви за достъп, юридическото ви име. Това е цифровият еквивалент на това да дадете на куриер паспорта, ключовете за дома и банковата си карта, за да достави една пратка. Естония смята, че има по-добър модел.

Консултативният съвет „Еести.ай“, създаден по инициатива на премиера Кристен Михал, е постигнал съгласие, че страната трябва да разработи отделна цифрова идентичност за агенти с изкуствен интелект. Местни медии я наричат „АИ-исикокод“ — по аналогия с личния идентификационен код, върху който стъпва естонската цифрова държава (ЕРР). Предложението е по-тясно, отколкото звучи: не става дума софтуерът да получи статут на лице, а да не се налага да се представя за вас.

Цифровият пълномощник

Моделът може да се мисли на три слоя. Значката показва кой софтуерен агент се е появил. Пълномощното определя какво може да прави, от чие име и в какви граници. Разписката записва какво реално се е случило. Днес повечето инструменти с изкуствен интелект работят само с първия слой, а често и без него. Агент, който подава данъчна декларация или прави справка в държавен регистър, нерядко действа с пълните права на потребителя и получава достъп до много повече информация, отколкото задачата изисква.

Технологичният предприемач Каспар Корюс дава конкретен пример: агент с изкуствен интелект със собствена идентичност би могъл да подготвя данъчни декларации от името на човек, докато чувствителни действия като прехвърляне на пари остават под човешки контрол (Äripäev). Полезният модел е стриктно ограничен пълномощник: може да прочете този запис и да изготви онзи формуляр, но гражданинът остава юридическият носител на правата и може да оттегли делегирането по всяко време (Global Relay).

Естония може да предлага такъв модел, защото цифровата ѝ инфраструктура вече работи. Системата за електронна идентичност обслужва националната идентификация (е-Естония), а „Екс-Роуд“ осигурява защитен обмен на данни между услуги и регистри (е-Естония). Идентичността на агента би била надстройка върху тази инфраструктура, не нейна замяна. Закон обаче още няма, както няма и публикувана техническа спецификация. Това е посока на политика, не завършена система.

Пълномощното, което Европа още не е написала

Най-съществената критика е, че идентичността решава грешния слой на проблема. Естонският коментатор Пеетер П. Мьотскюла го формулира пряко: важният въпрос не е „кой е агентът“, а „какво има право да прави и кой отговаря за това“ (ЕРР). Ръководителката на германската федерална служба за киберсигурност Клаудия Платнер предупреди, че липсват стандарти за управление на идентичностите на агенти с изкуствен интелект, особено когато те действат от името на компании в електронна поща или онлайн услуги (ФАЦ). Германски анализатори по сигурността вече ги класифицират като „нечовешки идентичности“ — машинни профили, чиито идентификационни данни често остават без наблюдение и постепенно натрупват широк достъп (Security-Insider).

Европа вече има правила за доказване на самоличност (еИДАС 2.0), за ограничаване на данните, които разкривате, за водене на записи при системи с изкуствен интелект (Законодателен акт за изкуствения интелект), за защита на личните данни (Общ регламент за защита на данните) и за сигурност на мрежовия достъп (НИС 2). Липсва единен правилник за софтуерен пълномощник, който минава през всички тези режими. Нито един регламент сам по себе си не покрива цялата верига: идентифициране на агента, определяне на мандата му, записване на действията му и разпределяне на отговорността при проблем.

Точно тази празнина в отговорността е най-трудната част. Цифровата значка не казва кой плаща, когато делегирането се провали: компанията, създала модела, бизнесът, който го внедрява, или организацията, разрешила на агента да действа (ФАЦ). Директивата на ЕС за отговорността при изкуствен интелект, замислена именно за такива въпроси, все още е само предложение (Директива за отговорността при изкуствен интелект).

Чия значка, чии правила

Всяка държава членка подхожда към същия проблем от различен ъгъл. Дания тества делегирането в своята регулаторна среда за изкуствен интелект върху вече съществуващата национална система за вход „МитИД“ (Датски орган за защита на данните). Нидерландия поддържа публичен регистър на системите с изкуствен интелект в администрацията и третира отчетността като административна практика (Регистър на алгоритмите). Швеция работи по сертифицирането на цифровите портфейли, предвидени в еИДАС 2.0 — по същество защитени приложения в телефона, които доказват един конкретен факт за вас, например възраст или местоживеене, без да предават цялото ви досие за самоличност (ДИГГ).

Тази разпокъсаност показва къде е истинският тест. Агент с изкуствен интелект, упълномощен в Естония, може да трябва да бъде разпознат от датска система за вход, проверяван по нидерландски правила за отчетност и защитен срещу злоупотребите с машинни профили, за които германските регулатори вече предупреждават. Естония може да изгради значката. Следващата задача е за европейските регулатори и органите по стандартизация: пълномощник, разрешен в една държава, да може да бъде проверяван, ограничаван и държан отговорен в друга.