Google отговаря за неверните твърдения на ИИ

На 24 септември регионалният съд в Аахен разпореди на Google да спре да съобщава на потребителите, че германски лекар, началник на клиника, е бил осъден за сексуална принуда (KPW, Beck aktuell). Присъдата е била срещу друг човек. Google е получила сигнал за грешката, но отказала да премахне отговора. Все още не е ясно дали компанията има същото задължение да реагира на подобни грешки и в останалата част на Европа.

Двама мъже, един отговор

На 28 август колега на лекаря потърсил името му заедно с немската дума за „отстраняване от длъжност“. Google AI Mode отговорил, че лекарят бил осъден и уволнен и получил обезщетение в размер на шестцифрена сума (Beck aktuell). Тази история се отнасяла до друг бивш ръководител в същата клиника.

ИИ е слял биографиите на двамата мъже. Статиите, на които се е позовал, били за другия мъж и изобщо не споменавали лекаря. Той заявява, че срещу него никога не е подавана жалба, не е водено производство и не е постановявана присъда. На 15 септември Google му отговорила, че няма да предприеме действия, след като той поискал отговорите да бъдат премахнати (LHR). Официално предупреждение от адвоката му също не променило позицията на компанията.

Какво трябва да спре Google

Разпореждането е ограничено до три конкретни версии на неверния отговор. То е насочено към Google Ireland Limited, европейското дъщерно дружество на компанията (KPW).

Съдът прие, че според германското право на личността Google е длъжна да прекрати нарушение, което може да спре, дори да не го е причинила. Фалшивото обвинение в престъпление било достатъчно тежко и неотложно, за да се произнесе съдът без предварително да изслуша Google. Нарушаването на разпореждането може да доведе до глоба до 250 000 евро, но такава не е налагана (LHR).

По-ранно германско решение беше в сходна посока. На 28 май Регионалният съд Мюнхен I разгледа AI Overview, който свързвал две местни издателства с измами при абонаментите (решението на Мюнхенския съд). Съдът установи, че системата на Google не е преписала просто източниците си, а е съчетала информацията от тях в ново твърдение. За него съдът потърси отговорност от Google.

Google обжалва решението в Мюнхен, но делото приключи със споразумение, преди по-висша инстанция да провери мотивите (The Decoder). И двете решения са на първа инстанция. Те не обвързват съдилищата в други държави.

Пропускът в правото на ЕС

Публикуваните сведения сочат, че Google е отказала, но не посочват причината. Най-силният възможен довод на компанията е мащабът на услугата: система, която отговаря на огромен брой въпроси, не може да проверява предварително всяко изречение, а потребителите могат да отворят цитираните линкове.

Правото на ЕС засяга този довод, но не дава окончателен отговор. Актът за цифровите услуги е правилникът на ЕС от 2022 г. за онлайн платформите. Той защитава услугите, които съхраняват или предават съдържание на други хора. Тези услуги нямат общо задължение да следят съдържанието и не носят отговорност, ако реагират бързо, след като бъдат уведомени, че то е незаконно (Акт за цифровите услуги).

Не е ясно дали изречение, генерирано от ИИ на самия Google, изобщо се смята за чуждо съдържание. Ако се смята, Google е посредник, който трябва да реагира след уведомление. Ако не се смята, компанията прилича повече на автор на твърдението. Съдът на ЕС все още не се е произнесъл по този въпрос (Lawfare).

Съдът в Аахен не е трябвало да избира между тези две тълкувания. И при двете Google е била уведомена за документирана неистина, но я е оставила онлайн. Това следва от публикуваните сведения за случая, а не от мотивите, посочени от съда.

Италия предлага една отправна точка за сравнение. На 29 април италианският регулатор на съобщенията AGCOM поиска от Европейската комисия да разгледа AI Overviews и AI Mode на Google според правилата на закона за системните рискове (AGCOM). Тези правила задължават най-големите платформи да оценяват и ограничават вредите, причинявани от услугите им. Основният повод за италианската инициатива били опасенията на издателите, че ще губят читатели; неверните обвинения не били във фокуса ѝ. Проверка на Комисията може да подтикне Google да управлява тези рискове по-добре, но сама по себе си няма да определи кой носи отговорност, когато отговор на ИИ оклеветява някого.

Лекарят получи онова, което делото можеше да му осигури: съдебно разпореждане срещу три неверни отговора за него, след като Google пренебрегна жалбата му. В Европа все още няма установено правило за отговорите на ИИ в търсачките като цяло. И хората в други държави разполагат със средства за защита, защото националните закони за клевета и неприкосновеност на личния живот продължават да важат. Всеки съд обаче трябва сам да прецени дали отговорите на ИИ са изказвания на Google. За общоевропейски отговор е нужно решение на по-висша национална инстанция, решение на Съда на ЕС или ново законодателство; засега нищо от това не се е случило.