Google kan inte blunda för AI:s falska anklagelser

Den 24 september ålade en regionaldomstol i Aachen Google att sluta uppge för användare att en tysk klinikchef hade dömts för sexuellt tvång (KPW, Beck aktuell). Domen gällde en annan person. Google hade fått veta att uppgiften var fel men vägrade ta bort den. Det är fortfarande oklart om Google har samma skyldighet att agera på sådana fel i andra delar av Europa.

Två män, ett svar

Den 28 augusti sökte en kollega på läkarens namn tillsammans med det tyska ordet för avstängning. Googles AI Mode uppgav att han hade dömts, avskedats och fått en uppgörelse på ett sexsiffrigt belopp (Beck aktuell). Den bakgrunden tillhörde en annan tidigare chef på samma klinik.

AI:n hade slagit ihop två personer. Artiklarna som svaret byggde på handlade om den andre mannen och nämnde aldrig läkaren. Läkaren säger att det aldrig har funnits någon anmälan, rättsprocess eller dom mot honom. När han bad Google ta bort svaren meddelade företaget den 15 september att det inte skulle agera (LHR). Den formella varning som hans advokat skickade hjälpte inte heller.

Vad Google nu måste upphöra med

Beslutet är snävt avgränsat. Det förbjuder tre specifika versioner av det falska svaret och riktar sig mot Google Ireland Limited, bolagets europeiska dotterbolag (KPW).

Domstolen bedömde Google som en Störerin. Enligt tysk rätt om personlighetsskydd innebär det att en part som kan stoppa en kränkning är skyldig att göra det, även om parten inte själv har orsakat den. Eftersom en falsk brottsanklagelse är allvarlig och kräver snabb åtgärd fattade domstolen beslutet utan att först höra Google. Ett brott mot beslutet kan leda till vite på upp till 250 000 euro, men något vite har inte dömts ut (LHR).

En tidigare tysk dom pekade i samma riktning. Den 28 maj granskade regionaldomstolen München I en AI Overview som kopplade två lokala förlag till abonnemangsbedrägeri (Münchendomen). Domstolen ansåg att Googles system hade skapat ett nytt påstående genom att sammanföra uppgifter från källorna. Google hölls ansvarigt för påståendet.

Google överklagade domen i München, men överklagandet avslutades genom en förlikning. Ingen högre domstol prövade därför resonemanget (The Decoder). Båda avgörandena kommer från domstolar i första instans och binder inte andra domstolar.

Den oklara frågan i EU-rätten

I de publicerade redogörelserna framgår att Google vägrade, men inte varför. Det starkaste argument Google kan anföra handlar om skalan: ett system som besvarar mycket stora mängder frågor kan inte kontrollera varje mening i förväg, och användarna kan följa länkarna till källorna.

EU-rätten tar upp den invändningen utan att avgöra frågan. Förordningen om digitala tjänster är EU:s regelverk för onlineplattformar från 2022 (Digital Services Act). Reglerna begränsar ansvaret för tjänster som lagrar eller förmedlar innehåll från andra. De har ingen allmän skyldighet att övervaka innehållet och slipper ansvar om de agerar snabbt när de får veta att det är olagligt.

Frågan är om en mening som Googles egen AI har formulerat räknas som någon annans innehåll. Om svaret är ja måste Google agera när företaget får en anmälan. Om meningen inte räknas som sådant innehåll framstår Google snarare som upphovsperson till påståendet. Ingen dom från EU-domstolen har besvarat frågan (Lawfare).

Aachendomen behövde inte avgöra vilken tolkning som gäller. Oavsett tolkning hade Google fått dokumentation om att uppgiften var falsk och ändå låtit den ligga kvar. Det är en tolkning av de redovisade omständigheterna; domstolen angav den inte som sin motivering.

Den 29 april bad Italiens kommunikationsmyndighet AGCOM EU-kommissionen granska AI Overviews och AI Mode enligt förordningens regler om systemrisker (AGCOM). Reglerna kräver att de största plattformarna bedömer och begränsar skador som deras tjänster orsakar. Förlagens oro för att förlora läsare var den främsta drivkraften i Italien. Falska anklagelser stod inte i centrum. En granskning från kommissionen skulle kunna pressa Google att hantera riskerna bättre. Den skulle i sig inte avgöra vem som bär ansvaret när ett AI-svar förtalar någon.

Läkaren fick det som det här målet kunde ge: ett domstolsbeslut mot tre falska svar om honom, efter att Google avvisat hans klagomål. Europa saknar fortfarande ett avgörande som klargör hur AI-svar i söktjänster ska bedömas generellt. Människor på andra håll har fortfarande rättsmedel, eftersom nationella regler om förtal och integritetsskydd gäller. Varje domstol måste själv avgöra om Googles AI-svar ska tillskrivas företaget. Ett svar som gäller i hela Europa skulle kräva ett avgörande från en högre nationell domstol, EU-domstolen eller ny lagstiftning. Något sådant avgörande eller någon ny lagstiftning finns ännu inte.