Google kan ikke ignorere AI’ens falske anklager

Den 24. september pålagde en regionaldomstol i Aachen Google at holde op med at vise brugerne svar, der hævdede, at en tysk overlæge var dømt for seksuel tvang (KPW, Beck aktuell). Dommen gjaldt en anden mand. Google var blevet gjort opmærksom på fejlen, men afviste at fjerne svaret. Det er fortsat uafklaret, om Google har samme pligt til at gribe ind over for den slags fejl andre steder i Europa.

To mænd, ét svar

Den 28. august søgte en kollega på lægens navn sammen med det tyske ord for »suspendering«. Googles AI Mode svarede, at lægen var blevet dømt og afskediget og havde fået et forlig på et sekscifret beløb (Beck aktuell). Den historie tilhørte en anden tidligere ledende medarbejder på samme klinik.

AI’en havde slået de to mænd sammen. De artikler, den byggede på, handlede om den anden mand og nævnte aldrig lægen. Lægen siger, at der aldrig har været en klage, sag eller dom mod ham. Da han bad Google fjerne svarene, meddelte selskabet den 15. september, at det ikke ville foretage sig noget (LHR). En formel advarsel fra hans advokat førte heller ikke til noget.

Hvad Google nu skal standse

Kendelsen er snævert afgrænset. Den forbyder tre konkrete varianter af det falske svar og retter sig mod Google Ireland Limited, selskabets europæiske datterselskab (KPW).

Retten behandlede Google som en Störerin. Efter tysk ret er det en part, der skal bringe en krænkelse til ophør, hvis den har mulighed for det, også selv om parten ikke selv har skabt krænkelsen. En falsk anklage om en forbrydelse er alvorlig og kræver hurtig handling. Derfor afsagde retten kendelsen uden først at høre Google. Overtrædelse af kendelsen kan medføre en bøde på op til 250.000 euro, men der er ikke idømt nogen bøde (LHR).

En tidligere tysk afgørelse pegede i samme retning. Den 28. maj undersøgte regionaldomstolen München I et AI Overview, der forbandt to lokale udgivere med abonnementsbedrageri (Munich judgment). Retten fandt, at Googles system ikke blot havde citeret sine kilder. Systemet havde samlet oplysningerne til en ny påstand, og retten gjorde Google ansvarlig for den.

Google ankede afgørelsen fra München, men ankesagen endte med et forlig. Ingen højere domstol prøvede derfor rettens begrundelse (The Decoder). Begge afgørelser kommer fra domstole i første instans. Ingen af dem binder domstole andre steder.

Hullet i EU-retten

De offentliggjorte beskrivelser fortæller, at Google afviste at handle, men ikke hvorfor. Selskabets stærkeste modargument er, at et system, der besvarer enorme mængder spørgsmål, ikke kan kontrollere hver sætning på forhånd, og at brugerne kan følge de links, svarene henviser til.

EU-retten forholder sig til det argument uden at afgøre spørgsmålet. Digital Services Act (DSA) er EU’s regelsæt for digitale tjenester fra 2022. Reglerne beskytter tjenester, der lagrer eller videreformidler andres indhold. De har ingen generel pligt til at overvåge indholdet og hæfter ikke, hvis de hurtigt reagerer, når de får besked om, at noget er ulovligt (Digital Services Act).

Det åbne spørgsmål er, om en sætning skrevet af Googles egen AI overhovedet tæller som andres indhold. Hvis den gør, er Google en værtstjeneste, der skal gribe ind efter en anmeldelse. Hvis den ikke gør, ligner Google snarere ophavsmanden til påstanden. EU-Domstolen har ikke afgjort spørgsmålet (Lawfare).

Aachen-retten behøvede ikke vælge mellem de to fortolkninger. Uanset hvilken man lægger til grund, var Google blevet forelagt dokumentation for en falsk påstand, men lod den stå. Det er vores læsning af de offentliggjorte oplysninger, ikke rettens udtrykkelige begrundelse.

Italien giver et sammenligningspunkt. Den 29. april bad landets kommunikationsmyndighed AGCOM EU-Kommissionen undersøge AI Overviews og AI Mode efter DSA’s regler om systemiske risici (AGCOM). Reglerne kræver, at de største platforme vurderer og begrænser de skadevirkninger, deres tjenester skaber. Det italienske initiativ udsprang især af udgivernes bekymring for at miste læsere, ikke af falske beskyldninger. En undersøgelse fra Kommissionen kan få Google til at håndtere den slags risici bedre. Den vil ikke i sig selv afgøre, hvem der hæfter, når et AI-svar krænker nogens ære.

Lægen fik det, sagen kunne føre til: en kendelse mod tre falske svar om ham, efter at Google havde ignoreret hans klage. Europa mangler stadig en fælles afklaring af reglerne for AI-svar i søgninger. Andre berørte står ikke uden retsmidler, for national lovgivning om ærekrænkelser og privatliv gælder fortsat. Men hver domstol må selv afgøre, om Googles AI taler på Googles vegne. Et svar, der gælder i hele Europa, kræver en afgørelse fra en højere national domstol, en dom fra EU-Domstolen eller ny lovgivning. Intet af det er sket endnu.