Google kan AI-beschuldigingen niet negeren

Op 24 september beval een rechtbank in Aken Google te stoppen met het vertellen aan gebruikers dat een Duitse hoofdarts was veroordeeld voor seksuele dwang (KPW, Beck aktuell). Die veroordeling betrof iemand anders. Google was op de fout gewezen, maar weigerde de informatie te verwijderen. Of het bedrijf zulke fouten elders in Europa ook moet aanpakken, staat nog niet vast.

Twee mannen, één antwoord

Op 28 augustus zocht een collega op de naam van de arts, samen met het Duitse woord voor 'schorsing'. Volgens Googles AI Mode was de arts veroordeeld en ontslagen, en had hij een afkoopsom van zes cijfers gekregen (Beck aktuell). Die voorgeschiedenis hoorde bij een andere voormalige topman van dezelfde kliniek.

De AI voegde de gegevens van twee mannen samen. De artikelen waarop het systeem zich baseerde, gingen over de andere man en noemden de arts niet. Volgens de arts was er nooit een klacht tegen hem ingediend, was er geen procedure gevoerd en was hij nooit veroordeeld. Toen hij Google vroeg de antwoorden te verwijderen, liet het bedrijf hem op 15 september weten niets te zullen doen (LHR). Ook een formele sommatie van zijn advocaat haalde niets uit.

Wat Google nu moet stoppen

Het bevel is beperkt: het verbiedt drie specifieke versies van het valse antwoord. Het is gericht aan Google Ireland Limited, de Europese dochteronderneming van het bedrijf (KPW).

De rechtbank zag Google als een Störerin. Volgens het Duitse recht op bescherming van de persoonlijke levenssfeer moet zo'n partij een inbreuk beëindigen als zij daartoe in staat is, ook wanneer zij die niet zelf heeft veroorzaakt. Een valse beschuldiging van een misdrijf is ernstig en spoedeisend. Daarom deed de rechtbank uitspraak zonder Google eerst te horen. Bij overtreding kan een boete volgen van maximaal € 250.000, al is er nog geen boete opgelegd (LHR).

Een eerdere Duitse uitspraak wees in dezelfde richting. Op 28 mei onderzocht de rechtbank München I een AI Overview die twee lokale uitgevers in verband bracht met abonnementsfraude (uitspraak uit München). Volgens de rechtbank had Google niet simpelweg bronnen geciteerd. Het systeem had informatie uit die bronnen samengevoegd tot een nieuwe bewering, en Google was daarvoor verantwoordelijk.

Google ging tegen de uitspraak uit München in beroep, maar dat beroep eindigde in een schikking. Een hogere rechtbank heeft de redenering dus niet getoetst (The Decoder). Beide uitspraken komen van rechtbanken in eerste aanleg. Geen van beide bindt rechters elders.

De leemte in het EU-recht

Uit de gepubliceerde verslagen blijkt dat Google weigerde in te grijpen, maar niet waarom. Het sterkste verweer is de schaal van het systeem: een dienst die op enorme aantallen vragen antwoordt, kan niet elke zin vooraf controleren. Gebruikers kunnen bovendien de aangehaalde links volgen.

Het EU-recht houdt rekening met dat argument, maar geeft geen definitief antwoord. De digitaledienstenverordening uit 2022 bevat regels voor onlineplatforms. De wet beschermt diensten die inhoud van anderen opslaan of doorgeven. Zij hoeven die inhoud niet voortdurend te controleren en zijn niet aansprakelijk als zij snel handelen nadat ze op onrechtmatigheid zijn gewezen (digitaledienstenverordening).

De open vraag is of een zin die Googles eigen AI schrijft, geldt als inhoud van anderen. Zo ja, dan is Google een hostingdienst die na een melding moet ingrijpen. Zo nee, dan lijkt het bedrijf meer op de auteur van de bewering. Het Hof van Justitie van de EU heeft zich daar nog niet over uitgesproken (Lawfare).

De rechtbank in Aken hoefde die keuze niet te maken. Welke uitleg ook geldt, Google was gewezen op een aantoonbare onwaarheid en liet die online staan. Dat is een lezing van de gepubliceerde feiten, niet de motivering die de rechtbank zelf gaf.

Italië biedt een aanknopingspunt. Op 29 april vroeg de Italiaanse toezichthouder voor de communicatiesector, AGCOM, de Europese Commissie AI Overviews en AI Mode te onderzoeken aan de hand van de regels over systeemrisico's in de verordening (AGCOM). Die regels verplichten de grootste platforms de schade die hun diensten veroorzaken in kaart te brengen en te beperken. De Italiaanse stap kwam vooral voort uit zorgen van uitgevers over verlies van lezers, niet uit valse beschuldigingen. Een onderzoek van de Commissie kan Google ertoe aanzetten zulke risico's beter te beheersen. Het bepaalt op zichzelf niet wie aansprakelijk is wanneer een AI-antwoord iemands reputatie schaadt.

De arts kreeg wat deze zaak kon opleveren: een rechterlijk bevel tegen drie valse antwoorden over hem, nadat Google zijn klacht had genegeerd. Voor AI-antwoorden in zoekmachines bestaat in Europa nog geen vaste regel. Ook elders kunnen mensen zich beroepen op nationale wetgeving over smaad en privacy. Maar elke rechter moet zelf bepalen of Googles AI namens Google spreekt. Een Europees antwoord vergt een uitspraak van een hogere nationale rechter, een arrest van het Hof van Justitie of nieuwe wetgeving. Geen daarvan is er al.