Gerichte machen Google für KI-Aussagen verantwortlich

Am 24. September untersagte das Landgericht Aachen Google, Nutzern mitzuteilen, ein deutscher Chefarzt sei wegen sexueller Nötigung verurteilt worden (KPW, Beck aktuell). Verurteilt worden war ein anderer Mann. Google war auf den Fehler hingewiesen worden und ließ die Aussage dennoch stehen. Ob Google auch andernorts in Europa verpflichtet ist, solche Fehler zu beseitigen, ist weiterhin offen.

Zwei Männer, eine Antwort

Am 28. August suchte ein Kollege nach dem Namen des Arztes und dem Wort „Suspendierung“. Googles KI-Modus erklärte, der Arzt sei verurteilt und entlassen worden und habe eine Abfindung in sechsstelliger Höhe erhalten (Beck aktuell). Diese Vorgänge betrafen einen anderen früheren leitenden Mitarbeiter derselben Klinik.

Die KI hatte zwei Personen zusammengeführt. Die herangezogenen Artikel handelten von dem anderen Mann und nannten den Arzt nicht. Der Arzt sagt, gegen ihn habe es nie eine Anzeige, ein Verfahren oder eine Verurteilung gegeben. Auf seine Bitte, die Antworten zu löschen, teilte Google am 15. September mit, man werde nichts unternehmen (LHR). Auch eine anwaltliche Abmahnung änderte daran nichts.

Was Google nun unterlassen muss

Die Verfügung ist eng gefasst: Sie untersagt drei konkrete Varianten der Falschaussage. Adressat ist Google Ireland Limited, die europäische Tochter des Konzerns (KPW).

Das Gericht stufte Google als Störerin ein. Nach deutschem Persönlichkeitsrecht muss ein Störer eine Rechtsverletzung beenden, wenn er dazu in der Lage ist, auch wenn er sie nicht selbst verursacht hat. Das Gericht befand, eine falsche strafrechtliche Anschuldigung wiege schwer und dulde keinen Aufschub; deshalb entschied es ohne vorherige Anhörung Googles. Bei einem Verstoß droht ein Ordnungsgeld von bis zu 250.000 Euro; verhängt wurde bislang keines (LHR).

Eine frühere Entscheidung aus Deutschland weist in dieselbe Richtung. Am 28. Mai befasste sich das Landgericht München I mit einer AI Overview, die zwei lokale Verlage mit Abo-Betrug in Verbindung gebracht hatte (Munich judgment). Das Gericht stellte fest, Googles System habe seine Quellen nicht einfach zitiert, sondern zu einer neuen Aussage verbunden; für diese Aussage machte es Google verantwortlich.

Google legte gegen das Münchner Urteil Berufung ein, doch das Verfahren endete mit einem Vergleich. Ein höheres Gericht prüfte die Begründung deshalb nicht (The Decoder). Beide Entscheidungen stammen aus erster Instanz und binden keine Gerichte in anderen Verfahren.

Die Lücke im EU-Recht

Aus den veröffentlichten Berichten geht hervor, dass Google die Entfernung verweigerte; warum, ist nicht dokumentiert. Das stärkste Gegenargument wäre die Größenordnung des Dienstes: Ein System, das unzählige Fragen beantwortet, kann nicht jeden Satz vorab prüfen, und Nutzer können den verlinkten Quellen folgen.

EU-Recht trägt diesem Einwand Rechnung, entscheidet die Streitfrage aber nicht. Der Digital Services Act ist das 2022 verabschiedete EU-Regelwerk für Online-Plattformen. Er schützt Dienste, die Inhalte anderer speichern oder weiterleiten. Für diese Dienste gilt keine allgemeine Pflicht, Inhalte zu überwachen; sie haften auch nicht, wenn sie nach einem Hinweis auf rechtswidrige Inhalte zügig handeln (Digital Services Act).

Offen ist, ob ein Satz, den Googles eigene KI formuliert, überhaupt als Inhalt anderer gilt. Falls ja, ist Google ein Hostingdienst, der nach einem Hinweis handeln muss. Falls nein, erscheint das Unternehmen eher als Urheber der Aussage. Der Gerichtshof der Europäischen Union hat diese Frage bislang nicht entschieden (Lawfare).

Aachen musste sich nicht festlegen. Nach beiden Lesarten war Google eine dokumentierte Falschaussage vorgelegt worden und ließ sie online. Diese Schlussfolgerung ergibt sich aus den berichteten Fakten; das Gericht hat sie nicht ausdrücklich so begründet.

Italien liefert einen Vergleichspunkt. Am 29. April forderte die Kommunikationsaufsicht AGCOM die Europäische Kommission auf, AI Overviews und AI Mode anhand der DSA-Vorschriften zu systemischen Risiken zu prüfen (AGCOM). Diese Regeln verpflichten die größten Plattformen, die von ihren Diensten verursachten Schäden zu bewerten und zu begrenzen. Anlass in Italien waren vor allem die Sorgen von Verlagen, Nutzer zu verlieren, nicht falsche Anschuldigungen. Eine Untersuchung der Kommission könnte Google dazu bringen, solche Risiken besser zu steuern. Sie würde für sich genommen aber nicht klären, wer haftet, wenn eine KI-Antwort jemanden verleumdet.

Der Arzt erreichte mit dem Verfahren, was es leisten konnte: Ein Gericht untersagte drei falsche Aussagen über ihn, nachdem Google seine Beschwerde ignoriert hatte. Eine allgemeine europäische Regel für KI-Antworten in der Suche gibt es weiterhin nicht. Betroffene anderswo sind dennoch nicht rechtlos, denn nationales Äußerungs- und Datenschutzrecht gilt weiter. Jedes Gericht muss aber selbst entscheiden, ob Googles KI dem Unternehmen zugerechnet wird. Eine europaweite Klärung bräuchte eine Entscheidung eines höheren nationalen Gerichts, ein Urteil des EuGH oder neue Gesetzgebung; bislang ist keines davon erfolgt.