Google doit répondre des accusations de son IA

Le 24 septembre, le tribunal régional d’Aix-la-Chapelle a ordonné à Google de cesser d’afficher trois réponses accusant à tort un médecin allemand de contrainte sexuelle. La décision laisse ouverte une question européenne : qui répond des affirmations produites par une IA de recherche ?

Cette affaire met en jeu une frontière juridique qui prend de l’importance à mesure que les moteurs de recherche intègrent l’IA : quand une réponse attribue un crime à la mauvaise personne, qui doit la corriger ? Google avait été informé de l’erreur, mais avait refusé d’agir. L’obligation de l’entreprise face à de telles erreurs dans le reste de l’Europe n’est pas encore établie.

Deux hommes confondus par l’IA

Le 28 août, un collègue du médecin a recherché son nom avec le mot allemand désignant une suspension de fonctions. Le mode IA de Google a répondu qu’il avait été condamné, licencié et indemnisé à hauteur de plusieurs centaines de milliers d’euros (Beck aktuell). Ces faits concernaient un autre ancien cadre supérieur du même hôpital.

L’IA a confondu les deux hommes. Les articles sur lesquels elle s’appuyait parlaient de l’autre cadre et ne nommaient jamais le médecin. Celui-ci affirme n’avoir jamais fait l’objet d’une plainte, d’une procédure ou d’une condamnation. Quand il a demandé à Google de retirer ces réponses, l’entreprise lui a répondu le 15 septembre qu’elle ne ferait rien (LHR). La mise en demeure de son avocat n’a pas davantage abouti.

Ce que Google doit désormais cesser

L’ordonnance est limitée : elle interdit trois formulations précises de la fausse réponse. Elle vise Google Ireland Limited, la filiale européenne de l’entreprise (KPW).

Le tribunal a qualifié Google de Störerin. En droit allemand du respect de la personnalité, ce terme désigne une partie qui doit mettre fin à une atteinte qu’elle peut faire cesser, même si elle ne l’a pas créée. Comme une fausse accusation pénale constitue une atteinte grave et urgente, le tribunal a statué sans entendre Google au préalable. Toute infraction à l’ordonnance pourrait entraîner une amende allant jusqu’à 250 000 €, mais aucune amende n’a été prononcée (LHR).

Une décision allemande antérieure allait dans le même sens. Le 28 mai, le tribunal régional de Munich I s’est penché sur un aperçu généré par l’IA de Google qui associait deux éditeurs locaux à une fraude à l’abonnement (décision de Munich). Selon le tribunal, le système ne s’était pas contenté de reprendre ses sources : il les avait combinées pour produire une nouvelle affirmation, dont Google devait répondre.

Google a fait appel de la décision de Munich, mais la procédure s’est terminée par un accord. Une juridiction supérieure n’a donc pas examiné le raisonnement du tribunal (The Decoder). Les deux décisions ont été rendues en première instance. Aucune ne s’impose aux juges des autres pays.

La zone grise du droit européen

Les comptes rendus publiés indiquent que Google a refusé d’agir, sans en préciser la raison. Son meilleur argument serait celui de l’échelle : un système qui répond à un très grand nombre de questions ne peut pas vérifier chaque phrase à l’avance, et les utilisateurs peuvent consulter les liens cités.

Le droit de l’UE tient compte de cette difficulté sans trancher la question. Le règlement sur les services numériques (DSA) fixe depuis 2022 les règles applicables aux plateformes en ligne. Il protège les services qui stockent ou transmettent des contenus produits par autrui. Ces services n’ont pas d’obligation générale de surveiller ces contenus et échappent à la responsabilité s’ils agissent rapidement après avoir été informés de leur caractère illicite (règlement sur les services numériques).

La question encore ouverte est de savoir si une phrase rédigée par l’IA de Google relève vraiment du contenu d’autrui. Si c’est le cas, Google agit comme un hébergeur et doit intervenir après notification. Sinon, l’entreprise ressemble davantage à l’auteur de l’affirmation. La Cour de justice de l’Union européenne ne s’est pas encore prononcée (Lawfare).

Le tribunal d’Aix-la-Chapelle n’avait pas besoin de trancher ce débat. Quelle que soit l’interprétation retenue, Google avait reçu la preuve d’une fausse affirmation et l’avait laissée en ligne. C’est notre lecture des faits rapportés, et non le raisonnement explicitement énoncé par le tribunal.

L’Italie offre un point de comparaison. Le 29 avril, son régulateur des communications, AGCOM, a demandé à la Commission européenne d’examiner les aperçus et le mode IA de Google au regard des règles du DSA sur les risques systémiques (AGCOM). Ces règles obligent les plus grandes plateformes à évaluer et à limiter les dommages causés par leurs services. La démarche italienne venait surtout des inquiétudes des éditeurs, qui craignent de perdre des lecteurs, et non de fausses accusations. Une enquête de la Commission pourrait inciter Google à mieux gérer ces risques. Elle ne déterminerait pas, à elle seule, qui est responsable lorsqu’une réponse d’IA porte atteinte à la réputation d’une personne.

Le médecin a obtenu ce que cette procédure pouvait lui apporter : une ordonnance interdisant trois fausses réponses à son sujet, après que Google eut ignoré sa plainte. Pour les réponses générées par l’IA dans les moteurs de recherche, l’Europe ne dispose toujours pas de règle établie. Les personnes concernées ailleurs ne sont pas sans recours, puisque les droits nationaux en matière de diffamation et de vie privée continuent de s’appliquer. Mais chaque tribunal doit encore décider si l’IA de Google parle au nom de Google. Une réponse valable dans toute l’Europe nécessiterait une décision d’une juridiction nationale supérieure, un arrêt de la Cour de justice ou une nouvelle loi. Aucune n’est encore intervenue.