Google responde por las falsedades de su IA

El 24 de septiembre, un tribunal regional de Aquisgrán ordenó a Google que dejara de decir a los usuarios que un jefe de servicio de un hospital alemán había sido condenado por coacción sexual (KPW, Beck aktuell). La condena correspondía a otra persona. Google conocía el error y se negó a retirarlo. Aún no está claro si Google tiene la misma obligación de corregir errores de este tipo en el resto de Europa.

Dos hombres, una respuesta

El 28 de agosto, un colega buscó el nombre del médico junto con la palabra alemana para «suspensión». AI Mode, la herramienta de inteligencia artificial de Google, respondió que había sido condenado, despedido y compensado con un acuerdo de seis cifras (Beck aktuell). Esos antecedentes correspondían a otro antiguo directivo del mismo hospital.

La IA confundió a los dos hombres. Los artículos que utilizó hablaban del otro y nunca mencionaban al médico. Según este, nunca hubo una denuncia, un procedimiento ni una condena contra él. Cuando pidió a Google que retirara las respuestas, la empresa contestó el 15 de septiembre que no tomaría medidas (LHR). Tampoco surtió efecto el requerimiento formal de su abogado.

Qué debe dejar de hacer Google

La orden es limitada: prohíbe tres versiones concretas de la respuesta falsa y se dirige a Google Ireland Limited, la filial europea de la empresa (KPW).

El tribunal consideró a Google una Störerin. En el derecho alemán sobre los derechos de la personalidad, el término se aplica a quien tiene la obligación y la capacidad de poner fin a una vulneración, aunque no la haya iniciado. Como una falsa acusación de delito es grave y urgente, el tribunal resolvió sin escuchar antes a Google. El incumplimiento podría acarrear una multa de hasta 250.000 euros, aunque no se ha impuesto ninguna (LHR).

Un fallo anterior en Alemania apuntó en la misma dirección. El 28 de mayo, el Tribunal Regional de Múnich I examinó un AI Overview que vinculaba a dos medios locales con un fraude de suscripciones (fallo de Múnich). Concluyó que el sistema de Google no se había limitado a citar sus fuentes: las había combinado para formular una afirmación nueva, de la que el tribunal hizo responsable a Google.

Google recurrió el fallo de Múnich, pero el recurso terminó en un acuerdo, así que ningún tribunal superior examinó ese razonamiento (The Decoder). Ambos fallos son de primera instancia y ninguno obliga a los jueces de otros lugares.

La laguna en la legislación europea

Las informaciones publicadas dicen que Google se negó, pero no explican por qué. El argumento más sólido que podría esgrimir es la escala del servicio: un sistema que responde a un volumen enorme de preguntas no puede revisar de antemano cada frase, y los usuarios pueden consultar los enlaces citados.

La legislación europea aborda ese argumento, pero no lo resuelve. El Reglamento de Servicios Digitales (DSA) es la norma de la UE aprobada en 2022 para regular las plataformas en línea. Protege a los servicios que almacenan o transmiten contenido de otras personas: no les impone una obligación general de supervisarlo y los exime de responsabilidad si actúan con rapidez al recibir aviso de que es ilegal (Reglamento de Servicios Digitales).

La cuestión pendiente es si una frase redactada por la propia IA de Google cuenta como contenido de otras personas. Si es así, Google actúa como intermediario y debe intervenir cuando recibe una notificación. Si no, se parece más a quien formula la acusación. El Tribunal de Justicia de la UE aún no se ha pronunciado sobre este punto (Lawfare).

Aquisgrán no tuvo que elegir entre esas dos interpretaciones. Con cualquiera de ellas, Google había recibido pruebas de que la afirmación era falsa y la dejó publicada. Esa es una lectura de los hechos conocidos, no el razonamiento expresado por el tribunal.

Italia ofrece un punto de comparación. El 29 de abril, su organismo regulador de las comunicaciones, AGCOM, pidió a la Comisión Europea que examinara AI Overviews y AI Mode con arreglo a las normas del DSA sobre riesgos sistémicos (AGCOM). Esas normas exigen a las plataformas más grandes que evalúen y limiten los daños que causan sus servicios. La iniciativa italiana respondió sobre todo a la preocupación de los medios por la pérdida de lectores, no a las falsas acusaciones. Una investigación de la Comisión podría empujar a Google a gestionar mejor esos riesgos, pero no decidiría por sí sola quién responde cuando una respuesta de IA difama a alguien.

El médico obtuvo lo que podía conseguir este caso: una orden judicial contra tres respuestas falsas sobre él, dictada después de que Google ignorara su denuncia. Europa aún no tiene una norma clara para las respuestas de los buscadores con IA en general. En otros lugares, las personas siguen amparadas por las leyes nacionales sobre difamación y privacidad, pero cada tribunal debe decidir si la IA de Google habla en nombre de la empresa. Una respuesta común para toda Europa requeriría un fallo de un tribunal nacional superior, una resolución del Tribunal de Justicia o una nueva ley. Ninguna ha llegado todavía.