Google não pode ignorar falsas acusações da IA

Na Europa, ainda não há uma resposta comum sobre o dever das plataformas de corrigirem acusações falsas geradas pela inteligência artificial. A 24 de setembro, um tribunal regional de Aachen ordenou à Google que deixasse de dizer aos utilizadores que um médico-chefe alemão tinha sido condenado por coação sexual (KPW, Beck aktuell). A condenação dizia respeito a outro homem. A Google fora alertada para o erro, mas recusara removê-lo. Continua por esclarecer se a empresa tem o mesmo dever perante erros deste tipo noutros países europeus.

Dois homens, uma resposta

A 28 de agosto, um colega pesquisou o nome do médico juntamente com a palavra alemã para «suspensão». O AI Mode da Google respondeu que o médico tinha sido condenado, despedido e recebido uma indemnização de seis dígitos (Beck aktuell). Esse percurso dizia respeito a outro antigo responsável de topo da mesma clínica.

A IA confundiu os dois homens. Os artigos em que se baseou eram sobre o outro e nem sequer mencionavam o médico. Segundo este, nunca houve contra si queixa, processo ou condenação. Quando pediu à Google que retirasse as respostas, a empresa respondeu, a 15 de setembro, que não iria agir (LHR). Uma advertência formal enviada pelo advogado também não teve efeito.

O que a Google tem agora de deixar de dizer

A ordem é restrita: proíbe a Google de apresentar três formulações específicas da resposta falsa. Foi dirigida à Google Ireland Limited, subsidiária europeia da empresa (KPW).

O tribunal considerou a Google uma Störerin: segundo o direito alemão dos direitos de personalidade, uma entidade que tem o dever de fazer cessar uma violação que pode impedir, mesmo que não a tenha iniciado. Como uma acusação falsa de crime é grave e urgente, o tribunal decidiu sem ouvir previamente a Google. O incumprimento pode levar a uma sanção pecuniária até 250 000 euros, embora ainda não tenha sido aplicada qualquer sanção (LHR).

Uma decisão anterior na Alemanha apontou no mesmo sentido. A 28 de maio, o Tribunal Regional de Munique I analisou uma AI Overview que associava dois meios de comunicação locais a uma fraude relacionada com subscrições (decisão de Munique). Concluiu que o sistema da Google não se limitara a citar as fontes: combinara-as para criar uma nova afirmação, pela qual o tribunal responsabilizou a empresa.

A Google recorreu da decisão de Munique, mas o recurso terminou num acordo, pelo que nenhum tribunal superior avaliou aquele raciocínio (The Decoder). Ambas as decisões foram proferidas por tribunais de primeira instância e não vinculam juízes noutros países.

A lacuna na lei europeia

Os relatos publicados dizem que a Google recusou o pedido, mas não explicam porquê. O argumento mais forte que a empresa poderia invocar é a dimensão do serviço: um sistema que responde a um número imenso de perguntas não consegue verificar cada frase antes de a apresentar, e os utilizadores podem seguir as ligações citadas.

A lei europeia aborda esse argumento, mas não resolve a questão. O Regulamento dos Serviços Digitais (DSA) é o quadro legal, aprovado em 2022, que rege as plataformas online. Protege os serviços que armazenam ou transmitem conteúdo de terceiros (Regulamento dos Serviços Digitais). Esses serviços não têm um dever geral de fiscalizar o conteúdo e não respondem por ele se agirem rapidamente quando são informados de que é ilegal.

A questão em aberto é se uma frase produzida pela própria IA da Google pode ser considerada conteúdo de terceiros. Se puder, a Google é um serviço de alojamento e tem de agir depois de receber uma notificação. Se não puder, aproxima-se da posição de autora da afirmação. O Tribunal de Justiça da União Europeia ainda não decidiu esta questão (Lawfare).

A decisão de Aachen não precisou de resolver a questão. Em qualquer das interpretações, a Google tinha sido confrontada com uma falsidade documentada e deixou-a online. Esta é uma leitura dos factos divulgados, não a fundamentação expressa pelo tribunal.

Em Itália, a autoridade reguladora das comunicações, AGCOM, pediu à Comissão Europeia que analisasse as AI Overviews e o AI Mode à luz das regras do DSA sobre riscos sistémicos (AGCOM). Essas regras obrigam as maiores plataformas a avaliar e limitar os danos causados pelos seus serviços. A iniciativa italiana foi motivada sobretudo pelo receio das editoras de perderem leitores, não por falsas acusações. Uma investigação da Comissão poderia levar a Google a gerir melhor estes riscos, mas não decidiria, por si só, quem responde por difamação numa resposta de IA.

O médico obteve o que este processo podia proporcionar: uma ordem judicial contra três respostas falsas a seu respeito, depois de a Google ter ignorado a queixa. A Europa continua sem uma regra comum para as respostas de pesquisa geradas por IA. As pessoas noutros países europeus continuam a dispor de meios legais, porque as leis nacionais sobre difamação e privacidade se mantêm aplicáveis. Mas cada tribunal tem de decidir por si se a IA da Google fala em nome da empresa. Uma resposta à escala europeia dependeria de uma decisão de um tribunal nacional superior, de uma decisão do Tribunal de Justiça da União Europeia ou de nova legislação; até agora, nada disso aconteceu.