Google non può ignorare le accuse false dell’IA

Il 24 settembre, un tribunale regionale di Aquisgrana ha ordinato a Google di smettere di dire agli utenti che un primario tedesco era stato condannato per coercizione sessuale (KPW, Beck aktuell). La condanna riguardava un'altra persona. Google era stato informato dell'errore, ma si era rifiutato di rimuovere la risposta. Resta da chiarire se abbia lo stesso obbligo di intervenire su errori simili nel resto d'Europa.

Due uomini, una sola risposta

Il 28 agosto, un collega del medico ha cercato il suo nome insieme alla parola tedesca per «sospensione». La modalità IA di Google ha risposto che era stato condannato, licenziato e liquidato con una buonuscita a sei cifre (Beck aktuell). Quella vicenda riguardava un altro ex dirigente dello stesso ospedale.

L'IA aveva confuso due persone. Gli articoli a cui aveva attinto parlavano dell'altro uomo e non facevano mai il nome del medico, il quale sostiene che contro di lui non sia mai stata presentata una denuncia, né sia mai stato avviato un procedimento o pronunciata una condanna. Quando ha chiesto a Google di rimuovere le risposte, il 15 settembre l'azienda gli ha comunicato che non sarebbe intervenuta (LHR). Anche una diffida formale del suo avvocato è rimasta senza esito.

Cosa Google deve smettere di fare

L'ordinanza ha una portata circoscritta: vieta tre formulazioni specifiche della falsa risposta e si rivolge a Google Ireland Limited, la controllata europea dell'azienda (KPW).

Il tribunale ha qualificato Google come Störerin. Nel diritto tedesco della personalità, il termine indica un soggetto tenuto a porre fine a una violazione che è in grado di fermare, anche se non l'ha originata. Una falsa accusa di reato è grave e urgente; per questo il giudice ha deciso senza ascoltare prima Google. La violazione dell'ordinanza potrebbe comportare una sanzione fino a 250.000 euro, anche se finora non ne è stata comminata alcuna (LHR).

Una precedente decisione tedesca era andata nella stessa direzione. Il 28 maggio, il Tribunale regionale di Monaco I ha esaminato un AI Overview che associava due editori locali a una frode negli abbonamenti (Munich judgment). Secondo il giudice, il sistema di Google non si era limitato a citare le fonti: le aveva combinate, producendo una nuova affermazione, della quale il tribunale ha ritenuto responsabile Google.

Google ha impugnato la decisione di Monaco, ma il ricorso si è chiuso con un accordo e nessun giudice di grado superiore ha quindi valutato quel ragionamento (The Decoder). Entrambe le decisioni provengono da tribunali di primo grado e nessuna vincola i giudici di altri paesi.

Il vuoto nel diritto dell'UE

Le ricostruzioni pubblicate riferiscono che Google si è rifiutato di intervenire, ma non spiegano perché. La sua argomentazione più forte sarebbe quella della scala: un sistema che risponde a un numero enorme di domande non può verificare in anticipo ogni frase, mentre gli utenti possono consultare i link citati.

Il diritto dell'UE affronta questa obiezione senza risolverla. Il Digital Services Act è il regolamento europeo del 2022 che disciplina le piattaforme online. Protegge i servizi che archiviano o trasmettono contenuti di altre persone: non impone loro un obbligo generale di sorveglianza e li esonera da responsabilità se intervengono rapidamente dopo aver ricevuto la segnalazione che un contenuto è illegale (Digital Services Act).

Resta da stabilire se una frase generata dall'IA di Google possa essere considerata contenuto di terzi. Se sì, Google è un servizio di hosting e deve intervenire una volta ricevuta la segnalazione; se no, somiglia piuttosto all'autore dell'affermazione. La Corte di giustizia dell'UE non si è ancora pronunciata sulla questione (Lawfare).

Aquisgrana non ha dovuto scegliere tra queste due interpretazioni: in entrambi i casi, Google aveva ricevuto prove documentate della falsità e aveva lasciato online la risposta. Questa è la nostra lettura dei fatti riportati, non la motivazione espressa dal tribunale.

L'Italia offre un termine di paragone. Il 29 aprile, l'Autorità per le garanzie nelle comunicazioni (AGCOM) ha chiesto alla Commissione europea di esaminare AI Overviews e AI Mode alla luce delle disposizioni dell'atto sui rischi sistemici (AGCOM). Queste norme impongono alle piattaforme più grandi di valutare e limitare i danni causati dai loro servizi. L'iniziativa italiana nasceva soprattutto dalla preoccupazione degli editori per la perdita di lettori, non dalle false accuse. Un'indagine della Commissione potrebbe spingere Google a gestire meglio questi rischi, ma non stabilirebbe di per sé chi sia responsabile quando una risposta dell'IA diffama qualcuno.

Il medico ha ottenuto quanto questo caso poteva offrirgli: un'ordinanza contro tre false risposte che lo riguardavano, pronunciata dopo che Google aveva ignorato la sua segnalazione. In Europa manca ancora una regola condivisa sulle risposte dei motori di ricerca basati sull'IA. Chi si trova in altri paesi può comunque ricorrere alle leggi nazionali sulla diffamazione e sulla privacy, ma ogni tribunale deve decidere autonomamente se le risposte dell'IA di Google siano imputabili a Google. Per una risposta valida in tutta Europa servirebbe una decisione di un giudice nazionale di grado superiore, una sentenza della Corte di giustizia o una nuova legge; finora non è arrivata nessuna delle tre.