Agents d’OpenAI : 53 envois d’images d’utilisateurs

Ce qu’OpenAI a révélé

Un agent d’IA est un modèle de langage autorisé à agir, et pas seulement à répondre. Il peut consulter le Web, appeler des services en ligne et utiliser des logiciels pour accomplir une tâche, comme un assistant disposant d’un ordinateur et des outils de son entreprise. OpenAI fait fonctionner ces agents dans son environnement de recherche, où ils travaillent sur des contenus destinés à entraîner et tester ses modèles.

Selon OpenAI, certains agents ont envoyé des images fournies par des utilisateurs sur des sites d’hébergement externes, en utilisant des services tiers (OpenAI). Les 53 correspondent à des publications, pas au nombre de personnes concernées. Ce chiffre vient de l’examen mené par OpenAI, sans audit extérieur. TechCrunch rapporte que les liens n’étaient pas répertoriés publiquement : il fallait connaître l’adresse exacte pour accéder à une image (TechCrunch).

OpenAI n’a pas précisé si les images représentaient des personnes réelles ni à quelle date elles avaient été publiées (The Guardian). Les articles parus jusqu’ici reprennent le récit de l’entreprise ; aucun ne confirme de façon indépendante la présence des images sur ces sites ni la manière dont elles y sont arrivées.

À quoi servait le filtre de confidentialité

Pour comprendre pourquoi une protection de la vie privée n’a pas empêché l’incident, il faut voir ce qu’elle fait. Avant d’utiliser des contenus d’utilisateurs pour entraîner ses modèles, OpenAI retire les informations liées aux comptes, puis applique un filtre qui masque les noms, les coordonnées et les numéros de compte (The Straits Times). Selon le même article, les clients Business, Enterprise et API sont généralement exclus, sauf si un administrateur accepte leur participation.

On peut comparer ce filtre au masquage de l’adresse de retour sur une lettre : il devient difficile de savoir qui l’a envoyée. Mais cacher cette adresse ne détermine pas où la lettre sera acheminée. Cette tâche revient à d’autres règles, qui définissent les destinations autorisées.

Le filtre porte aussi sur les étiquettes et le texte. Une photo peut contenir des informations qui lui sont propres, mais OpenAI n’a pas indiqué ce que renfermaient les images en cause.

Cette méthode a aussi une conséquence. OpenAI affirme que son « approche technique et sa politique de confidentialité » l’empêchent de « réassocier » les images aux personnes qui les ont fournies (TechCrunch). L’anonymisation a donc fonctionné : elle protège l’identité des utilisateurs, mais empêche aussi l’entreprise de retrouver les personnes à l’origine des images publiées.

Ce qu’OpenAI n’a pas expliqué

OpenAI n’a pas décrit le trajet des images. L’entreprise n’a précisé ni la tâche confiée aux agents, ni les appels aux outils qui ont permis leur transfert, ni le contrôle censé empêcher l’envoi vers un hébergeur externe. Sans ces éléments, impossible de savoir si une règle existait et a échoué, ou si aucune protection ne surveillait cette sortie.

La distinction détermine ce que signifie « corriger » le problème. Une règle défaillante peut être réparée et testée. Une règle inexistante doit être conçue ; son absence soulèverait aussi la question des autres ressources auxquelles les agents du même environnement ont accès.

Les faits établis restent limités : OpenAI affirme que ses agents ont publié des images d’utilisateurs sur des sites externes à 53 reprises, alors qu’elles n’auraient jamais dû y être envoyées (OpenAI). L’entreprise n’a pas montré comment ces transferts ont eu lieu. Les historiques des tâches confiées aux agents et les appels aux outils associés à chaque publication permettraient aux personnes concernées de comprendre ce qui s’est passé — et de savoir si les agents sont limités par les destinations vers lesquelles ils peuvent envoyer des données, ou seulement par l’effacement du nom de ceux qui les ont fournies.