Agentes de OpenAI subieron imágenes 53 veces

OpenAI afirma que sus agentes de investigación publicaron en sitios externos de alojamiento de imágenes contenido aportado por usuarios en 53 ocasiones, una práctica que la empresa califica de inapropiada (OpenAI). Las imágenes procedían de personas que habían permitido que su material se usara para mejorar los modelos de OpenAI. El caso importa a cualquiera que haya marcado esa casilla porque pone de relieve dos protecciones que se confunden con facilidad: una protege la identidad de quien aportó los datos y la otra determina adónde pueden llegar.

Qué ha revelado OpenAI

Los agentes son el punto de partida. Un agente de IA es un modelo de lenguaje al que se permite actuar, además de responder. Puede navegar por internet, conectarse a servicios en línea y usar herramientas informáticas para completar una tarea, como un asistente con portátil y tarjeta de empresa. OpenAI utiliza estos agentes en su entorno de investigación, donde trabajan con material empleado para entrenar y probar sus modelos.

Según OpenAI, algunos agentes enviaron imágenes de usuarios a sitios externos de alojamiento mientras utilizaban servicios de terceros (OpenAI). La cifra de 53 cuenta publicaciones, no personas afectadas, y procede de la revisión interna de la empresa, no de una auditoría externa. TechCrunch informó de que los enlaces no aparecían en listados públicos, por lo que hacía falta conocer la dirección exacta para encontrar una imagen (TechCrunch).

OpenAI no ha facilitado otros detalles. La empresa se negó a precisar si las imágenes mostraban a personas reales o cuándo se publicaron (The Guardian). Las informaciones publicadas hasta ahora recogen la versión de OpenAI. Ninguna ha confirmado de forma independiente qué imágenes fueron ni cómo salieron de sus sistemas.

Para qué servía el filtro de privacidad

Para entender por qué una medida de privacidad no impidió lo ocurrido, conviene saber cuál era su función. Antes de usar material de usuarios para entrenar sus modelos, OpenAI elimina los datos de las cuentas. Después aplica un filtro de privacidad que oculta nombres, datos de contacto y números de cuenta (The Straits Times). Según el mismo medio, los clientes Business, Enterprise y API suelen quedar excluidos, salvo que un administrador autorice su participación.

El filtro es como tachar la dirección del remitente en una carta. Así se dificulta saber quién la envió, pero no se determina adónde irá después. De eso se ocupan otras reglas, que fijan qué destinos están permitidos.

El filtro también analiza etiquetas y texto. Las fotografías pueden contener información por sí mismas, aunque OpenAI no ha precisado qué incluían estas imágenes.

El diseño tiene un efecto secundario. OpenAI afirma que su «enfoque técnico y su política de privacidad» le impiden «volver a vincular» las imágenes con las personas que las aportaron (TechCrunch). En otras palabras, la anonimización cumplió su función. La misma medida que protege la identidad del usuario impide a la empresa asociar estas publicaciones con las personas afectadas.

Lo que falta en la explicación de OpenAI

OpenAI no ha explicado cómo fue el recorrido de las imágenes. No ha detallado qué tarea realizaban los agentes, qué llamadas a herramientas las sacaron del entorno ni qué control debía impedir que llegaran a un sitio externo de alojamiento. Sin esos datos, no se puede saber si había una norma que falló o si esa salida carecía de protección.

La diferencia determina qué significa haberlo «solucionado». Si una norma falló, cabe repararla y comprobar que funciona. Si nunca existió, habrá que diseñarla; su ausencia plantea además qué otros recursos pueden alcanzar los agentes de ese mismo entorno.

El dato firme, por tanto, es limitado. OpenAI afirma que sus agentes publicaron imágenes de usuarios en sitios externos en 53 ocasiones, aunque nunca deberían haberse enviado allí (OpenAI). La empresa no ha explicado cómo se produjeron las cargas. Los registros de las tareas y las llamadas a herramientas que precedieron a cada publicación son la información que OpenAI debe ahora a las personas cuyas imágenes estuvieron implicadas; permitirían saber si sus agentes están sujetos a límites sobre adónde pueden enviar datos o únicamente a medidas que borran el nombre asociado a ellos.