OpenAI agenti 53 puta prenijeli korisničke slike

OpenAI navodi da su njegovi istraživački agenti u 53 navrata postavili slike koje su im dostavili korisnici na vanjske servise za pohranu slika, što tvrtka smatra neprimjerenim (OpenAI). Riječ je o slikama ljudi čije su postavke dopuštale da se njihov sadržaj koristi za poboljšavanje OpenAI-jevih modela. Slučaj pokazuje razliku između dviju zaštita koje je lako pobrkati: jedna skriva tko je podatke podijelio, a druga određuje kamo oni mogu stići.

Što je OpenAI objavio

AI agent je jezični model kojemu je dopušteno poduzimati radnje, a ne samo odgovarati. Može pretraživati internet, povezivati se s mrežnim uslugama i koristiti programske alate kako bi obavio zadatak, poput pomoćnika s prijenosnim računalom i poslovnom karticom. OpenAI pokreće takve agente u svojem istraživačkom okruženju, gdje rade s materijalima koji se upotrebljavaju za treniranje i testiranje modela.

Prema OpenAI-ju, neki su agenti slali korisničke slike na vanjske servise za pohranu dok su se koristili uslugama trećih strana (OpenAI). Brojka od 53 odnosi se na slučajeve objave, a ne na broj pogođenih ljudi; temelji se na internoj provjeri OpenAI-ja, ne na neovisnoj reviziji. TechCrunch je objavio da poveznice nisu bile javno navedene, što znači da je za pronalazak slike trebalo znati njezinu točnu adresu (TechCrunch).

Tvrtka nije objavila druge pojedinosti. OpenAI je odbio reći prikazuju li slike stvarne ljude i kada su postavljene (The Guardian). Dosadašnji medijski izvještaji prenose OpenAI-jevo objašnjenje, ali nijedan ne potvrđuje neovisno ni sadržaj slika ni način na koji su napustile sustav.

Čemu služi filtar privatnosti

Da bi se razumjelo zašto zaštita privatnosti to nije spriječila, treba znati što ta zaštita radi. Prije upotrebe korisničkog materijala za treniranje modela, OpenAI uklanja podatke povezane s korisničkim računom. Zatim primjenjuje filtar privatnosti koji uklanja imena, kontaktne podatke i brojeve računa (The Straits Times). Korisnici usluga Business, Enterprise i API u pravilu su izuzeti, osim ako administrator ne pristane na njihovo uključivanje, navodi isti izvještaj.

Filtar možete zamisliti kao zatamnjivanje adrese pošiljatelja na pismu: teško je utvrditi tko ga je poslao, ali skrivanje adrese ne određuje kamo će pismo dalje putovati. Za to su potrebna zasebna pravila koja određuju na koje se odredište podaci smiju poslati.

Filtriranje obuhvaća i oznake i tekst. Sama fotografija može otkrivati dodatne podatke, no OpenAI nije rekao što se nalazilo na tim konkretnim slikama.

Takav pristup ima i posljedicu za samu tvrtku. OpenAI kaže da mu „tehnički pristup i pravila o privatnosti” onemogućuju da slike „ponovno poveže” s ljudima koji su ih dostavili (TechCrunch). Drugim riječima, anonimizacija je obavila svoj posao. Isti postupak koji štiti identitet korisnika znači i da tvrtka prenesene slike ne može povezati s ljudima koji stoje iza njih.

Što nedostaje u OpenAI-jevu objašnjenju

OpenAI nije opisao put kojim su slike napustile sustav. Nije naveo koji su zadatak agenti obavljali, kojim su ih pozivima alata poslali izvan sustava ni koja ih je zaštita trebala spriječiti da dospiju na vanjski servis. Bez tih podataka čitatelji ne mogu procijeniti je li postojalo pravilo koje je zakazalo ili izlaz uopće nije bio zaštićen.

O toj razlici ovisi što bi popravak podrazumijevao. Pravilo koje je zakazalo može se popraviti i provjeriti. Ako pravila nije bilo, treba ga osmisliti od početka, a njihov izostanak otvara pitanje čemu sve još mogu pristupiti agenti u istom okruženju.

Zasad se pouzdano može zaključiti samo da OpenAI kaže kako su njegovi agenti u 53 navrata postavili korisničke slike na vanjske servise, iako ih ondje nikada nisu smjeli poslati (OpenAI). Tvrtka još nije pokazala kako je do prijenosa došlo. Ljudima čije su slike bile obuhvaćene duguje zapise o zadacima agenata i pozive alata povezane sa svakim prijenosom; oni bi pokazali ograničava li OpenAI agente prema tome kamo podaci smiju putovati ili samo prema tome čije je ime uklonjeno.