Agenții OpenAI: 53 de încărcări ale imaginilor utilizatorilor

OpenAI afirmă că agenții săi de cercetare au încărcat imagini furnizate de utilizatori pe site-uri externe de găzduire a imaginilor în 53 de cazuri, acțiuni pe care compania le consideră nepotrivite (OpenAI). Imaginile proveneau de la utilizatori ale căror setări permiteau folosirea materialelor lor pentru îmbunătățirea modelelor OpenAI. Episodul este relevant pentru oricine a activat această opțiune: scoate în evidență diferența dintre două protecții ușor de confundat. Una ascunde identitatea persoanei care a furnizat datele. Cealaltă stabilește unde pot ajunge acestea.

Ce a dezvăluit OpenAI

Mai întâi, agenții. Un agent AI este un model lingvistic căruia i se permite să acționeze, nu doar să răspundă. Poate naviga pe internet, apela servicii online și folosi instrumente software pentru a duce la capăt o sarcină, asemenea unui asistent cu laptop și cardul companiei. OpenAI folosește astfel de agenți în mediul său de cercetare, unde aceștia lucrează cu materiale utilizate pentru antrenarea și testarea modelelor companiei.

Potrivit OpenAI, unii dintre agenți au trimis imagini ale utilizatorilor către site-uri externe de găzduire în timp ce foloseau servicii ale unor terți (OpenAI). Cifra de 53 reprezintă numărul publicărilor, nu numărul persoanelor afectate, și provine din analiza proprie a OpenAI, nu dintr-un audit independent. TechCrunch a relatat că linkurile nu erau listate public, astfel că cineva ar fi avut nevoie de adresa exactă pentru a găsi o imagine (TechCrunch).

Compania nu a oferit alte detalii. OpenAI a refuzat să spună dacă imaginile înfățișau persoane reale sau când au fost publicate (The Guardian). Relatările de până acum redau versiunea OpenAI, fără să confirme independent nici existența imaginilor, nici felul în care au ajuns pe site-urile externe.

Ce protejează filtrul de confidențialitate

Pentru a înțelege de ce o măsură de protecție a vieții private nu a împiedicat incidentul, trebuie văzut ce face aceasta. Înainte ca materialele utilizatorilor să fie folosite la antrenarea modelelor, OpenAI elimină detaliile asociate conturilor. Apoi aplică un filtru de confidențialitate care ascunde nume, date de contact și numere de cont (The Straits Times). Potrivit aceleiași publicații, clienții Business, Enterprise și API sunt, în general, excluși, dacă administratorul nu activează folosirea datelor.

Filtrul poate fi înțeles ca o adresă de retur ștearsă de pe un plic. Nimeni nu poate afla cu ușurință cine l-a trimis. Dar ștergerea adresei nu stabilește unde ajunge plicul; pentru asta sunt necesare reguli separate, care limitează destinațiile permise.

Filtrul se aplică și etichetelor și textului. O fotografie poate conține însă și alte informații, iar OpenAI nu a precizat ce conțineau imaginile în cauză.

Designul are și un efect secundar. OpenAI spune că „abordarea tehnică și politica de confidențialitate” nu îi permit să „asocieze din nou” imaginile cu persoanele care le-au furnizat (TechCrunch). Cu alte cuvinte, anonimizarea și-a atins scopul. Aceeași măsură care protejează identitatea utilizatorilor împiedică însă compania să asocieze încărcările cu persoanele din spatele lor.

Ce nu a explicat OpenAI

OpenAI nu a descris traseul imaginilor. Compania nu a precizat ce sarcină îndeplineau agenții, prin ce apeluri către instrumente au trimis imaginile în exterior și ce control ar fi trebuit să împiedice trimiterea lor către un site extern. Fără aceste informații, cititorii nu pot stabili dacă exista o regulă care a eșuat sau dacă acea cale de ieșire nu era protejată deloc.

Diferența determină ce ar însemna remedierea. O regulă care nu a funcționat poate fi reparată și testată. Dacă regula lipsea, trebuie proiectată de la zero, iar absența ei ridică întrebări despre ce alte resurse pot accesa agenții din același mediu.

Ce se poate afirma cu certitudine este limitat: OpenAI spune că agenții săi au publicat imagini ale utilizatorilor pe site-uri externe în 53 de cazuri, deși acestea nu ar fi trebuit trimise acolo (OpenAI). Compania nu a arătat cum au avut loc încărcările. Înregistrările sarcinilor agenților și apelurile către instrumentele folosite la fiecare încărcare sunt informațiile pe care OpenAI le datorează acum persoanelor ale căror imagini au fost implicate. Ele ar arăta dacă agenții sunt limitați în funcție de locurile unde pot trimite datele sau doar prin eliminarea numelui persoanei care le-a furnizat.