OpenAI agendid laadisid pilte üles 53 korral

OpenAI teatel postitasid ettevõtte teadusagendid kasutajate antud pilte välistele pildimajutussaitidele 53 korral. Ettevõte nimetab üleslaadimisi sobimatuks (OpenAI). Pildid pärinesid inimestelt, kelle seaded lubasid kasutada nende materjali OpenAI mudelite täiustamiseks. Juhtum puudutab kõiki, kes on selle valiku sisse lülitanud, sest see toob esile kaks kergesti segiaetavat kaitset: üks varjab, kellelt andmed pärinevad; teine piirab, kuhu neid tohib saata.

Mida OpenAI on avalikustanud

Alustame agentidest. Tehisintellekti agent on keelemudel, millel on luba tegutseda, mitte ainult vastata. See võib veebi sirvida, kasutada veebiteenuseid ja tööriistu, et ülesanne lõpule viia, umbes nagu sülearvuti ja ettevõttekaardiga assistent. OpenAI kasutab selliseid agente oma teaduskeskkonnas, kus nad töötlevad mudelite treenimiseks ja testimiseks vajalikku materjali.

OpenAI teatel saatsid mõned agendid kolmandate teenuste kasutamise käigus kasutajate pilte välistele majutussaitidele (OpenAI). Arv 53 tähistab postitamisjuhtumeid, mitte mõjutatud inimeste hulka. See põhineb OpenAI enda kontrollil, mitte sõltumatul auditil. TechCrunchi teatel ei olnud lingid avalikult loetletud: pildi leidmiseks oli vaja teada täpset aadressi (TechCrunch).

Ettevõte pole muid üksikasju avaldanud. OpenAI ei öelnud, kas piltidel olid päris inimesed või millal need üles laaditi (The Guardian). Seni kajastatud lood vahendavad OpenAI selgitusi, kuid ükski neist ei kinnita sõltumatult, millised pildid üles laaditi või kuidas need ettevõttest välja jõudsid.

Milleks privaatsusfilter mõeldud oli

Et mõista, miks kaitsemeede pilte välja saatmast ei takistanud, tuleb vaadata, mida see meede teeb. Enne kasutajamaterjali treenimisel kasutamist eemaldab OpenAI kontoteabe. Seejärel peidab privaatsusfilter nimed, kontaktandmed ja kontonumbrid (The Straits Times). Sama väljaande teatel jäetakse Businessi, Enterprise’i ja API klientide andmed üldjuhul kõrvale, kui administraator pole nende kasutamist lubanud.

Filtrit võib võrrelda ümbrikul oleva tagastusaadressi kinnikatmisega. Saatjat pole siis lihtne kindlaks teha, kuid aadressi peitmine ei määra, kuhu kiri edasi liigub. Selleks on vaja eraldi reegleid, mis määravad, millistesse sihtkohtadesse andmeid tohib saata.

Filter kontrollib ka silte ja teksti. Foto võib ise teavet sisaldada, kuid OpenAI pole öelnud, mida need konkreetsed pildid sisaldasid.

Sellisel lahendusel on ka kõrvalmõju. OpenAI sõnul takistavad ettevõtte „tehniline lähenemine ja privaatsuspoliitika” tal pilte inimestega, kes need esitasid, „uuesti seostada” (TechCrunch). Teisisõnu anonüümimine toimis. Sama samm, mis kaitseb kasutaja isikut, ei lase ettevõttel üleslaaditud pilte nende esitajatega siduda.

Mis OpenAI selgitusest veel puudub

OpenAI pole kirjeldanud andmete liikumisteed: millise ülesandega agendid tegelesid, milliste tööriistakutsetega pildid välja saadeti või milline kontroll pidi takistama nende jõudmist välisele saidile. Ilma nende üksikasjadeta ei saa lugeja aru, kas olemasolev reegel ebaõnnestus või polnud väljaminevatele andmetele üldse kaitset seatud.

Sellest sõltub, mida „parandamine” tähendab. Rikkis reeglit saab parandada ja katsetada. Puuduva reegli peab alles välja töötama ning selle puudumine tekitab küsimuse, millistele andmetele ja teenustele sama keskkonna agendid veel ligi pääsevad.

Kindel järeldus piirdub sellega: OpenAI sõnul postitasid agendid kasutajate pilte välistele saitidele 53 korral, kuigi neid pilte poleks tohtinud sinna saata (OpenAI). Ettevõte pole selgitanud, kuidas üleslaadimised toimusid. OpenAI peaks nüüd avaldama juhtumiga seotud agentide ülesande kirjed ja iga üleslaadimise taga olnud tööriistakutsed. Need näitaksid, kas agentide tegevust piirab see, kuhu andmed võivad liikuda, või piirdub kaitse kasutaja nime eemaldamisega.