OpenAI-agentit latasivat käyttäjäkuvia 53 kertaa

OpenAI kertoo tutkimusagenttiensa julkaisseen käyttäjiltä saatuja kuvia ulkoisilla kuvapalveluilla 53 kertaa. Yhtiö pitää latauksia sopimattomina (OpenAI). Kuvat olivat ihmisiltä, joiden asetukset sallivat aineiston käytön OpenAI:n mallien kehittämiseen. Tapaus koskee kaikkia, jotka ovat sallineet aineistonsa käytön. Se havainnollistaa kahden helposti sekoittuvan suojan eroa: toinen peittää, kuka aineiston jakoi, toinen säätelee, minne aineisto voi päätyä.

Mitä OpenAI on kertonut

Tekoälyagentti on kielimalli, jolle annetaan lupa toimia pelkän vastaamisen sijaan. Se voi selata verkkoa, käyttää verkkopalveluja ja ohjelmistoja sekä hoitaa tehtäviä niiden avulla, vähän kuin avustaja, jolla on kannettava tietokone ja yrityskortti. OpenAI käyttää tällaisia agentteja tutkimusympäristössään, jossa käsitellään mallien koulutuksessa ja testauksessa käytettävää aineistoa.

OpenAI:n mukaan osa agenteista lähetti käyttäjien kuvia ulkoisille kuvapalveluille käyttäessään kolmansien osapuolten palveluja (OpenAI). Luku 53 tarkoittaa julkaisukertoja, ei niiden ihmisten määrää, joita tapaus koskee. Luku perustuu OpenAI:n omaan selvitykseen, ei ulkopuoliseen tarkastukseen. TechCrunchin mukaan linkkejä ei ollut listattu julkisesti, joten kuvan löytäminen olisi vaatinut tarkan verkko-osoitteen (TechCrunch).

Yhtiö ei ole kertonut kaikkia yksityiskohtia. OpenAI ei suostunut sanomaan, esittivätkö kuvat oikeita ihmisiä tai milloin ne julkaistiin (The Guardian). Toistaiseksi media on välittänyt OpenAI:n oman selvityksen. Kuvien olemassaoloa tai niiden päätymistä palveluille ei ole vahvistettu riippumattomasti.

Mihin tietosuodatin on tarkoitettu

Tietosuojakeinojen toimintatapa selittää, miksi suodatin ei estänyt kuvien joutumista ulkopuolelle. Ennen käyttäjäaineiston käyttöä koulutuksessa OpenAI poistaa tilitiedot. Sen jälkeen tietosuodatin peittää nimet, yhteystiedot ja tilinumerot (The Straits Times). Saman uutisen mukaan Business-, Enterprise- ja API-asiakkaiden aineisto jää yleensä käytön ulkopuolelle, ellei ylläpitäjä salli sitä.

Suodatinta voi ajatella kirjeen palautusosoitteen peittämisenä. Lähettäjää on sen jälkeen vaikea tunnistaa, mutta osoitteen peittäminen ei ratkaise, minne kirje kulkee. Se edellyttää erillisiä sääntöjä siitä, mihin aineistoa saa lähettää.

Suodatin käsittelee myös nimiä ja tekstiä. Kuva voi itsessään sisältää tunnistettavia tietoja, mutta OpenAI ei ole kertonut, mitä nämä kuvat sisälsivät.

Suojauksella on myös sivuvaikutus. OpenAI:n mukaan sen ”tekninen lähestymistapa ja tietosuojakäytäntö” estävät kuvien ”yhdistämisen uudelleen” ne toimittaneisiin ihmisiin (TechCrunch). Toisin sanoen anonymisointi toimi. Käyttäjän henkilöllisyyttä suojaava menettely tarkoittaa samalla, ettei yhtiö voi yhdistää ladattuja kuvia niiden lähettäjiin.

Mitä OpenAI ei ole kertonut

OpenAI ei ole kuvannut tapahtumaketjua: mitä tehtävää agentit suorittivat, millä työkalukutsuilla kuvat siirtyivät ulos tai minkä suojauksen olisi pitänyt estää niiden lähettäminen ulkopuoliselle palvelulle. Ilman näitä tietoja ei voi päätellä, oliko käytössä ollut sääntö, joka petti, vai puuttuiko lähettämistä valvova suoja kokonaan.

Ero ratkaisee, mitä korjaaminen edellyttää. Toimimattoman säännön voi korjata ja testata. Puuttuva suoja on rakennettava alusta asti. Sen puuttuminen herättäisi kysymyksen siitä, mihin muualle samassa ympäristössä toimivat agentit pääsevät käsiksi.

Varmana voidaan pitää vain rajattua asiaa: OpenAI:n mukaan sen agentit julkaisivat käyttäjien kuvia ulkopuolisilla sivustoilla 53 kertaa, vaikka kuvia ei olisi pitänyt lähettää sinne (OpenAI). Yhtiö ei ole osoittanut, miten lataukset tapahtuivat. Kuvien kohteena olleille ihmisille OpenAI:n pitäisi nyt antaa agenttien tehtävälokit ja kunkin latauksen taustalla olleet työkalukutsut. Niistä kävisi ilmi, rajoittavatko agentteja säännöt siitä, minne tietoa saa siirtää, vai ainoastaan se, että lähettäjän nimi on poistettu.