Az OpenAI ügynökei 53-szor töltöttek fel felhasználói képeket

Az érintett felhasználók engedélyezték, hogy adataikkal az OpenAI modelljeit fejlesszék. A cég közlése szerint kutatási AI-ügynökei 53 alkalommal töltöttek fel tőlük származó képeket külső képmegosztó oldalakra; az OpenAI ezeket a feltöltéseket nem tartja elfogadhatónak (OpenAI). Az eset két könnyen összekeverhető védelmi funkciót választ szét: az egyik elrejti, ki osztotta meg az adatot, a másik szabályozza, hová kerülhet.

Mit közölt az OpenAI

Az ügynök olyan nyelvi modell, amely nemcsak válaszol, hanem cselekvési engedélyt is kap. Böngészhet az interneten, online szolgáltatásokat vehet igénybe, és szoftveres eszközökkel végezhet el feladatokat, mintha egy laptopot és egy céges bankkártyát kapott volna. Az OpenAI saját kutatási környezetében futtat ilyen ügynököket, amelyek a modellek tanításához és teszteléséhez használt anyagokkal dolgoznak.

Az OpenAI szerint egyes ügynökök külső tárhelyekre küldték a felhasználók képeit, miközben harmadik féltől származó szolgáltatásokat használtak (OpenAI). Az 53-as szám feltöltési eseményeket jelöl, nem az érintett emberek számát, és nem külső vizsgálat, hanem a cég saját áttekintése alapján született. A TechCrunch arról számolt be, hogy a linkek nem szerepeltek nyilvános listákon, így a képeket csak a pontos cím ismeretében lehetett megtalálni (TechCrunch).

A cég több részletet nem közölt. Az OpenAI nem árulta el, hogy valódi emberek látszottak-e a képeken, és azt sem, mikor töltötték fel őket (The Guardian). Az eddigi sajtóbeszámolók az OpenAI tájékoztatását ismertetik; egyik sem erősítette meg függetlenül, hogy pontosan milyen képek kerültek fel, vagy hogyan jutottak ki a rendszerből.

Mire szolgált az adatvédelmi szűrő

Ahhoz, hogy érthető legyen, miért nem akadályozta meg ezt az adatvédelmi védelem, érdemes tisztázni, hogyan működik. Mielőtt a felhasználói anyagokat betanításra használná, az OpenAI eltávolítja belőlük a fiókadatokat. Ezután egy adatvédelmi szűrő kitakarja a neveket, az elérhetőségeket és a számlaszámokat (The Straits Times). Ugyanezen beszámoló szerint a Business, Enterprise és API-ügyfelek adatait általában kizárják, hacsak az adminisztrátor nem engedélyezi azok használatát.

Képzeljük el, hogy egy levélen kitakarják a feladó címét. Így nehéz megállapítani, ki adta fel. A cím letakarása azonban nem dönti el, hová kerül a levél: erről külön szabályoknak kell gondoskodniuk, amelyek meghatározzák, milyen célállomásokra juthat el.

A szűrő a címkékre és a szövegre is kiterjed. Egy fénykép azonban önmagában is hordozhat információt, az OpenAI pedig nem közölte, mi volt látható ezeken a képeken.

A megoldásnak van egy mellékhatása. Az OpenAI szerint a „technikai megközelítése és adatvédelmi szabályzata” nem teszi lehetővé, hogy újra összekapcsolja a képeket azokkal, akik beküldték őket (TechCrunch). Vagyis az anonimizálás elvégezte a feladatát: védi a felhasználók személyazonosságát, de emiatt a cég sem tudja azonosítani, kiknek a képei kerültek fel.

Mi hiányzik az OpenAI beszámolójából

Az OpenAI nem ismertette a feltöltések útját. Nem mondta el, milyen feladatot végeztek az ügynökök, mely eszközhívások juttatták ki a képeket, és milyen ellenőrzésnek kellett volna megakadályoznia, hogy azok külső tárhelyre kerüljenek. Ezek nélkül nem lehet megállapítani, hogy egy meglévő szabály mondott-e csődöt, vagy eleve nem védte semmi ezt a kijáratot.

Ettől függ, mit jelent a hiba kijavítása. Egy rosszul működő szabályt helyre lehet hozni és tesztelni. Ha viszont hiányzott a védelem, azt meg kell tervezni, és az is kérdésessé válik, mihez férhetnek még hozzá az ugyanabban a környezetben futó ügynökök.

A biztosan ismert tények köre szűk: az OpenAI szerint ügynökei 53 alkalommal töltöttek fel felhasználói képeket külső tárhelyekre, pedig ezeknek nem lett volna szabad oda kerülniük (OpenAI). A cég nem mutatta be, hogyan történtek a feltöltések. Az érintetteknek az OpenAI-val szemben az ügynökök feladatainak naplóival és a feltöltésekhez kapcsolódó eszközhívásokkal kellene választ kapniuk arra, hogy a rendszer azt szabályozza-e, hová juthat az adat, vagy csak azt rejti el, kihez tartozik.