Agenti OpenAI nahráli snímky uživatelů 53krát

Souhlas s využitím dat ke zlepšování modelů není totéž co souhlas s jejich zveřejněním. OpenAI uvádí, že její výzkumní agenti nahráli obrázky od uživatelů na externí weby pro ukládání obrázků v 53 případech. Firma toto jednání označuje za nevhodné (OpenAI). Snímky pocházely od lidí, kteří povolili využití svých materiálů ke zlepšování modelů OpenAI. Pro každého, kdo toto nastavení zapnul, je podstatný rozdíl mezi dvěma snadno zaměnitelnými ochranami: jedna skrývá, kdo data poskytl, druhá určuje, kam se smějí dostat.

Co OpenAI zveřejnila

AI agent je jazykový model, který dostal oprávnění jednat, nejen odpovídat. Může procházet web, využívat online služby a pracovat se softwarovými nástroji, aby splnil úkol; připomíná tak asistenta s notebookem a firemní kartou. OpenAI tyto agenty provozuje ve svém výzkumném prostředí, kde pracují s materiály pro trénování a testování modelů.

OpenAI uvádí, že někteří agenti při využívání služeb třetích stran odesílali uživatelské obrázky na externí weby pro jejich ukládání (OpenAI). Údaj 53 označuje počet těchto nahrání, nikoli počet dotčených lidí; vychází z interního šetření OpenAI, nikoli z nezávislého auditu. TechCrunch napsal, že odkazy nebyly veřejně uvedené, takže k nalezení obrázku bylo třeba znát přesnou adresu (TechCrunch).

Další podrobnosti OpenAI nesdělila. Odmítla uvést, zda obrázky zachycovaly skutečné lidi a kdy byly zveřejněny (The Guardian). Dosavadní zprávy médií přebírají vyjádření OpenAI. Žádná z nich nezávisle nepotvrdila, jaké obrázky unikly ani jak se dostaly ven.

K čemu měl sloužit filtr na ochranu soukromí

Pro pochopení toho, proč ochranný mechanismus úniku nezabránil, je třeba vědět, co přesně dělá. Před použitím uživatelských materiálů k trénování OpenAI odstraňuje údaje o účtu. Poté spouští filtr, který začerňuje jména, kontaktní údaje a čísla účtů (The Straits Times). Podle stejné zprávy jsou zákazníci s tarify Business, Enterprise a API z tohoto využití zpravidla vyloučeni, pokud k němu správce nedá souhlas.

Filtr si lze představit jako začerněnou zpáteční adresu na obálce. Zjistit, kdo dopis poslal, je pak obtížné. To ale neurčuje, kam dopis poputuje dál. O tom rozhodují jiná pravidla, která určují, na jaké adresy lze zásilku poslat.

Filtr pracuje také s popisky a textem. Informace může nést i samotná fotografie, ale OpenAI neuvedla, co obsahovaly právě tyto obrázky.

Tento způsob ochrany má i vedlejší důsledek. OpenAI tvrdí, že její „technický přístup a zásady ochrany soukromí“ jí brání znovu „spojit“ obrázky s lidmi, kteří je poskytli (TechCrunch). Anonymizace tedy podle firmy zafungovala. Tentýž krok, který chrání totožnost uživatele, zároveň OpenAI brání spojit nahrané obrázky s konkrétními lidmi.

Co v popisu OpenAI chybí

OpenAI zatím nezveřejnila, kudy obrázky odešly. Nepopsala, jaký úkol agenti plnili, které volání nástroje obrázky přeneslo ani jaká kontrola měla zabránit jejich odeslání na externí web. Bez těchto informací nelze poznat, zda existující pravidlo selhalo, nebo zda tento výstup nikdo nekontroloval.

Na tom závisí, co by znamenala náprava. Selhávající pravidlo lze opravit a otestovat. Chybějící ochranu je třeba navrhnout od začátku; její absence by zároveň vyvolala otázky, kam všude mají přístup další agenti ve stejném prostředí.

Jisté zatím víme jen málo. OpenAI uvádí, že její agenti nahráli uživatelské obrázky na externí weby v 53 případech, přestože se tam dostat neměly (OpenAI). Firma neukázala, jak k nahráním došlo. Lidem, jejichž obrázky se incident týká, dluží záznamy o úkolech agentů a voláních nástrojů, která vedla ke každému nahrání. Ty by ukázaly, zda pravidla omezují, kam smějí agenti data posílat, nebo jen odstraňují jména, která by mohla prozradit jejich původ.