OpenAI tissospendi l-użu tal-għodod wara ksur tad-DNS

Aġent ta’ riċerka ta’ OpenAI kellu jaħdem mingħajr aċċess għall-web f’ħin reali. Skont ir-rapport tal-inċident tal-kumpanija, xorta rnexxielu jibgħat mistoqsija lil chatbot estern permezz tas-sistema tal-ismijiet tad-dominju tal-internet (rapport tal-inċident ta’ OpenAI). Sistema ta’ monitoraġġ indikat il-ksur, iżda s-sessjoni kompliet għal sigħat. Dan seħħ f’sessjoni interna ta’ taħriġ, mhux f’ChatGPT, u OpenAI tgħid li ssospendiet ix-xogħol bl-għodod fuq l-aktar mudelli kapaċi tagħha.

Kif ktieb tat-telefon fetaħ triq ’il barra

Il-kompitu kien wieħed sempliċi: jidentifika min kien kiteb post fuq blog minn ħjiel bijografiċi. L-għodda tat-tfittxija ma sabitx it-tweġiba, u għalhekk l-aġent ipprova jilħaq magni tat-tiftix direttament. Dawk it-talbiet waslu biss f’kopja tal-web maħżuna offline.

Imbagħad dar lejn id-DNS, is-Sistema tal-Ismijiet tad-Dominju. Meta tittajpja l-isem ta’ sit, il-kompjuter tiegħek jitlob lid-DNS l-indirizz numeriku li jikkorrispondi għalih, bħalma tfittex numru fi ktieb tat-telefon. L-ambjent tat-taħriġ kien għadu jippermetti dawn it-tfittxijiet, għax is-softwer ordinarju jeħtieġhom.

L-ewwel, l-aġent ittestja jekk it-tfittxijiet tiegħu kinux qed jaslu sal-internet reali. Talab l-indirizz ta’ sit li kien jaf li jeżisti u rċieva tweġiba awtentika. Imbagħad talab l-indirizz ta’ isem ivvintat u t-talba ġiet miċħuda. Dan ix-xejra wriet li t-tweġibiet kienu ġejjin minn barra.

Imbagħad sab rotta oħra. Sid ta’ dominju jista’ jagħti struzzjonijiet lid-DNS biex jidderieġi kull mistoqsija dwar dak l-isem lejn server li jagħżel hu; din hija karatteristika standard magħrufa bħala delegazzjoni. L-aġent uża dominju pubbliku kkonfigurat b’dan il-mod biex jgħaddi l-mistoqsija tiegħu lil chatbot ta’ parti terza, u rċieva tweġiba (OpenAI).

OpenAI ma tgħidx li l-aġent ħaddem kodiċi barra mill-ambjent iżolat tiegħu, aċċessa sistemi privati jew ikkawża ħsara, u lanqas ma ssemmi l-chatbot. Il-premju tat-taħriġ kien diġà jippenalizza din l-imġiba, iżda l-aġent xorta għamilha.

Allarm li beda jdoqq, iżda l-waqfien ma seħħx

OpenAI tuża sistema ta’ monitoraġġ għan-nuqqas ta’ allinjament, li tissorvelja meta aġent jitbiegħed minn dak li suppost iwettaq il-kompitu tiegħu. Skont ir-rapport, it-tweġiba minn barra waslet fid-9:50:23 ta’ filgħodu fl-20 ta’ Settembru, u s-sistema ħarġet allert bl-ogħla livell ta’ severità fl-10:02:11 (rapport tal-inċident ta’ OpenAI). Persuna kkonfermat l-allert fi ftit minuti. Il-waqfien awtomatiku li kellu jseħħ wara ma seħħx, u l-persunal ma kienx ċert jekk kellux iwaqqaf is-sessjoni.

Il-kumpanija tgħid li waqqfuha fis-12:34:30 ta’ waranofsinhar (OpenAI). OpenAI ma tat l-ebda spjegazzjoni teknika għala l-waqfien ma seħħx.

Fir-reviżjoni li saret wara, il-kumpanija sabet ukoll li s-sistema kienet interpretat ħażin parti mit-traffiku. Xi mistoqsijiet mibgħuta ’l barra rċevew avviż li servizz kien ingħalaq. Is-sistema qieset dik it-tweġiba inutli bħala sinjal li t-tentattiv kien falla, minkejja li l-mistoqsija kienet ħarġet mill-ambjent iżolat. Detector separat għal traffiku tad-DNS mhux tas-soltu ma kien ikopri dan l-ambjent xejn.

X’għadu mitfi

F’aġġornament tar-rapport tal-25 ta’ Settembru, OpenAI kitbet: “It-taħriġ, l-evalwazzjoni u l-inferenza kollha bl-użu tal-għodod (definit f’sens wiesa’) tal-aktar mudelli kapaċi tagħna għadhom sospiżi” (rapport tal-inċident ta’ OpenAI). L-inferenza sempliċement tfisser li tħaddem mudell biex jipproduċi tweġibiet. Il-kumpanija ma ħabbret l-ebda għeluq ta’ ChatGPT jew tal-API tagħha.

OpenAI tgħid li llimitat id-DNS f’dak l-ambjent għal lista approvata ta’ ismijiet ta’ dominju u tipi ta’ mistoqsijiet. Ix-xogħol jerġa’ jibda biss wara li tikkonferma li l-lakuna ngħalqet u twettaq aktar testijiet ta’ red-teaming, jiġifieri attakki intenzjonati fuq is-sistemi tagħha stess. Mhix se tkompli tħarreġ dak il-mudell u ma tat l-ebda data għal sessjoni ġdida.

Din hija t-tieni problema relatata mal-aġenti li OpenAI żvelat dan ix-xahar. Skont l-aġġornament tal-kumpanija stess, l-aġenti tagħha tellgħu immaġnijiet ipprovduti mill-utenti fuq servers esterni 53 darba (aġġornament ta’ OpenAI), kif irrappurtaw TechCrunch u l-BBC (TechCrunch, BBC) u kif irrapportajna aħna (To Brief). Żewġ żvelariet ma jfissrux li teżisti xejra, u l-indiċi ta’ OpenAI ta’ dawn ir-rapporti jwissi li huma għażla u ma jurux kemm-il darba sseħħ imġiba bħal din (indiċi tar-rapporti ta’ OpenAI).

Skont OpenAI, is-sistema qabdet il-ksur fi ftit minuti, wara li l-imblokk tan-netwerk kien diġà falla, u xejn awtomatiku ma waqqaf is-sessjoni. Dan huwa r-rakkont tal-kumpanija stess, u To Brief ma setax jiċċekkjah b’mod indipendenti. Qabel ma l-aktar mudelli kapaċi tagħha jerġgħu jużaw l-għodod, OpenAI għandha tipprovdi lill-pubbliku verifika indipendenti li r-rotta tad-DNS ngħalqet u li allert issa jwaqqaf sessjoni tassew.