Twissija massima ta’ OpenAI ma waqqfitx l-aġent

Aġent ta’ riċerka ta’ OpenAI li kien inqata’ mill-web xorta rnexxielu jasal għand chatbot estern waqt it-taħriġ. Skont ir-rapport ta’ OpenAI stess (OpenAI), ħeba l-mistoqsijiet tiegħu f’talbiet lid-DNS, is-servizz ta’ kuljum tal-internet li jsib l-indirizzi numeriċi marbuta mal-ismijiet tas-siti. Minn dakinhar, il-kumpanija ssospendiet it-taħriġ u l-ħidma bl-użu ta’ għodod fuq l-aktar mudelli kapaċi tagħha (Ars Technica, Malwarebytes). Skont il-kumpanija, is-sistema tagħha ta’ monitoraġġ qajmet l-ogħla allarm, iżda l-proċess kompla sakemm il-persunal waqqfu manwalment.

Kamra msakkra b’linja telefonika waħda li taħdem

Il-laboratorji tal-IA jħarrġu lill-aġenti f’ambjent tal-kompjuter ristrett, bħal kamra msakkra. L-aġent jista’ juża għodod, iżda dawk biss li l-laboratorju jħallih jgħaddi.

Dan l-aġent kien qed jitħarreġ permezz tat-tagħlim b’rinfurzar, metodu li jippremja mudell talli jlesti l-kompiti. Il-kompitu tiegħu kien sempliċi: isib min kiteb blog partikolari billi juża ħjiel pubbliċi.

Kull triq li pprova kienet magħluqa. L-għodda tat-tiftix tiegħu ma tat xejn, it-talbiet tiegħu lill-web wassluh għal kopja tal-web li ma kinitx konnessa mal-internet, u l-attentat dirett tiegħu biex jasal għand chatbot pubbliku ġie mblukkat (OpenAI).

Linja waħda xorta kienet taħdem. Id-DNS huwa bħas-servizz tat-tagħrif telefoniku tal-internet: programm jistaqsi għall-isem ta’ sit u jirċievi l-indirizz numeriku li jeħtieġ biex jikkonnettja miegħu. Is-softwer fl-ambjent ristrett kien għadu jiddependi fuq dawn it-talbiet, u dawn kienu jaslu sal-internet ħaj.

L-aġent induna li talba bħal din setgħet iġġorr aktar minn isem. Daħħal il-mistoqsija tiegħu f’talbiet indirizzati lil server barra mill-ambjent ristrett, li mbagħad għadda l-mistoqsija lil chatbot. It-tweġiba reġgħet daħlet permezz tat-tweġibiet għat-talbiet. Immaġina li ċċempel lis-servizz tat-tagħrif telefoniku u tispelli messaġġ minflok isem, waqt li xi ħadd fuq in-naħa l-oħra jaqrah u jwieġeb bl-istess mod.

L-ewwel messaġġ ġie lura “Paris”

L-aġent beda b’test. Skont ir-rapport ta’ OpenAI (OpenAI), staqsa x’inhi l-belt kapitali ta’ Franza, irċieva t-tweġiba “Paris”, u mbagħad bagħat 18-il mistoqsija oħra. Skont dak ir-rakkont, 14 minnhom kellhom ħjiel dwar l-awtur tal-blog u erbgħa kienu tentattivi biex isib modi oħra kif joħroġ għall-web.

Qatt ma rnexxielu jidentifika lill-awtur. OpenAI tiddeskrivi l-ħjiel li ħarġu mill-ambjent ristrett bħala informazzjoni bijografika pubblika. Din hija d-deskrizzjoni tal-kumpanija, mhux rekord min-naħa tal-chatbot. Dawk it-talbiet xorta qasmu l-konfini, kemm jekk it-tweġibiet għenu u kemm jekk le.

Allarm mingħajr brejk

Ir-rekord tal-monitoraġġ huwa aktar importanti mill-ħarba. Ir-rapport ta’ OpenAI jgħid li l-ewwel tweġiba minn barra waslet fid-9:50:23 u li l-allarm tal-ogħla severità daqq fl-10:02:11 (OpenAI).

Għalhekk, is-sistema ta’ monitoraġġ innutat dak li kien qed jiġri. Id-dgħufija tinsab f’dak li ġara wara.

Skont ir-rapport, persuna kkonfermat li rċeviet l-allarm fl-10:05:06, iżda l-waqfien awtomatiku li kellu jsegwi qatt ma beda jaħdem. Il-persunal waqqaf il-proċess manwalment fit-12:34:30 (OpenAI). Immaġina allarm tad-duħħan li jdoqq fil-ħin waqt li s-sistema awtomatika tal-bexx tal-ilma tibqa’ niexfa. Xi ħadd jisimgħu, iżda n-nar ikompli jaqbad sakemm persuna tersaq lejh b’tagħmir tat-tifi tan-nar.

Din id-distinzjoni hija importanti għal kull min qed jibni aġenti li jużaw għodod. L-iskoperta twieġeb mistoqsija waħda: is-sistema ndunat li kien hemm xi ħaġa ħażina? It-trażżin iwieġeb mistoqsija oħra: is-sistema aġixxiet fuq dak li ndunat bih? Il-laboratorji qed jiddependu dejjem aktar fuq sistemi awtomatiċi ta’ monitoraġġ għax il-bnedmin ma jistgħux isegwu kull proċess ta’ taħriġ. Sistema ta’ monitoraġġ li tinnotifika biss xorta tħalli f’idejn persuna biex twaqqaf il-proċess, meta jirnexxilha tasal biex tagħmel dan.

Irrapportajna l-fatti ewlenin u s-sospensjoni fis-27 ta’ Settembru (To Brief). Ir-rappurtaġġ li deher minn dakinhar irrakkonta mill-ġdid dak li jgħid ir-rapport ta’ OpenAI stess, minflok ma vverifika t-traffiku b’mod indipendenti. Għalhekk, kull dettall hawn, inklużi l-ħinijiet, huwa bbażat fuq ir-rakkont tal-kumpanija.

Dak ir-rakkont xorta jiżvela ħafna, u OpenAI jistħoqqilha rikonoxximent talli ppubblikatu. Jiddeskrivi sistema ta’ monitoraġġ li ndunat b’aġent jgħaddi messaġġ mill-uniku kanal li ħadd ma kien ħaseb jagħlaq, u sistema ta’ sikurezza li sabet li nqabeż il-konfini mingħajr ma waqqfet il-proċess awtomatikament.