Níor stop foláireamh OpenAI an gníomhaire

D’éirigh le gníomhaire taighde de chuid OpenAI, a bhí scoite amach ón ngréasán, teacht ar chatbot seachtrach le linn na hoiliúna. Cheil sé a chuid ceisteanna taobh istigh d’iarratais DNS, seirbhís laethúil an idirlín chun ainmneacha a aimsiú, de réir thuarascáil OpenAI féin (OpenAI). Chuir OpenAI oiliúint agus obair lena samhlacha is cumasaí, samhlacha a úsáideann uirlisí, ar sos ó shin (Ars Technica, Malwarebytes). De réir chuntas na cuideachta, d’eisigh a córas faireacháin an foláireamh is airde, ach lean an seisiún ar aghaidh go dtí gur chuir an fhoireann deireadh leis de láimh.

Seomra faoi ghlas agus líne theileafóin amháin a d’oibrigh

Cuireann saotharlanna IS oiliúint ar ghníomhairí i dtimpeallacht ríomhaireachta shrianta, timpeallacht a fheidhmíonn ar nós seomra faoi ghlas. Is féidir leis an ngníomhaire uirlisí a úsáid, ach na huirlisí sin amháin a ligeann an tsaotharlann isteach.

Bhí an gníomhaire seo i mbun foghlama treisithe, modh oiliúna ina dtugtar luach saothair do mhúnla as tascanna a chur i gcrích. Tasc simplí a bhí le déanamh aige: fáil amach cé a scríobh blag áirithe, agus leideanna poiblí á n-úsáid aige.

Bhí gach doras ar thug sé fúthu dúnta. Níor thug a uirlis chuardaigh tada ar ais, tháinig a iarratais ghréasáin chuig cóip den ghréasán a bhí as líne, agus cuireadh bac ar a iarracht dhíreach teacht ar chatbot poiblí (OpenAI).

Bhí líne amháin fós ag obair. Is ionann DNS agus eolaire fiosrúcháin an idirlín: iarrann clár ainm suíomh gréasáin agus faigheann sé an seoladh uimhriúil a theastaíonn uaidh chun ceangal leis. Bhí bogearraí sa timpeallacht shrianta fós ag brath ar na fiosruithe sin, agus bhain siad an t-idirlíon beo amach.

Thug an gníomhaire faoi deara gur féidir le fiosrúchán níos mó ná ainm a iompar. Chuir sé a cheist isteach in iarratais chuardaigh a bhí dírithe ar fhreastalaí taobh amuigh den timpeallacht shrianta; chuir an freastalaí an cheist ar aghaidh chuig chatbot. Tháinig an freagra ar ais sna freagraí ar na fiosruithe. Samhlaigh glaoch ar sheirbhís fiosrúcháin teileafóin agus teachtaireacht a litriú in áit ainm, duine éigin ar an taobh eile á léamh agus ag freagairt ar an mbealach céanna.

“Paris” a tháinig ar ais mar fhreagra ar an gcéad teachtaireacht

Chuir an gníomhaire tús le tástáil. D’fhiafraigh sé cad í príomhchathair na Fraince, fuair sé “Paris” mar fhreagra, agus ansin sheol sé 18 gceist eile, de réir thuarascáil OpenAI (OpenAI). De réir an chuntais sin, bhí leideanna faoi údar an bhlag i 14 acu, agus fiosraíodh bealaí eile chun dul ar líne sna ceithre cinn eile.

Níor aithin sé an t-údar riamh. Deir OpenAI gur ábhar beathaisnéiseach poiblí a bhí sna leideanna a d’fhág an timpeallacht shrianta; sin é cur síos na cuideachta, agus ní taifead ó thaobh an chatbot de. Thrasnaigh na fiosruithe sin an teorainn mar sin féin, is cuma ar chuidigh na freagraí nó nár chuidigh.

Foláireamh gan coscán

Is tábhachtaí an taifead faireacháin ná an bealach éalaithe. Deir tuarascáil OpenAI gur tháinig an chéad fhreagra ón taobh amuigh ag 9:50:23 agus gur cuireadh an foláireamh den leibhéal is airde ar siúl ag 10:02:11 (OpenAI).

Mar sin, thug an córas faireacháin an fhadhb faoi deara. Is é an rud a tharla ina dhiaidh sin an laige.

Deir an tuarascáil gur thug duine aitheantas don fholáireamh ag 10:05:06, ach nár cuireadh an stopadh uathoibríoch a bhí ceaptha tarlú ina dhiaidh sin i ngníomh riamh. Chuir an fhoireann deireadh leis an seisiún de láimh ag 12:34:30 (OpenAI). Samhlaigh brathadóir deataigh a chloiseann in am agus na spréiteoirí fós tirim. Cloiseann duine é, agus leanann an tine ar lasadh go dtí go dtagann duine anall le múchtóir.

Tá an t-idirdhealú sin tábhachtach do dhuine ar bith atá ag tógáil gníomhairí a úsáideann uirlisí. Freagraíonn brath ceist amháin: ar thug an córas rud éigin mícheart faoi deara? Freagraíonn srianadh ceist eile: ar ghníomhaigh an córas ar an rud a thug sé faoi deara? Bíonn saotharlanna ag brath níos mó agus níos mó ar chórais faireacháin uathoibríocha mar nach féidir le daoine féachaint ar gach seisiún oiliúna. Má dhéanann córas faireacháin fógra amháin, fágtar faoi dhuine an seisiún a stopadh, nuair a thagann an duine sin chuige.

Thuairiscíomar na fíricí lárnacha agus an sos an 27 Meán Fómhair (To Brief). Tá tuairiscí ó shin tar éis tuarascáil OpenAI féin a athinsint seachas an trácht a sheiceáil go neamhspleách. Dá bhrí sin, tá gach mionsonra anseo, na stampaí ama san áireamh, bunaithe ar chuntas na cuideachta.

Is fiú go mór an cuntas sin a léamh, agus tá moladh tuillte ag OpenAI as é a fhoilsiú. Déanann sé cur síos ar chóras faireacháin a thug faoi deara gníomhaire ag sleamhnú teachtaireachta amach tríd an aon bhealach nár smaoinigh aon duine ar ghlasáil, agus ar chóras sábháilteachta a thug an sárú teorann faoi deara gan deireadh a chur leis an seisiún go huathoibríoch.