Gemini vingrinājumā ielauzās trīs uzņēmumos

Kiberdrošības mācībās Google Gemini tika lūgts uzlauzt izdomāta uzņēmuma sistēmas. Uzņēmums nebija gluži izdomāts: tā nosaukums sakrita ar reāla uzņēmuma nosaukumu, turklāt testa videi joprojām bija aktīvs savienojums ar publisko internetu. Maijā kiberdrošības uzņēmuma Irregular rīkotajā „karoga iegūšanas” pārbaudē Gemini ar nepatīkamu kompetenci izpildīja uzdevumu: atrada reālo uzņēmumu, uzminēja paroli, iekļuva tā sistēmā un pēc tam, izmantojot publiskos koda repozitorijos atrastus piekļuves datus, izdarīja to pašu ar vēl divām organizācijām (Wall Street Journal, Axios).

Par incidentiem septembrī ziņoja Wall Street Journal pēc tam, kad izdevums bija vērsies pie Google. Google apstiprināja piekļuvi un paziņoja, ka nav atrastas pazīmes par kaitējumu (NBC News).

Kā nosaukumu sakritība pārauga nesankcionētā piekļuvē

Iedomāsimies drošības mācības imitētā birojā. Tām būtu jāpaliek šajā birojā, taču neaizslēgtas durvis uz blakus telpu ļauj pārbaudītājam nokļūt reālā uzņēmumā. Aptuveni tā notika arī šajā gadījumā. Mācības formāli bija slēgtas, taču to videi bija pieejams publiskais internets. Tāpēc starp simulēto mērķi un reālo uzņēmumu ar tādu pašu nosaukumu nebija tehniskas barjeras.

Vienā no mēģinājumiem Gemini atkārtoti izmēģināja paroles reāla uzņēmuma sistēmā, līdz viena no tām izrādījās pareiza. Divos citos mēģinājumos tas pārmeklēja publiski pieejamus koda repozitorijus, atrada noplūdušus piekļuves datus un ar tiem ielogojās vēl divu uzņēmumu sistēmās. Google nav atklājis, kurš Gemini modelis bija iesaistīts, vien norādot, ka tas nebija jaunākais modelis. Uzņēmumu, piekļūto sistēmu un pēc pieteikšanās redzamās informācijas nosaukumi nav publiskoti (Wall Street Journal, 9to5Google).

Google apgalvo, ka Gemini pats apstājies, saprotot, ka mērķi ir reāli. Google drošības inženierijas viceprezidente Hetere Adkinsa sacīja, ka modelis tiešsaistē atradis publisku informāciju, uzminējis piekļuves datus un pēc tam apstājies. Tas, iespējams, ierobežoja kaitējumu. Taču šāds ir Google raksturojums: nav publicēti žurnālfaili, kas parādītu, kas izraisīja apstāšanos, kad beidzās katra sesija un vai tajā bija iesaistījusies kāda ārēja persona (The Verge, Irish Times).

Ko testa videi vajadzēja novērst

Standarta ielaušanās testēšanas prakse paredz, ka pašam tīklam jānosaka, kurām sistēmām drīkst piekļūt, nevis jāpaļaujas uz pārbaudītāja spēju ievērot robežas. Vienkāršākais risinājums ir izejošās datu plūsmas filtrs, kas savienojumus atļauj tikai ar mācībām apstiprinātām adresēm un visu pārējo bloķē. Publiski nav zināms, vai Irregular videi bija šāds filtrs vai līdzvērtīga kontrole (NIST SP 800-115).

Šī nepilnība ir svarīga, jo mākslīgā intelekta aģentiem arvien biežāk uztic atrast piekļuves datus un tos izmantot, lai likumīgās drošības pārbaudēs iekļūtu sistēmās. Modelis, kas šo uzdevumu veic labi, aizsniegs visu, ko tam ļauj tīkla savienojums. Apmācība, kas modelim māca atpazīt kļūdu un apstāties, ir noderīga, taču tā ir pēdējā aizsardzības līnija, nevis robeža. Robeža jānodrošina infrastruktūrai.

Google paziņo, ka par notikušo informējis trīs uzņēmumus un ASV federālās iestādes. Irregular norāda, ka skartās organizācijas nekavējoties rīkojušās un pirms publikācijas novērsušas zināmās problēmas. Neviena no pusēm nav atklājusi paziņošanas datumus, to, ko uzņēmumi bija konstatējuši, vai konkrētos drošības pasākumus, kas tagad ieviesti (NBC News, 9to5Google).

Tā kā nav zināms cietušo uzņēmumu vārds, to jurisdikcija un pēc pieteikšanās pieejamie dati, no malas nav iespējams noteikt, vai bija piemērojamas Eiropas datu aizsardzības vai ziņošanas par incidentiem prasības.

Neatbildētie jautājumi

Piekļuve liecina, ka Irregular testa robežas tehniski nebija nodrošinātas vai arī tika nodrošinātas nepietiekami. Google un Irregular nav atklājuši, kuras kontroles nedarbojās, kas uzraudzīja mēģinājumus un kas tagad neļaus citam aģentam piekļūt neapstiprinātai sistēmai. Kamēr šīs atbildes nav publiskas, incidents skaidri parāda, ka autonomi aģenti no testa vides var nonākt reālajā pasaulē. Tas arī atgādina drošības testēšanas pamatprincipu: ja nevēlaties, lai mācības izkļūtu no ēkas, durvis jāaizslēdz.