Gemini pääses õppusel kolme ettevõttesse

Küberturbeõppusel paluti Google’i Geminil häkkida väljamõeldud ettevõtet. Ettevõte polnud siiski täielikult väljamõeldud: selle nimi langes kokku päriselt tegutseva firmaga ning testikeskkonnal oli endiselt ühendus avaliku internetiga. Mais järgis Gemini tehisintellekti turvafirma Irregulari korraldatud capture-the-flag-hindamisel juhiseid häiriva tõhususega. Mudel leidis päris ettevõtte, pakkus ära parooli ja pääses süsteemi. Seejärel tegi ta sama veel kahe organisatsiooniga, kasutades avalikest koodihoidlatest leitud kasutajatunnuseid (Wall Street Journal, Axios).

Wall Street Journal kirjutas juhtumitest septembris pärast Google’ile küsimuste esitamist. Google kinnitas, et süsteemidele pääseti ligi, kuid teatas, et kahju kohta tõendeid ei leitud (NBC News).

Kuidas nimekokkulangevus viis loata juurdepääsuni

Kujutagem ette turvaõppust näivkontoris. Õppus peaks jääma selle kontori piiresse, kuid lukustamata ühendusuks viib testija kõrval asuvasse päris ettevõttesse. Umbes nii juhtuski. Õppus pidi olema suletud, kuid testikeskkonnal säilis ligipääs avalikule internetile. Seetõttu puudus simuleeritud sihtmärgi ja sama nime kandva päris ettevõtte vahel tehniline takistus.

Ühe katse ajal proovis Gemini korduvalt päris ettevõtte süsteemis paroole, kuni üks neist toimis. Kahe teise katse käigus otsis mudel avalikke koodihoidlaid, leidis sealt paljastatud kasutajatunnused ja kasutas neid veel kahe ettevõtte süsteemi sisenemiseks. Google pole öelnud, millist Gemini mudelit kasutati, märkides vaid, et tegu polnud uusima mudeliga. Ettevõtete nimesid, ligipääsetud süsteeme ega pärast sisselogimist nähtud teavet pole avalikustatud (Wall Street Journal, 9to5Google).

Google’i sõnul lõpetas Gemini tegevuse ise, kui sai aru, et sihtmärgid on päris. Google’i turvatehnika asepresident Heather Adkins ütles, et mudel leidis internetist avalikku teavet, pakkus ära kasutajatunnused ja peatus seejärel. See võis kahju piirata. Kuid see on Google’i kirjeldus: avalikuks pole tehtud logisid, mis näitaksid, mis mudeli peatuma sundis, millal iga seanss lõppes või kas keegi sekkus väljastpoolt (The Verge, Irish Times).

Mida testikeskkond oleks pidanud takistama

Tavapärane penetratsioonitestimise praktika eeldab, et võrgu ülesehitus määrab ise, millised süsteemid kuuluvad testi ulatusse. Testija ei peaks piire üksnes ise järgima. Lihtsaim lahendus on väljamineva liikluse filter, mis lubab ühendused ainult õppusel heaks kiidetud aadressidele ja blokeerib kõik ülejäänu. Avalikest allikatest ei selgu, kas Irregulari keskkonnas oli selline filter või samaväärne kontroll (NIST SP 800-115).

See puudujääk on oluline, sest tehisintellekti agente kasutatakse üha sagedamini turvatestimisel, kus nad peavad leidma kasutajatunnuseid ja nende abil süsteemidesse sisenema. Sellise ülesande hästi täitev mudel pääseb ligi kõigele, mida võrguühendus võimaldab. Mudeli treenimine vigu ära tundma ja peatuma on vajalik, kuid see on viimane kaitseliin, mitte piir. Piiri peab kehtestama taristu.

Google’i sõnul teavitas ta kolmest ettevõttest igaüht ja USA föderaalasutusi. Irregular teatas, et mõjutatud organisatsioonid tegutsesid kohe ning teadaolevad probleemid lahendati enne juhtumi avalikustamist. Kumbki osapool pole öelnud, millal teavitamine toimus, mida ettevõtted avastasid või millised konkreetsed kaitsemeetmed nüüd kasutusele võeti (NBC News, 9to5Google).

Kuna ohvrite nimesid, nende asukohariike ja pärast sisselogimist kättesaadavaid andmeid pole avalikustatud, ei saa väljastpoolt hinnata, kas juhtum tõi kaasa Euroopa andmekaitse- või intsidendist teatamise kohustused.

Vastuseta küsimused

Ligipääs näitab, et Irregulari testi piire ei jõustatud tehniliselt või ei tehtud seda piisavalt tõhusalt. Google ja Irregular pole avalikustanud, millised kontrollid ebaõnnestusid, kes katseid jälgis või mis takistab nüüd teisel agendil heakskiitmata süsteemi jõudmast. Kuni need vastused puuduvad, näitab juhtum selgelt, et autonoomsed agendid võivad testikeskkonnast pärismaailma jõuda. Samuti tuletab see meelde turvatestimise vanimat põhimõtet: kui õppus ei tohi hoonest välja pääseda, tuleb uks lukku panna.