EKP survestab 111 panka AI-ründeaukude tõttu

Kui tarkvarafirma avaldab turvapaiga, kulub pankadel selle paigaldamiseks tavaliselt päevi või nädalaid. Ründajad võtavad samal ajal paranduse lahti, otsivad vea, mida see parandab, ja proovivad jõuda paigata süsteemideni enne kaitsjat. See ajavahe on nüüd sisuliselt kadunud. Anthropicu uus AI-mudel Claude Mythos suudab turvapaigast töötava ründekoodi teha 30 minutiga. Esmaspäeval kutsus Euroopa Keskpank erakorralisele kohtumisele 111 euroala suurimat panka.

Masin, mis mõtleb nagu ründaja

Varasemad AI-põhised turvatööriistad töötasid koodi õigekirjakontrolli moodi: need märkisid ära tuntud veamustrid. Claude Mythos teeb midagi muud. Mudel loeb tarkvara arhitektuuri ja leiab nõrkusi, mida pole varem kategooriatesse pandud. Seejärel seob ta mitu väiksemat viga üheks ründeteeks, nagu teeks kogenud küberturbeuurija.

Tulemused selgitavad, miks pangajärelevalve reageeris kiiresti. Mudel lõi esimesel katsel töötava ründekoodi 83% juhtudest. Kui rünne ei töötanud, muutis ta ise lähenemist ja proovis uuesti. Ühendkuningriigi AI Security Institute testis seda ekspertidele mõeldud küberturbeülesannetega. Mudel lahendas neist 73%, ületades esimest korda piiri, milleni ükski AI-mudel varem polnud jõudnud.

Anthropic peab mudelit avalikuks kasutuseks liiga ohtlikuks. Ligipääs on umbes 50 eelnevalt kontrollitud organisatsioonil programmi Project Glasswing kaudu. Esimese kuuga leidsid Glasswingi partnerid üle 23 000 võimaliku turvanõrkuse enam kui 1000 avatud lähtekoodiga projektis. Neist 1094 kinnitati kõrge või kriitilise mõjuga nõrkuseks. See tempo tähendab, et kriitilisi vigu võib pinnale tulla kiiremini, kui inimmeeskonnad jõuavad neid läbi vaadata.

Euroopa pangad on vahe valel poolel

JPMorgan Chase, Goldman Sachs ja teised USA pangad kasutavad Glasswingi ligipääsu juba oma süsteemide nõrkuste leidmiseks ja parandamiseks. Ühelgi Euroopa pangal seda ligipääsu ei ole. EL on pidanud Anthropicuga venima jäänud kõnelusi, et Euroopa asutused saaksid mudelit kasutada. Prantsuse AI-ettevõte Mistral pakub oma turvanõrkuste tuvastamise tööriista suveräänse alternatiivina, kuid sõltumatuid võrdlusteste selle kohta veel ei ole.

EKP järelevalvenõukogu aseesimees Frank Elderson sõnastas surve muusikaterminites: pangad peavad turvapaikamisel liikuma „andante’st” „presto’sse”. Ta hoiatas, et „mudelile ligipääsu puudumine ei ole tegevusetuse vabandus”, sest pahatahtlikud tegijad võivad sarnase võimekuse mõne kuuga järele teha. Saksamaa finantsjärelevalve BaFini president Mark Branson teatas uutest „IT-Spotlight” audititest, mis peavad olema tavapärastest kontrollidest kiiremad ja sagedasemad. Hollandi pangad ING ja ABN AMRO on hakanud lühendama aega turvanõrkuse leidmisest turvapaigani.

Regulatiivne surve on olemas ja läbi proovitud

EKP-l on tööriistad olemas. EL-i digitaalse tegevuskerksuse määrus DORA kehtib kohustuslikuna 2025. aasta jaanuarist. See nõuab pankadelt kaitsemeetmete testimist ja suurtest küberintsidentidest teatamist nelja tunni jooksul. EL-i tehisintellekti määruse kõrge riskiga süsteemide sätted jõustuvad 2. augustil, lisades kohustusi AI-le, mida kasutatakse krediidiskooringus või riskihindamises. Nõuete rikkumine võib kaasa tuua kapitalinõude lisad, äripiirangud või trahvid kuni 10% aastasest üleilmsest käibest.

EKP kõige mõjusam hoob võib olla juba katsetatud. Selle 2024. aasta küberstressitest ei toonud formaalseid karistusi, kuid tugeva järelevalvesurve alla sattunud pangad suurendasid küberturbe kulutusi keskmiselt 45%. Mahajääjate kulutused kasvasid 81%. Järelevalve üksi muutis käitumist.

Euroopa pangad peavad nüüd oma süsteemid paigatud saama enne, kui ründajad sama tüüpi AI-võimekuse kasutusele võtavad. EKP probleem ei ole üks konkreetne mudel, vaid selle tööriistaklassi paratamatu levik kontrollitud uurimisprogrammidest laiemasse kasutusse.