ECB saziva 111 banaka zbog AI proboja

Kada softverska tvrtka objavi sigurnosnu zakrpu, bankama obično trebaju dani ili tjedni da je ugrade. Napadači u međuvremenu analiziraju zakrpu, otkrivaju koju ranjivost zatvara i pokušavaju iskoristiti sustave koji još nisu ažurirani. Taj je vremenski razmak sada postao znatno opasniji. Novi Anthropicov model umjetne inteligencije Claude Mythos može iz zakrpe rekonstruirati funkcionalan napad za 30 minuta. Europska središnja banka u ponedjeljak je zato pozvala 111 najvećih banaka europodručja na izvanredni sastanak.

Stroj koji razmišlja poput hakera

Dosadašnji alati umjetne inteligencije za kibernetičku sigurnost uglavnom su radili kao provjera pravopisa u programskom kodu: prepoznavali su poznate obrasce pogrešaka. Claude Mythos radi nešto drugo. Čita arhitekturu softvera i pronalazi slabosti koje dosad nisu bile svrstane ni u jednu poznatu kategoriju. Zatim povezuje nekoliko manjih ranjivosti u cjelovit put napada, onako kako bi to učinio iskusan istraživač sigurnosti.

Rezultati objašnjavaju nervozu regulatora. Model je iz prvog pokušaja proizveo funkcionalne napade u 83 posto slučajeva. Kada napad ne bi uspio, samostalno je mijenjao pristup i pokušavao ponovno. Britanski Institut za sigurnost umjetne inteligencije testirao ga je na izazovima stručne razine iz kibernetičke sigurnosti. Model je riješio 73 posto zadataka, prvi među AI sustavima koji je prešao taj prag.

Anthropic smatra da je model preopasan za javnu objavu. Pristup ima oko 50 provjerenih organizacija kroz program Project Glasswing. U prvom mjesecu partneri u programu pronašli su više od 23.000 mogućih ranjivosti u više od 1.000 projekata otvorenog koda, od kojih je 1.094 potvrđeno kao visoko rizično ili kritično. Stroj tako otkriva ozbiljne slabosti brže nego što ih ljudski sigurnosni timovi mogu obraditi.

Europske banke nalaze se na pogrešnoj strani jaza

JPMorgan Chase, Goldman Sachs i druge američke banke već imaju pristup Glasswingu i koriste Mythos kako bi pronalazile i zatvarale vlastite ranjivosti. Nijedna europska banka nema takav pristup. Europska unija vodi zastoje u razgovorima s Anthropicom o pristupu za europske institucije. Francuski Mistral istodobno predstavlja vlastiti alat za otkrivanje ranjivosti kao suverenu alternativu, no neovisnih usporednih testova još nema.

Potpredsjednik nadzornog odbora ESB-a Frank Elderson hitnost je opisao glazbenim rječnikom: banke u ugradnji zakrpa moraju prijeći s „andante” na „presto”. Upozorio je da „nedostatak pristupa modelu nije opravdanje za nečinjenje”, jer će zlonamjerni akteri vjerojatno u roku od nekoliko mjeseci razviti slične mogućnosti. Predsjednik njemačkog BaFina Mark Branson najavio je nove „IT-Spotlight” nadzore, zamišljene kao brže i češće provjere od klasičnih inspekcija. Nizozemske banke ING i ABN AMRO već su počele skraćivati vrijeme od otkrivanja ranjivosti do ugradnje zakrpe.

Regulatorni pritisak već je iskušan

ESB ima instrumente. DORA, europski Akt o digitalnoj operativnoj otpornosti, obvezujuće se primjenjuje od siječnja 2025. i od banaka traži testiranje obrane te prijavu većih kibernetičkih incidenata u roku od četiri sata. Odredbe Akta o umjetnoj inteligenciji za visokorizične sustave stupaju na snagu 2. kolovoza, uz dodatne obveze za svaku umjetnu inteligenciju koja se koristi u procjeni kreditne sposobnosti ili rizika. Nepoštovanje pravila može dovesti do dodatnih kapitalnih zahtjeva, ograničenja poslovanja ili novčanih kazni do 10 posto godišnjih globalnih prihoda.

Najdjelotvornija poluga ESB-a možda se već pokazala. Njegov kibernetički stresni test iz 2024. nije nosio formalne kazne, ali su banke pod pojačanim nadzornim pritiskom povećale izdvajanja za kibernetičku sigurnost u prosjeku za 45 posto, dok su najsporije među njima potrošnju povećale za 81 posto. Sam nadzor promijenio je ponašanje.

Europske banke sada moraju zatvarati ranjivosti prije nego što napadači počnu koristiti istu klasu AI sposobnosti. ESB pokušava dobiti utrku prije nego što alati koji su danas ograničeni na nadzirane istraživačke programe postanu široko dostupni.