ECB pritiska na 111 bank zaradi AI-vdorov

Ko programsko podjetje objavi varnostni popravek, banke za namestitev pogosto potrebujejo več dni ali tednov. Napadalci medtem popravek razčlenijo, poiščejo ranljivost, ki jo odpravlja, in poskušajo prehiteti vse, ki sistema še niso posodobili. To časovno okno se je močno skrčilo. Novi Anthropicov model Claude Mythos lahko iz popravka v 30 minutah sestavi delujoč način izkoriščanja ranljivosti. Evropska centralna banka (ECB) je zato v ponedeljek na izredno srečanje pozvala 111 največjih bank euroobmočja.

Stroj, ki razmišlja kot heker

Prejšnja orodja umetne inteligence za kibernetsko varnost so delovala predvsem kot črkovalniki za programsko kodo: opozarjala so na znane vzorce napak. Claude Mythos počne nekaj drugega. Bere arhitekturo programske opreme in išče slabosti, ki še niso bile razvrščene v znane kategorije. Nato več manjših ranljivosti poveže v celotno pot napada, podobno kot bi to storil izkušen varnostni raziskovalec.

Rezultati po navedbah virov kažejo, zakaj je ECB ukrepala. Model je delujoče načine izkoriščanja ranljivosti v prvem poskusu pripravil v 83 odstotkih primerov. Kadar mu ni uspelo, je sam prilagodil pristop in poskusil znova. Britanski inštitut za varnost umetne inteligence ga je preizkusil na strokovnih kibernetskih nalogah. Opravil je 73 odstotkov izzivov, kar naj bi bil prvi tak prag, ki ga je dosegel model umetne inteligence.

Anthropic ocenjuje, da je model prenevaren za javno objavo. Dostop ima približno 50 preverjenih organizacij v programu Project Glasswing. Partnerji programa so v prvem mesecu odkrili več kot 23.000 možnih ranljivosti v več kot 1.000 odprtokodnih projektih, med katerimi so 1.094 potrdili kot zelo resne ali kritične. Tempo odkrivanja je višji, kot ga lahko številne varnostne ekipe obvladujejo že pri začetni presoji.

Evropske banke so na šibkejši strani razkoraka

JPMorgan Chase, Goldman Sachs in druge ameriške banke že imajo dostop do Glasswinga ter Mythos uporabljajo za iskanje in odpravljanje lastnih ranljivosti. Evropska banka ga nima. EU se z Anthropicom pogaja o dostopu evropskih institucij, vendar pogovori po poročanju virov stojijo. Francoski Mistral medtem svoje orodje za odkrivanje ranljivosti predstavlja kot suvereno alternativo, čeprav neodvisnih primerjalnih testov še ni.

Podpredsednik nadzornega odbora ECB Frank Elderson je pritisk opisal z glasbeno primerjavo: banke morajo pri nameščanju popravkov preiti iz tempa »andante« v »presto«. Opozoril je, da »nedostopnost modela ni izgovor za neukrepanje«, ker bodo zlonamerni akterji podobne zmogljivosti verjetno posnemali v nekaj mesecih. Predsednik nemškega regulatorja BaFin Mark Branson je napovedal nove revizije »IT-Spotlight«, ki naj bi bile hitrejše in pogostejše od običajnih pregledov. Nizozemski banki ING in ABN AMRO sta že začeli krajšati čas od zaznane ranljivosti do popravka.

Regulativni pritisk je resničen in že preizkušen

ECB ima za pritisk na banke več vzvodov. DORA, akt EU o digitalni operativni odpornosti, velja od januarja 2025 in bankam nalaga preizkušanje obrambe ter poročanje o večjih kibernetskih incidentih v štirih urah. Določbe Akta o umetni inteligenci za sisteme z visokim tveganjem začnejo veljati 2. avgusta, kar prinaša dodatne obveznosti za umetno inteligenco pri kreditnem točkovanju ali ocenjevanju tveganj. Kršitve lahko vodijo v kapitalske pribitke, omejitve poslovanja ali globe do 10 odstotkov letnih svetovnih prihodkov.

Najmočnejše orodje ECB je morda že pokazalo učinek. Njen kibernetski stresni test iz leta 2024 ni prinašal formalnih kazni, vendar so banke pod okrepljenim nadzorom izdatke za kibernetsko varnost v povprečju povečale za 45 odstotkov, najpočasnejše med njimi pa za 81 odstotkov. Že sam nadzor je spremenil ravnanje.

Evropske banke morajo zdaj sisteme popravljati hitreje, kot lahko napadalci orožijo enak razred zmogljivosti umetne inteligence. ECB zato ne lovi samo posameznih ranljivosti, temveč širjenje orodij, ki se lahko iz nadzorovanih raziskovalnih programov hitro preselijo v odprto uporabo.