Švedski dron prehiteva varovalke

Na industrijskem preizkusu v Karlskogi na Švedskem je programska oprema na majhnem dronu zaznala več vrst ciljev, v skladu s pravili misije, ki so jih določili ljudje, izbrala enega in začela avtonomni približek. Po navedbah razvijalcev je celoten postopek potekal lokalno, brez zunanje obdelave podatkov in neprekinjene komunikacijske povezave. Pri končni izbiri ni sodeloval noben operater.

Januarska predstavitev je bila del projekta ALMA (Affordable Loitering Modular Ammunition), ki ga vodi BAE Systems Bofors. Švedsko podjetje za umetno inteligenco Scaleout, izšlo iz Uppsalške univerze, je zagotovilo programsko opremo za strojno učenje. Strojno opremo za drone sta dobavila Expando AB in Airolit, na širšem dogodku Winter Demo 2026 pa je sodelovalo približno 20 podjetij.

Scaleout je prikazal natančno določeno zmogljivost: model za prepoznavanje, ki je deloval na letalniku, je zaznaval in razvrščal objekte na tleh ter jim določal prednost, nato pa je dron usmeril proti objektu, ki so ga človeško določena pravila razvrstila kot najpomembnejšega.

Zakaj lokalna obdelava spreminja razmerje

Večina vojaških dronov danes prenaša posnetke kamer do oddaljenega operaterja, ki spremlja sliko, prepoznava cilje in odobri ukrepanje. Takšen model je odvisen od hitre in neprekinjene podatkovne povezave med letalnikom in poveljniškim mestom.

Pri pristopu ALMA analiza slike poteka neposredno na letalniku. Scaleoutov tehnični opis širšega inženirskega dela opisuje zaporedje, v katerem kamere zajamejo prizor, kompakten model za prepoznavanje zazna in razvrsti objekte, programska oprema za sledenje pa jih spremlja skozi videoposnetek. Pravila za razvrščanje nato določijo prednostni objekt. Celoten postopek poteka na majhnem procesorju na letalniku, ne na oddaljenem strežniku.

S tem se odpravi ena od ranljivosti: nasprotnik, ki moti komunikacijsko povezavo, ne more ustaviti delovanja programske opreme za prepoznavanje. Predstavitev pa ni preverila, ali sistem vzdrži druge oblike motenj, na primer motnje senzorjev ali navigacije. Lokalna obdelava odpira tudi vprašanje, na katero razvijalci javno še niso odgovorili: kakšen nadzor ima operater, ko je komunikacija omejena? Ni znano, ali sistem vključuje vnaprej določene pogoje za prekinitev napada, rezervne povezave ali druge varovalke.

Kaj je preizkus potrdil in česa ni

Dokazi izvirajo iz industrijske predstavitve na švedskem poligonu, ne iz neodvisnega primerjalnega preizkusa ali vojaškega prevzemnega testiranja. Noben javni vir ni navedel, kako natančno model prepoznava cilje, kako deluje v dimu, prahu, ob uporabi maskirnih vzorcev ali ob hkratni prisotnosti civilnih in vojaških vozil ter kako hitro pripravi rezultat. Prav razlika med nadzorovanim poligonom z znanimi vrstami vozil in nejasnostjo resničnih razmer je najtežji preizkus sistemov za izbiro ciljev (okvir NIST za tveganja umetne inteligence).

Še vedno ni jasno, ali je bil pri preizkusu uporabljen bojni ali inertni tovor oziroma simuliran napad. Sekundarno poročanje opisuje eksplozivni naboj, usmerjen proti oklepnemu vozilu, vendar Scaleoutova lastna poročila tega ne pojasnjujejo.

Noben vir ni navedel, da bi zmogljivost sprejele švedske oborožene sile ali katera od enot Nata. Raziskovalni zapis agencije Vinnova povezano delo Scaleouta opredeljuje kot tekoče raziskave in razvoj, ne kot naročilo za nabavo.

Kdo mora zdaj odgovoriti

Predstavitev je izbiro objekta in približanje prenesla na letalnik, ki je deloval po pravilih, določenih vnaprej. To je konkreten inženirski dosežek. Sam po sebi pa ne dokazuje, da gre za delujoče orožje, niti da je pri lokalnem sprejemanju odločitev o ciljih ohranjen učinkovit človeški nadzor.

Če bi takšno konfiguracijo sprejeli kot orožje, bi morala Švedska v skladu s členom 36 Dodatnega protokola I preveriti, ali jo je mogoče uporabljati zakonito. Pri tem bi morala oceniti senzorje, natančnost prepoznavanja, načine odpovedi in dejanski obseg nadzora, ki ga ohrani operater. Akt EU o umetni inteligenci izključuje izključno vojaške sisteme, mednarodna pogajanja o avtonomnem orožju pa so prinesla načela, ne pa zavezujoče pogodbe, ki bi določala, kakšen človeški nadzor je zadosten.

Razvijalci morajo javnosti pojasniti natančnost sistema, delež lažno pozitivnih zaznav in dejanske možnosti posredovanja operaterja. Morebitni švedski kupec ali organ, pristojen za presojo orožja, mora pravno oceniti, ali so ti nadzorni mehanizmi zadostni. Dokler ne bo znano oboje, preizkus v Karlskogi kaže, kaj lahko programska oprema na letalniku izbere, ne pa tudi, čemu ji je smiselno zaupati napad.