Daleč stran od oči javnosti poteka nova oboroževalna tekma. Njenih posledic se ne zavedamo.

Avtonomna orožja se zdijo stvar znanstvene fantastike. Toda s tehnološkega vidika so že danes povsem izvedljiva, zatrjujejo strokovnjaki. Gre za orožja, ki so opremljena z napredno umetno inteligenco in so zmožna samostojnega odločanja, katero tarčo bodo napadla in koga bodo ubila.

Načelno ima pri orožjih, ki so danes v uporabi, človek še vedno odločilno besedo in izda ukaz za napad. V praksi pa je lahko meja med samo pametnim, avtomatiziranim orožjem, ki je danes v uporabi, in avtonomnim orožjem precej zamegljena, posledice tega, da odločitev o življenju in smrti v nekem trenutku prevzame stroj, pa izredno daljnosežne.

Tehnoloških ovir ni

Akademik prof. Ivan Bratko je eden pionirjev razvoja umetne inteligence. Kar je bilo dolgo zanimivo področje raziskav, mu danes zbuja nelagodje. Potencial za resnično črne scenarije je namreč pri tej tehnologiji izreden. Priznava, da se je sam tega vidika zavedel šele pred dobrimi petimi leti na večerji s kolegi v Londonu. Tam sta bila tudi Stuart Russell, profesor umetne inteligence na Univerzi Berkeley v Kaliforniji, in Stephen Muggleton z Imperialnega kolidža v Londonu in nenadoma so se zavedeli, kakšne možnosti uporabe ta tehnologija pravzaprav odpira. Stuart Russell je tako pred dvema letoma objavil nekakšen opozorilni igrani video, katerega vsebina se zdi povsem kot znanstvena fantastika, vendar ni.

»Tehnične osnove za avtonomna orožja so že povsem razvite. Nobena dodatna inovacija ni potrebna za scenarij, kot je napad malih brezpilotnikov, ki napadajo v roju in na podlagi prepoznave obrazov izbirajo, koga bodo napadli,« razlaga prof. Ivan Bratko.

Kljub izredni učinkovitosti je prostora za hude napake veliko

Uporaba umetne inteligence ima številne prednosti in to pravzaprav zelo dobro vemo vsi, ki vsak dan uporabljamo prenosne telefone. Odlično je kos velikanskim količinam podatkov in iz teh podatkov razbira vzorce in povezave, ki jih brez nje ne bi mogli opaziti. Brez dvoma je odlično orodje za najrazličnejše namene. S številnih vidikov sta njena učinkovitost in zanesljivost prav zares osupljivi. Tudi zato je morda naše zanašanje na njene zmožnosti natančnega napovedovanja povsem razumljivo, toda ne glede na to sta učinkovitost in zanesljivost umetne inteligence vedno tudi omejeni.

»Velikanska razlika je med človeško zavestjo, človeškim načinom odločanja in 'odločitvami', ki jih bo sprejemal še tako napreden sistem umetne inteligence. Človeško odločanje je vedno kontekstualno, vedno lahko upoštevamo nove dejavnike, nasprotno pa to za tudi najnaprednejše sisteme umetne inteligence ne velja,« poudarja filozof dr. Luka Omladič. Onkraj svojega zaprtega sistema, v okviru katerega je izredno hitra in učinkovita, je umetna inteligenca vedno slepa.

Poleg tega nam je delovanje globokih nevronskih mrež povsem nedoumljivo. Ravno globoke nevronske mreže pa so najučinkovitejši segment tehnologij umetne inteligence. Dajejo izredno točne rezultate, obenem pa tudi strokovnjakom ni razumljivo, kako so prišle do svojih sklepov. Avtonomno orožje bi torej prav lahko prišlo do sklepa, da je neko osebo nujno treba ubiti, ne bi pa moglo pojasniti, zakaj.

Poskusom prepovedi avtonomnih orožij nasprotujejo vojaške velesile

Uporaba avtonomnih orožij utegne povsem spremeniti tudi naravo vojn in spopadov. Obenem se zdi, da je oboroževalna tekma na tem področju že v velikem razmahu. Tako je namreč mogoče razumeti zadržanost držav, da bi prepoved podprle z mednarodnim sporazumom. Sprejemu konvencije o prepovedi avtonomnih orožij v okviru Združenih narodov vztrajno nasprotujejo ZDA, Rusija, Izrael, Avstralija in Velika Britanija. Tudi Evropska unija je na tem področju precej previdna. Konec koncev se v severnoatlantskem zavezništvu širijo razpoke in sodobne, tako imenovane visoko dinamične grožnje utegnejo zahtevati zelo hitre odzive. Hitrejše, kot jih je sposoben človek.

»Dilema evropske skupnosti je to, da lahko avtonomna orožja sicer prepovemo, toda druge države jih bodo vseeno uporabljale. Zato tudi resolucija evropskega parlamenta, sprejeta septembra lani, pravi, da kot avtonomnega orožja ne moremo definirati tistih sistemov, ki so namenjeni za obrambo. Da je torej treba prepovedati napadalne sisteme, kjer ni pomembnega človekovega nadzora nad kritičnimi funkcijami. Kaj to je, pa je odvisno od vsakega posameznega primera,« razlaga pristop Evropskega parlamenta do sedanje oboroževalne dileme pravnik dr. Aleš Završnik.

Do omenjene resolucije naj bi se posamezne države članice opredelile. Slovenija se za zdaj še ni.

Prihodnost v družbi avtonomnih orožij

Nevarnosti, ki jih prinašajo avtonomna orožja, je precej. Obrambni sistemi se utegnejo zelo hitro odzvati na neko grožnjo in izbrati najprimernejšo obrambno strategijo. Zakaj je bila uporabljena strategija najprimernejša, nam ne bodo znala pojasniti. Možno je tudi, da bo zaznana grožnja pravzaprav napaka, kajti umetna inteligenca ima svoje slepe pege, izključeni niso niti vdori in zlorabe.

Kot vsa orožja, bodo tudi ta prej ali slej prišla v napačne roke. Tehnologija je razmeroma poceni in dostopna. V rokah kriminalnih združb ali teroristov se utegne seznam tveganj sodobnega sveta še močno podaljšati. Kakšne bodo daljnosežne posledice njihove rabe, pa je nemogoče napovedati. Pričakujete nepričakovano, opozarjajo strokovnjaki.

Več razmislekov o avtonomnih orožjih najdete v oddaji Intelekta.