Čeprav se zdi Kitajska, kjer tehnologije omogočajo oblastem vse večji nadzor nad prebivalci, daleč stran, takšna vizija prihodnje družbe vse bolj velja tudi za Evropo. Avtomatizirane tehnologije počasi vendar vztrajno tudi pri vplivajo na življenje in delo, v prihodnjih minutah pa več o dogajanju v Beogradu. Kitajski velikan Huawei v okviru projekta »Varno mesto« v srbski prestolnici namreč namešča nadzorne kamere, saj naj bi s tehnologijo prepoznavanja obrazov zmanjšali kriminal. Bojan Perkov je raziskovalec pri Share Fondaciji. Štiri glavna področja delovanja so svoboda izražanja, informacijska zasebnost, kibernetska varnost in odprto znanje. V Ljubljani je predaval na posvetu Zavoda Državljan D o tehnologijah prepoznavanja obrazov. Z njim se je pogovarjala Urška Henigman.

Skrivnosten projekt "Varno mesto" potencialno nevaren za vse prebivalce

Čeprav se zdi Kitajska, kjer tehnologije omogočajo oblastem vse večji nadzor nad prebivalci, daleč stran, takšna vizija prihodnje družbe vse bolj velja tudi za Evropo. Avtomatizirane tehnologije počasi, vendar vztrajno tudi pri nas vplivajo na življenje in delo, v prihodnjih minutah pa več o dogajanju v Beogradu. Kitajski velikan Huawei v okviru projekta »Varno mesto« v srbski prestolnici namreč namešča nadzorne kamere, saj naj bi s tehnologijo prepoznavanja obrazov zmanjšali kriminal. Bojan Perkov je raziskovalec pri Share Fondaciji. Štiri glavna področja delovanja so svoboda izražanja, informacijska zasebnost, kibernetska varnost in odprto znanje. V Ljubljani je predaval na posvetu Zavoda Državljan D o tehnologijah prepoznavanja obrazov.

Internet stvari, povezane avtonomne naprave, govorni asistenti, biometrija – z umetno inteligenco in strojnim učenjem se odpirajo vrata v nov svet. Tako kot vedno pa tehnološke novosti s seboj prinesejo tudi nove oblike zlorab tehnologije. Kako jih preprečiti, da zavarujemo posameznika, družbo in demokracijo? Ali je tehnologija nevtralna in je problematična samo, če zaide v napačne roke, ali pa so določene tehnologije problematične same po sebi?

To je vprašanje, ki si ga ves čas postavljamo. Sam ne verjamem, da je tehnologija nevtralna, ampak služi interesom tistega, ki jo je ustvaril. Nisem prepričan, da nam neka tehnologija, na primer prepoznava obraza, ki izrazito vsiljivo in invazivno posega v zasebnost, življenje res samo izboljša ali samo olajša. Lahko nam odvzame veliko in nas pripelje v nekatere zelo neprijetne in kompleksne položaje, tudi v naših vsakdanjih življenjih, kot lahko vidimo, da se že dogaja na Kitajskem.

Huawei v Beogradu namešča nadzorne kamere. Ali te že delujejo in koliko jih je pravzaprav?

Veliko je še neznanega. Informacije po večini dobimo od predstavnika za zunanjo trgovino, od ministra in direktorja policije. Posledično nam za zdaj še ni uspelo določiti točnega števila kamer – ali gre za tisoč ali dva tisoč. Slišali smo namreč nekaj nasprotujočih si izjav. Kolikor nam je uspelo razbrati iz dokumentacije, sistem avtomatskega prepoznavanja obrazov še ne deluje. Zdaj smo v obdobju, ko samo nameščajo nove kamere, projekt pa poteka v več stopnjah.

Kitajska podjetja so s svojimi naložbami že dolgo prisotna v Srbiji. Kako pa se je začelo sodelovanje med državama na področju nadzornih tehnologij v Beogradu?

Na spletni strani podjetja Huawei so objavili študijo primera, ki je, potem ko smo o njej pisali pri fundaciji share, zelo zanimivo izginila s spletne strani. Skratka, študija razlaga, kako so organi Ljudske republike Kitajske in Republike Srbije začeli sodelovati. Navedli so primer prometne nesreče s smrtnim izidom, ko je povzročitelj nesreče pobegnil na Kitajsko. Ob pomoči fotografije, ki jo je ministrstvo za notranje zadeve poslalo kitajskim državnim organom, so tega povzročitelja hitro našli. In to je bilo seveda priporočilo za nakup, morebitno namestitev in uporabo takega sistema v Srbiji. Kitajska in Srbija sta sicer podpisali več dvostranskih sporazumov o sodelovanju, med projekti je tudi projekt “Varno mesto« oziroma »Varna družba«, o katerem govori prej omenjena študija primera na spletni strani podjetja Huawei. Nam je zapis na spletni strani pravočasno uspelo arhivirati, tako vsakdo še vedno lahko prebere, kaj točno tam piše, kakšne so možnosti uporabe teh kamer, pa tudi kakšne so bile izkušnje do takrat.

O biometriji in njeni vse bolj pogosti uporabi slišimo veliko, predvsem je problem v tem, da dela napake.

Tako je. Poleg tega, da so zmotljive in delajo napake (kot pri vsaki tehnologiji, nič ni popolno), še večji problem predstavlja ta tehnologija za meščane, ki ne delajo zločinov in ne delajo ničesar narobe, temveč se samo gibljejo po mestu, v katerem živijo. Ves čas jih namreč snemajo, nadzirajo. Seveda slišimo zagotovila, da se tehnologije ne bo zlorabljalo in da obstajajo varnostni sistemi in tako naprej. Ampak pred časom je v aferi z nadzornimi kamerami na splet pricurljalo nekaj posnetkov s teh kamer. Med njimi je bil tudi ekspliciten posnetek, ki je nastal v bližini velike športne dvorane v Beogradu. Ta je potem končal na pornografskih spletnih straneh. O ljudeh na posnetku smo izvedeli vse, kdo so in kaj počnejo. Ampak tega je že davno, bilo je leta 2011. Predstavljajte si, kaj zmore današnja tehnologija in kakšen napredek nas še čaka v prihodnosti, kaj bomo lahko dosegli čez dve, tri, štiri ali pet let. Če torej združite zbiranje velike količine podatkov s takim vsiljivim sistemom, kot je prepoznava obraza, ima to lahko daljnosežne posledice in vpliva na svoboščine, kot so pravica do zbiranja, do javnih zborovanj, svobode izražanja in podobno.

V Sloveniji in Evropski uniji je varovanje zasebnosti in osebnih podatkov strogo določeno v zakonodaji. Biometrija in njena uporaba v Slovenij še posebej. Kakšna pa je zakonodaja v Srbiji?

Zagotovo se morajo spoštovati zakoni, ki ščitijo osebne podatke. V Srbiji smo lani sprejeli nov zakon, ki je začel veljati letos avgusta. Oblikovali so ga po modelu GDPR, evropske splošne uredbe o varovanju osebnih podatkov. Zakon pomeni novo podlago, uskladitev s standardi, ki jih na neki način tudi uresničuje, ni pa popoln, ima luknje in ni popolnoma usklajen z GDPR. Slovenska zakonodaja, ki sem jo ravno bral, posebej opredeljuje videonadzor, kdaj se lahko snema javno površino, kaj se lahko počne s posnetki in podobno. Tega v srbski zakonodaji ni, sploh nisem zasledil besede videonadzor, vsaj ne v zakonu o varovanju osebnih podatkov. Sprejema se torej precej splošne uredbe zaščitnih ukrepov. Vendar je v vsakem primeru treba sprejeti ustrezne tehnološke in organizacijske standarde zaščite. Da je jasno določeno, kdo lahko zbira podatke, kdo do njih lahko dostopa, kako, s kakšnim namenom in da vse to počne skladno z zakoni. Policija ima seveda pooblastila za zbiranje podatkov prebivalcev, to je preprosto naloga tega državnega organa, in v zakonih je natančno opisano, ali lahko snema, fotografira, zbira fotografije osebnih dokumentov in tako naprej. V vsakem primeru pa, ne glede na to, ali ste državni organ ali zasebno podjetje, se morate držati zakona, spoštovati osebne podatke. Najpomembneje je zaščititi človeka, torej lastnika osebnih podatkov. To je ultimativni cilj, h kateremu moramo težiti.

Rekli ste, da projekt poteka v več stopnjah. Ali kamere torej že delujejo in kaj se dogaja s posnetki? Ali se prebivalci srbske prestolnice zavedajo, da jih ves čas gledajo in snemajo?

V Beogradu imamo že precej razvito infrastrukturo videonadzora, tako kot v večini velikih evropskih mest. Torej, vsaka banka ali vsaka druga pomembna institucija ima svojo kamero, ki snema vhod v stavbo in podobno. Meščani so se na tak videonadzor že navadili. Mislijo si: ta kamera je tu zagotovo z nekim varnostnim namenom, ne razmišljajo pa o tem, kaj se dogaja za tem. Kdo zbira te podatke, kaj počne z njimi, kako jih hranijo, ali z njimi ravnajo primero, kdaj se brišejo, koliko časa jih lahko hranijo in podobno. Tega še nismo izvedeli. Glede na informacije, ki jih imamo, lahko rečem, da sistem prepoznavanja obraza potrebuje specifično programsko opremo, ki bo to počela, ta programska oprema pa po naših podatkih še ne deluje. To se bo pri tem projektu zgodilo pozneje. Že zdaj pa je zakonodaja problematična – od zbiranja podatkov, njihove hrambe in nadaljnje obdelave.