Pred pandemijo smo Evropejci skorajda pozabili na osebne dokumente. Od Nordkappa do Cabo da Roce smo lahko potovali brez identificiranja. Zdaj ne moremo niti vstopiti v nakupovalno središče, ne da bi pokazali osebno izkaznico, potni list ali vozniško dovoljenje.

V številnih državah so obsežnega nadzora bolj vajeni že od prej. ZDA in Kitajska v digitalni dobi posegata po naprednih tehnologijah in možnostih, ki jih prinašajo pametne kamere in pametni telefoni. Tudi v Evropi so se oblasti pred covidom začele odkrito spogledovati z naprednimi tehnologijami nadzora.

Pandemija covida-19 je medtem pospešila predvsem uvajanje novih tehnologij za nadzorovanje gibanja. V Hongkongu so morali ljudje v karanteni nositi elektronske zapestnice, v Izraelu okuženim z različico omikron sledijo s protiteroristično opremo.

Rusija je že marca lani začela uporabljati tehnologijo prepoznavanja obrazov z namenom identifikacije kršilcev karantene. Tehnologija naj bi bila zmožna prepoznati tudi obraz, pokrit z masko. V Moskvi bodo sistem prepoznave obrazov začeli uporabljati tudi na podzemnih železnicah.

Tehnologiji prepoznavanja obraza in osebnim dokumentom je skupno, da se osredotočajo na človeški obraz, vendar ta ni bil zmeraj osrednji subjekt identifikacije posameznika od države.

O zgodovini osebnih dokumentov, covidu-19, razvoju tehnologije prepoznavanja obraza in vlogi človeškega obraza v odnosu do države smo se pogovarjali z umetnostno, filmsko in medijsko zgodovinarko Eszter Polonyi, raziskovalko v Raziskovalnem centru za humanistiko na Univerzi v Novi Gorici, ki se je pred kratkim iz New Yorka preselila v Slovenijo in se v svojem raziskovanju trenutno osredotoča na tehnologijo prepoznavanja obraza in zgodovino identitetne fotografije.

Začniva z zgodovino fotografije, enim izmed vaših akademskih področij. Kako je izum fotografije spremenil percepcijo človeškega obraza skozi zgodovino?

To je zelo zanimivo vprašanje, saj z današnje perspektive obstaja nekakšna naravna povezanost med fotografijo in obrazi. Vendar zgodovinsko sploh ni bilo tako. Ko je bila fotografija izumljena v 19. stoletju, je šlo za nišno prakso. Prve fotoaparate so uporabljali predvsem znanstveniki, ki se niso osredotočali na človeški obraz, temveč na predmete in okolje, poskusili so raziskovati celo astralna telesa, preden so pomislili na raziskovanje človeške figure.

Obraz postane pomemben subjekt fotografije prek novih medijev, ko se pojavi na naslovnicah časopisja in revij. Hkrati se pojavi v urbanem okolju, na reklamnih panojih in plakatih.

Zelo zanimivo je, da so v tem obdobju, v zgodnjih 20. letih prejšnjega stoletja, ljudje poročali o zelo močnem občutku odtujenosti, kadar so na fotografiji videli človeški obraz. Še posebej to velja za bližnje posnetke. Ljudem se je sam obraz zdel moteč, ker niso vedeli, kam je izginil preostali del telesa, imeli so občutek, da je obraz odrezan.

V tem kontekstu človeški obraz postane zanimiv za znanost. Psihologija, antropologija, psihiatrija, tudi sociologija, vede, ki so se v tem času pojavile, so uporabljale fotoaparat kot tehnični instrument, da zamrznejo človeško figuro v času. Fotoaparat namreč človeško telo, ki je konstantno v gibanju, zaustavi v nekem trenutku. Danes se nam to zdi samoumevno, takrat pa je znanstvenike zanimalo, kako je človeško telo videti zunaj koncepta časa.

Fotografija ob tem tudi splošči človeški obraz, iz 3D-perspektive ga spremeni v 2D, s čimer je človek naenkrat zreduciran na površinsko teksturo. Del fokusa zgodnjih znanstvenih študij o človeku in družbi je iskanje vzorcev na tej površini, kot na neki pokrajini. Oblikujejo se sistemi za razvrščanje teh vzorcev.

Kdaj so bili prvi osebni dokumenti opremljeni s fotografijami? Kakšna je pravzaprav vloga fotografije v osebnih dokumentih in kako se je spreminjala skozi čas?

Osebni dokumenti obstajajo že zelo dolgo, zgodovinarji poročajo o prvih osebnih dokumentih v srednjem veku in renesansi. Takrat na njih seveda še ni fotografije. V tistih časih so obstajale druge prakse za dokazovanje veljavnosti, kot so podpisi, pečati, žigi ali vodni žigi. Pri teh je zanimivo, da v proces prikličejo tretjo osebo kot avtoriteto glede vrednosti človeka. Pravzaprav ne gre za vas, ampak za to, koga poznate. Funkcija prvotnih osebnih dokumentov je bila častna, povzdignila je lastnikov družbeni položaj.

Trenutek, ko osebni dokumenti spregovorijo o lastniku, pride s prstnim odtisom. Prstni odtis je prvi način za pritrditev dokumenta na telo. Ali telesa na dokument. To se je zgodilo nekje sredi 19. stoletja. Grafični odtis papilarnih linij je dodan dokumentom in s tem zadeva postane precej osebna in ustvari sistem za sledenje in klasificiranje ljudi.

Fotografije se na dokumentih ne pojavijo še precej dolgo po izumu fotografije leta 1839. Dodane so bile na začetku 20. stoletja. Vendar je bila njena vloga precej drugačna kot vloga prstnega odtisa. Med prvo svetovno vojno se pojavijo prvi potni listi s fotografijo, razširijo se v času med vojnama, po drugi svetovni vojni pa se standardizirajo. Pomembno je razumeti, da v tistih časih še ni bilo razvitih metod za sistematizacijo fotografij. Na prvih fotografijah so bili ljudje fotografirani na različne načine, iz različnih kotov, deli obraza so bili pogosto pokriti, na primer s klobukom.

Precej me je navdušilo dejstvo, da so bile prve fotografije v dokumentih precej raznolike po formatu, kar danes niso. To nam pove, da njihov namen ni bil sistematično zagotavljanje informacij. Fotografija ne deluje kot prstni odtis, katerega pomen je zelo natančen. Fotografija je ambivalentna. Lahko ima več pomenov. Če želimo razumeti fotografijo, moramo od subjekta pridobiti več informacij.

V sodobnem žargonu temu rečemo "zaslišanje" (angl. interrogation). Gre za trenutek v interakciji z državnim uradnikom, ko se vam zastavi kup vprašanj in se vas pri tem ocenjuje. Pravzaprav ni pomembno, kaj govorimo, pomembno je, kako se obnašamo, ko govorimo. Državni uradniki so skoraj detektivi, pri tem poskušajo pridobiti čim več informacij o nas. Podatkov, ki jih sicer ne bi razkrili, če ne bi bili v tisti nadzorovani, panični drži, ki jo zavzamemo med nadzorom na meji.

"Zasliševanje" se uporablja za "prepoznavanje" nas, a ne v smislu tehnologije prepoznavanja obraza, temveč kot ga definirajo družbeni teoretiki. Gre za postopek prepoznavanja od države. V tem procesu prepoznavanja družbene pogodbe z državo, ko komuniciraš z upravo. Menim, da zmanjšujemo pomen tega. Ko pristopimo k mejnemu nadzorniku, ki mu moramo pokazati osebno izkaznico, mislimo, da moramo upravičiti svoj obstoj, vendar nas mora država obravnavati pravično in človeško. In to običajno pozabimo. Odgovornost ni na nas. Odgovornost je na državi.

Pred covidom-19 smo državljani Evropske unije skoraj pozabili na osebne dokumente, zdaj pa ne moremo več niti vstopiti v trgovsko središče ne da bi se identificirali. Zakaj je samo covidno potrdilo, zlasti v digitalni dobi, nezadostno? Zakaj moramo svojo identiteto potrjevati z dokumentom, na katerem je naš obraz, ki morda niti ni več podoben našemu obrazu?

Ko so se covidna potrdila začela uvajati, so bili izraženi pomisleki glede zasebnosti, saj bi moral vsakič, ko bi vstopil v notranje prostore, izpostaviti občutljive osebne podatke. To je upravičen strah ali razlog za skrb. Moja trenutna hipoteza – zakaj moramo poleg tega inovativnega sistema, ki so ga izumili, uporabljati tudi dokument s fotografijo – je, da sistem ne deluje. Popolnoma mogoče je, da to ogromno omrežje podatkovnih baz ni pravilno povezano in podatki niso pravilno shranjeni ali pridobljeni. Oblasti so spoznale, da covidno potrdilo samo po sebi ne deluje, naj gre za tehnične težave ali pa zato, ker so ljudje goljufali in jih ponarejali.

Vpeljevanje osebnega dokumenta s fotografijo je zanimivo. Gre za priznanje, da zadeva ne deluje. Vendar se mi to zdi pomirjujoče. Po eni strani je neprijetno, ker moramo kazati osebni dokument skupaj s covidnim potrdilom, saj menimo, da je na osebnem dokumentu več informacij kot na covidnem potrdilu. V resnici je nasprotno. Kadar vas skenirajo, so vaši podatki običajno nekje "online". Pri osebnem dokumentu pa gre za proces med vami in nadzornikom, ki ga preverja.

Pravzaprav nas prosijo, naj pokažemo sebe, da validiramo dokument (covidno potrdilo). V preteklosti smo kazali osebni dokument, da smo validirali sebe. Gre za zanimiv preobrat celotne dinamike, pri čemer se osebni dokument uporablja precej drugače, kot se je v preteklosti. Gre za neprijetno, vendar bolj zadržano transakcijo, gre za pogajanje dveh oseb. Identiteta je potrjena na podlagi sposobnosti osebe, da oceni podobnost med vami in fotografijo, kar je subjektivno dejanje.

Kadar govorimo o prepoznavanju obrazov, imamo običajno v mislih tehnologijo nadzora, o kateri se v zadnjem času veliko govori – visokotehnološke kamere, ki prepoznavajo naše obraze v resničnem času. Vendar je bila osnova za prepoznavanje obrazov vzpostavljena že veliko prej. Eden izmed primerov so recimo uradne fotografije v policijskih kartotekah (angl. mugshot). Kako se je skozi leta razvijala tehnologija prepoznavanja obrazov?

Tehnologije se spreminjajo, vendar metode ostajajo enake. O prvih znakih prakse prepoznavanja obrazov lahko prvič zares govorimo konec 19. stoletja s pojavom zgodnjih medijev za prenos zvoka in slike. Naj dodam, da obstajajo tudi številne prakse analiziranja obrazov, ki nimajo ničesar opraviti z državo. Ena izmed teh je denimo vedeževanje.

Danes obstaja ogromno tehničnih podrobnosti, vendar gre pri moderni tehnologiji prepoznavanja obraza v splošnem za dve ključni operaciji. Prva je vzpostavitev površinskih vzorcev na fotografiji obraza, pri čemer se določi "tip". Določen tip naj bi si delilo več ljudi, njihovi obrazi s tem postanejo nekako sorodni. Gre za določanje posameznih pojavnih oblik, ki se nato standardizirajo, na podlagi tega pa se ustvari neki klasifikacijski sistem. Veda se imenuje fizionomija. Druga operacija je proces zbiranja fotografij in definiranja nabora podatkov.

Da se vrnem k mugshotu, gre za fotografije, ki izvirajo iz tehnike francoskih kriminologov v poznem 19. stoletju. Če boste nekoga vprašali, na kaj ga spominjajo fotografije v potnih listih, bo verjetno izstrelil: na mugshot! Razlog za to je povezan z duhom časa in kulturnim kontekstom, v katerem se osebne izkaznice s fotografijami uporabljajo za policijski nadzor prebivalstva.

Fotografije za osebni dokument morajo slediti zelo natančnim protokolom. Ozadje mora biti nevtralno, slike so zelo laboratorijske, svojega obraza ne smete uporabljati, se denimo nasmehniti, držati morate nevtralen izraz. To temelji na nizu predpostavk, da obstaja del vašega obraza, ki vam ne pripada. Pripada državi. Da bi lahko postali subjekt države, se moramo odreči nadzoru nad lastnim obrazom. Podobno je veljalo za protokole ustvarjanja mugshota v 19. stoletju.

Moderna tehnologija prepoznavanja obrazov je bila deležna kritik zaradi neučinkovitosti. Predvsem iz ZDA v zadnjih dveh letih poročajo o več krivičnih aretacijah na podlagi napačne identifikacije tehnologije za prepoznavanje obrazov. Je obstoječa tehnologija sploh zmožna zanesljive in pravilne prepoznave obraza?

Odvisno od tega, koga vprašate (smeh). Odvisno je od tega, ali vir informacije investira v tehnologijo prepoznavanja obrazov, ki je, mimogrede, postala popolnoma komercialna. Ne gre več za vojaško tehnologijo, temveč za izdelek, namenjen širokemu mednarodnemu trgu.

Naj začnem na vprašanje odgovarjati s tem, kar pravijo posamezne skupine. Big Brother Watch iz Velike Britanije je pridobil informacije, da so bili v Londonu na različna območja poslani kombiji metropolitanske policije, opremljeni s kamerami, ki so eksperimentalno analizirali obraze vseh mimoidočih. Ugotovitve eksperimenta so pokazale, da je tehnologija prepoznavanja obrazov napačno identificirala človeka oz. ustvarila neskladje med opazovano osebo in podobo v bazi podatkov v 98 odstotkih primerov. V samo dveh odstotkih je tehnologija dejansko delovala.

Ameriški Zvezni preiskovalni urad (FBI) je leta 2018 ocenil, vsaj tako je poročal Washington Post, da je od 50 poskusov identifikacije v širši javnosti le enkrat bilo uspešno ujemanje.

Na drugi strani razvijalci tehnologije trdijo, da deluje v več kot 90 odstotkih primerov. Če preverite v brskalniku, boste videli, da večino ocen natančnosti tehnologije prepoznavanja obrazov dajejo svetovalna podjetja. Ob tem se je vrednost delnic tehnologije prepoznavanja obrazov v zadnjih letih močno povečala in naj bi do leta 2026 eksplodirala. V interesu industrije je, da si ustvari spoštovanje med prebivalstvom.

Vendar ni toliko sporno, da se prodajajo stvari, ki niso znanstveno dokazane. Tehnologijo lahko denimo kupita Apple ali Google in jo uvedeta za svoje storitve, a je uporaba vsaj prostovoljna. Spornejše je, da tehnologijo kupujejo države. To zadeva vsakodnevnega človeka, ki pričakuje, da bo država nosila odgovornost.

Sorodna novica Srbska vlada in Huawei nameščata kamere za nadzor "vsake ulice" Beograda

Zlasti med pandemijo se je zgodil prehod od osebnih oblik vladanja k digitalnim oblikam vladanja in pri tem je tudi osebni dokument s fotografijo pridobil veliko vlogo v smislu identificiranja. A ne samo to, veliko funkcij in procesov znotraj države je avtomatiziranih, tudi takšnih, ki vključujejo občutljive osebne informacije. Recimo obdelava prošnje za vizum. Baze podatkov pri tem uporabljajo algoritme. Tukaj se postavlja še etično vprašanje. Algoritmi sami po sebi ne nosijo odgovornosti. Lahko pa naredijo napako pri obdelavi vaše prošnje za izdajo vizuma in za to ne boste vedeli niti vi niti državni uradnik. Gre namreč za tehnologijo črne škatle (notranje zgradbe in delovanja ne poznamo, op. a.). Pri algoritmu se niti ne moremo pritožiti. Premik proti vladanju algoritmov – algokraciji – pa se vseeno dogaja.

Pametne kamere delujejo še posebej slabo pri prepoznavanju temnopoltih ljudi ali drugih manjšin. Zakaj se to dogaja?

Za odgovor se moramo vrniti k osnovam delovanja tehnologije prepoznavanja obraza. Za identifikacijo nekega tipa obraza potrebujemo več kot eno sliko, saj gre za proces primerjave. Večji kot je vzorec, večja je možnost pravilne zaznave. Nabor podatkov, torej število fotografij, je treba čim bolj razširiti.

V proces so danes vključeni računalniki, ki so zmožni obdelati oz. primerjati veliko količino fotografij hkrati. S klasificiranjem obrazov v bazi podatkov se računalnik uči prepoznavati obraze in posamezne obrazne tipe.

Čeprav temu rečemo "strojno učenje" se moramo zavedati, da je njegova inteligenca odvisna od vašega vnosa. Zato smo se znašli na tankem ledu, ko se moramo vprašati, kako je tip definiran. Če je fotografije obraza v sistem vnašal nekdo, ki ni razsvetljen glede svojih predsodkov ali jih morda celo zavestno goji, je morda zgradil bazo podatkov, ki ni reprezentativna za celotno populacijo.

Vredno je omeniti vsaj enega od primerov, saj se lahko ljudje o njem takoj poučijo. Obstaja Netflixova serija Kodirana pristranskost (Coded Bias). Glavna akterka Joy Buolamwini je ustvarjala tehnološko aplikacijo, ki je vključevala tehnologijo obraza, vendar tehnologija ni delovala, ker je sploh ni opazila. Joy je temnopolta. Tehnologija je začela delati, ko si je nadela belo masko. Tehnologija za prepoznavanje obrazov mora v prvem koraku sploh prepoznati, da ima pred sabo obraz. Obraze belopoltih moških identificira v 100 odstotkih primerov, obraze temnopoltih moških v 99 odstotkih, obraze temnopoltih žensk v 60–70 odstotkih. To je odličen primer, kako so naše pristranskosti sistematizirane. O tehnologiji radi razmišljamo kot o nevtralni, a to je popolno nerazumevanje delovanja tehnologije.

Zamislimo si, da celoten sistem za prepoznavanje obrazov deluje tako, kot je obljubljeno – torej pravilno identificira obraze in ni rasističen. Še vedno ostanejo številni pomisleki glede zasebnosti v sistemu tovrstnega nadzora. Na enem izmed predavanj ste omenili, da vsak od nas, ko ga prepoznajo, živi v informacijski kletki. Lahko podrobneje razložite misel? Kdaj zdrsnemo v kletko?

Sorodna novica Veliki evropski brat se prebuja - "Obraza ne moremo zamenjati"

Naj začnem z informacijsko kletko. Izraz sem si izposodila od umetnika Zacha Blasa, ki ga uporablja za maske oz. kletke, ki jih nosi, da se izogne prepoznavi. Sama ga uporabljam drugače, in sicer se nanaša na to, kaj se zgodi, ko gremo na splet. Naše dejavnosti so opazovane: čas, ki ga preživimo na spletu, vsak klik, všeček, objava, komentar. Ljudje puščamo digitalni prstni odtis. Dober primer je iskanje v brskalniku Google, moji zadetki istega iskanja bodo drugačni od vašega. Tako se znajdete v informacijski kletki. Na spletu imate nadomestno identiteto, ki vam lahko škodi, ker je ne nadzorujete. Sem pa skeptična glede tega, koliko trdna je ta kletka. Verjamem, da so nekatere informacije, ki jih za sabo pustimo na spletu, verjetno neuporabne. V procesu, ko migrirajo iz ene baze podatkov v drugo, so dekontekstualizirane in lahko izgubijo uporabnost.

Debate okoli prepoznavanja obraza so izjemno temačne. Znotraj diskurza o t. i. totalnem nadzoru – ideji, da bodo vse kamere, ki obstajajo, z vsemi razpoložljivimi informacijami, na voljo vsem oblikam nadzora – opažam predvsem dve reakciji.

Prva je 'tako ali tako se bo zgodilo, sprejmimo to in pojdimo s tokom'. Izhaja iz nihilističnega položaja, ker oseba meni, da je to neizogibno. Tehnologija ves čas postaja močnejša in močnejša, trdijo razvijalci, zato je le vprašanje časa, kdaj bodo stroji prevzeli svet. Mišljenje verjetno prihaja iz občutka napredka, ki ga ustvarja promocijski jezik digitalne industrije – vsaka nadgradnja deluje bolje, hitreje, učinkoviteje. Ljudje so se pripravljeni temu kar prepustiti, a to je nevarno in tudi nekoliko butasto, ker jim daje občutek nemoči.

Druga reakcija je precej zanimivejša. Če ne moreš premagati sistema, če se ne moreš pridružiti sistemu, se izbrišeš iz sistema. Obstaja veliko aktivistov, ki so našli zelo zanimive načine, kako se odstraniti s spleta ali pretentati pametne kamere z oblikovanjem mask, ki pokrivajo dele obraza, da jih stroj ne more videti. To je zelo zanimivo, vendar s sabo nosi tveganje.

Na žalost že obstajajo populacije, ki so nevidne. Ne gre samo za pametne kamere. Gre tudi za ocenjevanje prebivalstva, upravljanje s človeškimi viri, če hočete. Vlade imajo skrb do ljudi, ki pa temelji na nacionalnem popisu prebivalstva. Prebivalstvo, ki ni zaznano v popisu, ne bo dobilo državne podpore, ker ne obstaja. Zato se mi zdijo takšni poskusi, da bi se izbrisali, umaknili, izginili; kontraproduktivni.

Že dolgo pred izumom kamere ali fotoaparata se je Narcis zaljubil vase, ko je naključno opazil svoj odsev v vodi. Pred kratkim je neki genij namestil kamero v prenosni telefon in Narcis se je znova rodil v obliki sebka (selfija). Živimo v obdobju, ki je obsedeno s podobami in reprezentacijami, sploh na družbenih omrežjih. Kako to sovpada z osredotočanjem državnega aparata na človeški obraz?

Sebek je fascinanten pojav, vendar gre za drugačen fenomen. Prej sem poskušala opisati, kako si država prisvoji vaš obraz, ko se fotografirate za dokument, ki ga država nato prizna. Obstaja del obraza, ki vam ne pripada.

Sebek daje na drugi strani fotografu nadzor nad videzom njegovega obraza. Obstaja neki neskončni impulz fotografiranja svojega obraza. Vsak sebek je skoraj popolnoma enak, vendar jih še kar naprej proizvajamo. Gre tudi za organizacijo našega videza.

Gre za zanimivo združitev resničnosti, v kateri smo, in virtualne resničnosti, v katero se poskušamo všiti prek sebka. Gre za pogajanje, vmesnik med virtualno in materialno resničnostjo. Na sebku smo videti bolje, poudarimo določene stvari, uporabimo aplikacijo in filtre, se igramo s tipi obrazov. Skušam povedati, da nam prepoznavanje obrazov odvzame občutek nadzora nad svojim obrazom, selfi pa je način, da si obraz vrnemo v svojo last. Tragedija mita o Narcisu ni v tem, da nikoli ne bo postal svoja podoba, temveč v tem, da kljub zavedanju tega ostaja fiksiran na podobo.