V podkastu Številke se v sedmi sezoni ukvarjamo z ekstremi. Tokrat smo pogledali v kriminaliteto in vse večjo vlogo umetne inteligence. Lahko nekoč pridemo tako ekstremno daleč, da človek pri pravnih vprašanjih ne bo imel več odločilnega mesta? Na pogovor smo povabili direktorja Inštituta za kriminologijo pri Pravni fakulteti Aleša Završnika. Vabljeni k poslušanju celotnega pogovora ali branju povzetka.

Kako je pandemija spremenila vaše delo?
Ekstremno nam je obrnila življenje na glavo. Govorimo o največji motnji mobilnosti v moderni dobi. Začasno so zaprte državne meje, prav tako delovni prostori v službi, imamo družbeno distanciranje, šole so zaprte, prav tako restavracije, turistični kraji ... Sprašujem se, ali kdo ni bil deležen kakšne motnje, morda se kdo počuti celo bolje. Kar ne najdem odgovora.

V teh časih se vse seli na splet. Tudi kriminaliteta?
Vidimo premike, imeli smo raziskavo, kako se spreminja kriminaliteta, to vsi zdaj budno opazujemo. Manj imamo ulične kriminalitete, več pa družinskega nasilja. To je tudi statistično pokazano. V on-line svetu smo še bolj ranljivi, saj smo še več na spletu, uporabljamo storitve, ki jih sicer ne bi, strinjamo se z vsemi splošnimi pogoji, s katerimi se sicer ne bi. Ukvarjal sem se tudi s kibernetskim nadlegovanjem, nasiljem med mladimi. Zanimivo bo pogledati, kako se je to spremenilo. Vidimo tudi posamezne primere v Sloveniji. Pred petimi leti smo se samo spraševali, kaj je to, češ naši otroci se še vedno stepejo pred šolo. Zdaj so naši otroci potisnjeni v to spletno okolje, tega je vse več, obstajajo tudi nove oblike, kako spreminjajo slike drugih otrok, nato iz teh podob posmehujejo.

Sorodna novica Najbolj škodljiva je drža, da na šolah ni medvrstniškega nasilja

Ravno pred prvo pandemijo smo v Številkah gostili Katjo Košir, ki je predstavila medvrstniško nasilje v šoli in opozorila, da je otrok v šoli morebitnemu nadlegovanju izpostavljen le v času pouka, v kibernetskem okolju pa praktično ves dan.
Točno tako. Kibernetsko nadlegovanje je lahko še hujše. Imamo skrajne primere, ki se lahko končajo s samomori mladostnikov. To so res težki primeri, ki se lahko usodno končajo, imamo pa tudi veliko blažjih primerov, ki pa so še vedno moteči in zelo težki za otroke. Včasih je bilo nasilje vezano na šolo in igrišče na šoli, zdaj pa lahko traja do večernih ur, če so na omrežjih. Pomembno je tudi izključevanje, tudi to je oblika nasilja.

Kaj najdeva v preseku najinega okolja, prava in novinarstva? Nemara željo po iskanju resnice?
V pravu vedno obstajajo nasprotna stališča: ali sodniki iščejo resnico v pravu ali naj samo "rešijo" spor. Oboje je seveda pomembno, a ne gre si delati utvar, da gre za enako raven resnice v pravu kot npr. v fiziki osnovnih delcev. Resnica v pravu je pomembno vprašanje, imamo več teorij, od naivnega realizma do subjektivnega realizma ... Konsenzualna teorija resnice je zanimiva, ker poudarja, da je resnica to, kar konsenzualno spoznamo, da je res. Slabost je v tem, da je lahko vrednostno sporna. Druga je konvergenčna teorija resnice, želim reči, da je to res teoretsko vprašanje. Drugi pomembni vidik zame je resnica v znanosti, objektivnost v znanosti je zelo pomembna. Bistvo znanosti je približevati se resnici. Tu je bila vedno inherentna napetost, koliko je to resnično, kar mi spoznavamo, koliko je to objektivno. Vedno smo se temu približevali, v zadnjem času je opažen premik, da je vse mogoče. Imamo več teorij resnice, da je lahko kar koli res, kar pa ne drži!

Sorodna novica Na odločitve sodišč vpliva tudi razplet nogometnih tekem

Orodje objektivnosti so lahko tudi številke.
Številke povezujemo s podatki in statistiko. To je ena od zelo uglednih ved iz 19. stoletja, ki je botrovala rojstvu kriminologije. Ta je vzniknila, ker so se pojavile nove statistične metode, znanstveniki v Franciji so takratni oblasti ponudili statistiko kot orodje za razumevanje kriminalitete. Ugotavljali so, zakaj je kriminalitete v nekem kraju več ali manj, iz kakšnih družbenih slojev prihajajo storilci ... Statistika je bila "objektivna" znanost, na katero se je kriminologija uprla. Ta je bila v 19. stoletju razumljena kot dekla oblasti, ki naj zagotovi poznavanje delinkventnih pojavov in s tem daje napotke, kako naj se družba postavi zoper kriminaliteto. Statistika je igrala zelo pomembno vlogo. Danes pa imamo podatkovno znanost, za katero nekateri menijo, da je to najbolj seksi poklic. Vidimo, da so številke zelo pomembne. Sam skušam prikazati tudi drugo plat podatkovne znanosti, ki je fantastična v nekih domenah, je pa lahko zelo nevarna, kadar so te metode uporabljane v človekovih pravicah in dolžnostih. To je moja glavna poanta.

Opisali ste rojstvo kriminologije. A kaj je ta sploh danes? Vaš kolega Zoran Kanduč je, denimo, zapisal "to je diskurz, v katerem je sporno vse, vključno s tem, kaj je – ali naj bi bila – kriminologija."
Za pravilno razumevanje tega citata, je treba vedeti, od kod je izhajal. Sam bi šel korak nazaj, preprosta opredelitev kriminologije – to je veda o kriminaliteti na eni strani, na drugi strani pa, kako se odzivati na kriminaliteto. Imamo analize različnih oblik – kibernetske kriminalitete, družinskega nasilja, medvrstniškega nasilja, organizirane kriminalitete, korupcije ... Analiziramo oblike in pojavnost, na drugi strani pa je vprašanje, kako se odzivati – lahko se kot družba, ožje samo s pravom, še ožje s kaznovalnim pravom ... Sankcij je veliko, ena najučinkovitejših je sramotenje. Kolega je izhajal več korakov naprej. Kaj so pojavne oblike? Odgovori postajajo vedno bolj kompleksni. Kaj sploh je zločin v družbi? Antropološke raziskave pokažejo, da so bila v različnih družbah in časovnih obdobjih zelo različna dejanja pojmovana kot zločinska. Najbolj enostavno bi rekli, da je odvzem življenja univerzalen zločin. A umor nacističnega zločinca je bil hvalevredno dejanje ... V tem smislu je treba razumeti Kandučevo izjavo. Antropološka šola je delinkvenco razumela predvsem kot vrojeno, tak človek se rodi že kot zločinec, zločinec ne postane.

Tako je, dobro je znana zgodba o frenologiji, ko so skušali na podlagi oblike lobanje napovedati, ali bo nekdo postal zločinec. Ali se to lahko ponovi v 21. stoletju, vlogo lobanje pa prevzame neverjetno število podatkov, ki tam zunaj obstajajo o nas?
Danes imamo frenologijo za psevdoznanost, Cesare Lombroso pa je frenologijo vzel kot čisto pravo znanost, meril je lobanje, na podlagi oblike lobanj in oblike čela je naredil različne kategorije kriminalcev. Na predavanjih smo se temu vedno posmehovali, to smo prerasli kot družba, a še vedno obstaja ta želja, predvidevati, kako se bo posameznik razvil in ravnal v prihodnosti. Ta želja je tako močna, da imamo v podatkovnih znanostih smeri, videli smo kritizirane članke, kjer so goreče zagovarjali, da je mogoče z analizo obraza ... Znanstveniki so primerjali kriminalne obraze obsojenih obrazov, naredili so neki algoritem, ki se je naučil prepoznavati take obraze. S temi modeli so ljudem pripisovali neko verjetnost, da bodo postali zločinci. To je neke vrste neofrenologija oziroma algoritmična frenologija. Zadnjih 80 let nam je bilo to v posmeh, a zdaj vidimo, kako zares se vrača. Zoper to se borimo in skušamo poudariti, da človek nima esence, ki bi se videla na obrazu. Četudi bi imel tak obraz, sodišča ne bi bila kos, da bi to priznavala.

Ko omenjate tehnologijo prepoznave obraza, seveda to že obstaja, a veliko težav se je pokazalo pri pravilni identifikaciji, sploh v temnopolti populaciji.
Točno to, to se je dobro pokazalo v ZDA, kjer so temnopolti raziskovalci ugotavljali, kako jih ta tehnologija ne prepozna. V času covida sem bral o glasovnih biomarkerjih. Kako razviti tehnologijo, ki bi že po mojem glasu povedala, ali imam zamašen nos ali pa celo, da imam covid. Na ta način bi uvedli neke prepustnice za javne prostore. Na podlagi glasu bi lahko prepoznali, ali ima nekdo covid. Obstaja celo področje tega raziskovanja, kako na podlagi glasu prepoznati duševne motnje, prve znake Alzheimerjeve bolezni, depresije ... Tu je težko reči, ali je to nevarno. V ožjem smislu je taka diagnostika zelo koristna. Ampak ali taka diagnostika oziroma verjetnostna poročila lahko že kar uporabimo in nekomu omejimo dostop do prostora. To je ločeno vprašanje. Dober primer bi bila analiza kožnega raka.

Ravno ta primer je v Številkah omenila tudi profesorica s Harvarda Marinka Žitnik. To so brez dvoma pozitivne aplikacije umetne inteligence, so pa tudi seveda bolj negativne.
Spomnim se raziskave, kako je brskalnik prepoznal, ali ga uporablja ženska ali moški. Ženskam je, denimo, ponujal oglase za manj plačane službe. To je bil pred leti zelo odmeven primer. Na področju kriminalitete je Nemčija po terorističnih napadih v ZDA sprejela zakonodajo, s katero so obveščevalne službe iskale "speče teroriste". Kaj to sploh pomeni? To naj bi bil človek, ki naj bi imel glede na pretekle znane teroriste podobne znake. Zdaj smo na polju družbene moči in njene zlorabe. Ta zakonodaja je bila šest let pozneje zaradi nedoločenosti razveljavljena. Se država lahko fokusira na posameznike? Jim lahko represivni organi sledijo? Ali speči terorist že ve, da je/bo terorist? Živi sam? Obiskuje iste spletne strani? Ali je to že dovoljšen razlog? To se lahko hitro zlorabi.

Sorodna novica Renata Salecl: Nevroznanost v črnem scenariju lahko vodi do Posebnega poročila

To me spomni seveda na film Posebno poročilo. Ste ga videli?
Seveda, ko je bil posnet, je povzel duh časa, takrat so začeli nastajati napovedni programi za policijo. Takrat je bil "predpol" program, ki je bil zelo uporabljan v ZDA. Kje bo jutri rop? Kje bo poulična kriminaliteta? Ti programi so se vedno osredotočali na kriminaliteto na ulici, ko so v igri vlomi in tatvine, vedno pa spustijo beloovratniško, bančno kriminaliteto. Vedno geografsko locirajo verjetnost, da se bo tam zgodilo neko dejanje. Gre za fantastičen film, ker pokaže, kako je lahko nevarno ukrepanje represivnih oblasti na podlagi nekih napovedi programov (v filmu so bili sicer trije jasnovidci).

Obstajajo tudi pozitivni primeri uporabe umetne inteligence. Znan je primer, ko je algoritem v primerjavi s sodniki bolj natančno napovedal povratništvo. Zakaj ji torej ne zaupati večje vloge?
Zelo dobro vemo, kako je človeško odločanje pomanjkljivo. Imamo celo znanost o mentalnih bližnjicah in kako se ljudje odločamo. Ljudje smo pri tem slabi. Na drugi strani pa se ponujajo orodja, ki bi to lahko izboljšala. A tudi ta orodja niso brez predsodkov, ni sveta brez predsodkov. Človeško odločanje je polno predsodkov in napak, tudi strojno odločanje je polno napak. Ni utopičnega sveta, kjer ne bi obstajali predsodki. Zakaj ne prepustiti? Imamo neke pravice, zamislili smo si proces, kako se odzvati na kazenski postopek, kjer si vsak zasluži individualno obravnavo. Zakaj bi tega človeka, ki ustreza neki preteklim dogodkom, obravnavali na enak način? Vsak si zasluži pošteno sojenje, da ga druga stran sliši, da ga sodnik posluša ... Ne smemo pa si delati utvar, da so postopki, v katerih odločajo ljudje, brez napak. Imamo tudi veliko izjemno slabih odločevalskih postopkov, tam že majhen dodatek orodja lahko veliko pomaga. V ZDA je velika težava dostop do odvetnikov, nova orodja omogočajo dostop do pravne pomoči.

Večkrat poveste, kako se lahko zlorabljajo osebni podatki. Ste potem sami pri uporabi telefona in aplikacij zelo previdni?
Skušam jih uporabljati čim manj. Previden sem pa še premalo. Pri aplikacijah na pametnih telefonih bi morali biti vsi zelo skeptični, da soglašamo z vsem. Ko si namestimo svetilko na telefon, se strinjamo, da ima ta aplikacija dostop do naših stikov in fotografij. To je absurdno, saj svetilka za delovanje ne potrebuje tega dostopa.

Sorodna novica Bog v beli halji ima lahko zelo ranjeno dušo

Ne morem mimo teme svobodne volje, ki je v tej temi zelo pomembna. Nevrolog Zvezdan Pirtošek je dejal, da je nimamo, a slikovito zaključil, da se zaradi tega ne smemo pretirano vznemirjati.
(smeh). Če gledamo z vidika pravnega sistema, ta še vedno temelji, da imamo svobodno voljo. Iluzija svobodne volje je pomembna, saj na tem temelji ves očitek o kaznovanju. Nekoga kaznujemo, ker mu očitamo, da bi lahko ravnal drugače, a je še vedno nekaj ukradel ali nekoga ubil. Iluzija svobodne volje je zato zelo pomembna, četudi je samo iluzija.

Kaj pa vas vznemirja?
Ko omenjate nevrologijo, me najbolj vznemirja ravno pomikanje meja v znanosti, tudi zaradi novih metod, ki jih prinaša podatkovna znanost. Ko sva bila pri nevrologiji, včasih smo možgane opazovali kot bi z daljnogledom z Lune gledali na Zemljo in nismo videli družbenih procesov. Ta daljnogled je zdaj postal vse boljši, saj vidimo že posamezne ljudi, ne poznamo pa detajlov, družbenih procesov. Najbolj me fascinira premikanje meja, ki jih vidimo na številnih področjih, tudi v pravu in psihologiji.

Vabljeni k poslušanju celotnega pogovora, v katerem Aleš Završnik (kliknite spodnjo sliko) govori tudi o tem, kako potekajo dejavnosti na spletu, kdo so zmagovalci in poraženci pandemije, predstavlja problem samovozečih vozil, kakšne moralne in etične težave se pri tem pojavljajo, na primeru Rusije razlaga, kako z moderno tehnologijo lahko vplivamo zatiranje opozicije, katere serije oziroma filme s tematiko kriminalitete priporoča, vlogo psihoanalize v kriminaliteti, kaj mu predstavljajo ekstremi ...