Algoritmi lahko predvidijo marsikaj, ne morejo pa izboljšati družbe. Nasprotno, zdaj predvsem z veliko hitrostjo poglabljajo obstoječe neenakosti.

Podatki so nova nafta. Digitalni velikani, ki upravljajo ogromne količine podatkov, po svoji moči že daleč presegajo moč večine držav. Dodana vrednost podatkov se skriva predvsem v njihovi količini, več je bolje, in v možnostih njihove uporabe. Slednje so se v zadnjih letih močno razbohotile. Danes je tako mogoče iz podatkov razbrati vzorce, za katere nismo niti vedeli, da obstajajo. Mogoče je predvideti ravnanja posameznikov in nanje vplivati.

Vrsta odmevnih zgodb v preteklih letih je te tektonske premike, ki so tiho potekali na oddaljenih strežnikih, vendarle pripeljala v zavest širše javnosti. Za lažjo časovno predstavo. Pred petimi leti je Edward Snowden razkril razsežnosti masovnega zbiranja podatkov, letos je ravnanje podjetja Cambridge Analytica jasno pokazalo, da možnosti manipulacij, ki se z uporabo umetne inteligence odpirajo, majejo celo temelje demokratičnih ureditev.

Tihi prevzem oblasti

Algoritmi umetne inteligence so že danes marsikje na delu. Odločajo, kaj boste videli na spletu, pomagajo vam najti življenjskega partnerja, trgujejo na borzi, napovedujejo, kje se bo najverjetneje zgodil naslednji zločin. Postopno in ne da bi se tega povsem zavedali so naše odločitve vse bolj tesno prepletene s predlogi umetne inteligence in vse večji del odločanja že opravi umetna inteligenca. Seveda je potencial te tehnologije izjemen in lahko ponudi številne odlične rešitve, toda ni niti vsemogočna niti nezmotljiva. Toda načinov, kako deluje in na kakšnih podlagah nastajajo njeni izračuni, v veliki večini primerov ne vemo. Toda vse bolj se kaže, da imajo tisti, ki nadzorujejo velike podatke in metode umetne inteligence, v rokah škarje in platno sodobnega sveta in v veliki meri že določajo, kakšna bo prihodnost celotnih družb.

»Prihaja do izredne razlike v moči,« poudarja filozofinja prof. Renata Salecl. »Korporacije, ki imajo možnost zbirati podatke in jih obdelovati, imajo izredno moč, ki jo je zelo težko razumeti. Prvič, vse se dogaja precej skrito. Ne vemo, kaj se s podatki dogaja, kako so analizirani, kakšni algoritmi se uporabljajo. Na drugi strani pa si posameznik prav tako zatiska oči. Velikokrat se namreč niti ne zavedamo, da nam nekdo ves čas sledi, da lahko, kar koli počnemo na spletu, nekdo bere, manipulira, da so v bistvu vsi podatki, ki jih imamo na našem pametnem telefonu, lahko uporabljeni in tudi izrabljeni. Včasih se zdi, da je za posameznika skoraj nujno, da si zatiska oči, da lahko v tem kompleksnem svetu sploh funkcionira.«

Pravna zaščita je še daleč od zaželene

Razkorak med tem, kaj je že v tem trenutku mogoče storiti ob pomoči velikega podatkovja in umetne inteligence, kje vse se ta že uporablja, in našim razumevanjem, kaj se pravzaprav dogaja, je izreden. V tem vakuumu pravila narekujejo tisti, ki tehnologijo razvijajo, in ti delujejo predvsem v svojo korist. Nekaj pravne zaščite naših podatkov, kaj se torej z našimi podatki sme početi in pod kakšnimi pogoji, je zdaj prinesla evropska uredba o varstvu podatkov, znana tudi pod angleško kratico GDPR, ki je začela veljati konec maja. Ta daje več pravic posameznikom in nalaga obsežnejše dolžnosti upravljavcem zbirk podatkov, toda temelji posameznikovih pravic so vendarle še precej majavi.

Vzrokov za to je več, opozarja pravnica mag. Helena Uršič. Med njimi so denimo povsem psihološki razlogi. Ljudje se zelo slabo znajdemo v položajih, ko smo zasuti z informacijami. To je razlog, zakaj v praksi raje klikamo se strinjam, kot da bi se poglabljali v to, s čim se pravzaprav strinjamo. To so tudi pravni razlogi. Podjetja rada hodijo po robu zakona in izkoriščajo odprte pojme, ki jih ponuja zakonodaja. Največja težava pa so morda tehnološki razlogi. »Kar se dogaja v ozadju platform, kot so Facebook, Uber, Airbnb, je veliko bolj kompleksno, kot si lahko predstavljamo. Facebook je pred časom razkril, da sodeluje z milijoni zunanjih aplikacij in prav vsaka ima dostop do določenih podatkov na Facebooku. Poleg tega morda te aplikacije podatke posredujejo še kam. Kaj dejansko se s temi podatki dogaja, je za posameznika kot črna škatla, kot temu pravi Frank Pasquale, in v to nimamo vpogleda,« poudarja Helena Uršič.

Umetna inteligenca poglablja družbene neenakosti

Danes se že na marsikaterem področju uporablja velike podatke in algoritme umetne inteligence, ne da bi se ob tem zavedali, da so rezultati, ki nam jih tako prepričljivo ponuja umetna inteligenca, lahko zelo pristranski. Umetna inteligenca ne more nič brez obsežnih zbirk podatkov, podatki pa so vedno v določeni meri pristranski. Jezik preprosto ne more biti nepristranski, ker vedno že odseva družbena razmerja. Predpostavka, da bo torej algoritem, ker gre pač za matematično operacijo, v svojih rezultatih nepristranski, je zato v temelju napačna. Vse bolj se namreč kaže, da odločanje na podlagi priporočil umetne inteligence še poglablja družbene neenakosti. Takšen primer na področju kriminologije je denimo aplikacija Predpol, ki jo uporabljajo policije po svetu, denimo v Združenih državah Amerike, Švici, Nemčiji, Veliki Britaniji in drugod. Deluje tako, da na podlagi preteklih dogodkov napove, s kolikšno verjetnostjo se bo danes na neki ulici zgodil zločin. Toda vse je odvisno od tega, kateri zločini so pravzaprav zajeti v bazi podatkov.

»Pokazalo se je, da so tiste skupnosti, v katerih je več zločina, vse bolj pod policijskim nadzorom, in ker so vse bolj pod nadzorom, policija odkrije še več zločinov. Tako se ustvarja začaran krog,« opozarja prof. Aleš Završnik z Inštituta za kriminologijo pri Pravni fakulteti v Ljubljani. »Na drugi strani imamo skupine, ki so manj pod nadzorom. Tipičen primer sta bančništvo in finančni kriminal.« Ker finančni kriminal ni zajet v podatkih, na katerih delujejo policijski napovedni podatki, jih seveda ne more napovedovati. »Finančni kriminal je postal finančno tveganje, govori se o škandalih. Sploh se ne govori več o kriminalu, to je del poslovnega tveganja, čeprav je škoda, ki jo povzroča, občutno večja, kot je škoda nekega ropa,« poudarja Završnik.

Tehnologija se že v tem hipu naglo razvija, predvsem pa se naglo povečuje število načinov, na katere se jo uporablja. Kot pri vsaki tehnologiji so seveda možnosti za to, kako in za kaj se jo uporablja, zelo različne. Toda če sklepamo po smernicah, ki so se nakazale do zdaj, nam same po sebi nedvomno ne bodo prinesle boljše družbe.
Več o vladavini algoritmov in digitalnih velikanov, ki že krojijo naš vsakdan, lahko prisluhnete v oddaji Intelekta.