“Vojna je mir. Svoboda je suženjstvo. Nevednost je moč.” Tako je pred natanko 70 leti George Orwell zapisal v romanu 1984. Je imel prav? Tako rekoč na vsakem koraku o nas kopičijo podatke, a, ironično, je vse bolj priljubljeno tudi zbiranje biometričnih podatkov o sebi. Samopoznavanje radi prelagamo na aplikacije, ker želimo imeti več nadzora nad samim seboj, celo svojo biologijo, iskanjem partnerja.

A kvantificirani jaz, gensko testiranje, digitalni sledilci fizičnega in psihičnega zdravja ter drugi algoritmi skrivajo veliko pasti. Ali nas v prihodnosti čaka še več anksioznosti glede izbire ali bomo odločitve prelagali na algoritme, ki trdijo, da nas poznajo bolje, kot poznamo sami sebe?

Manipuliranje z željami

Filozofinja Renata Salecl: “Že danes vemo, da so lahko algoritmi rasistični, podobno rasistični, kot so ljudje v realnem življenju. Še bolj se moramo zavedati možnosti novih oblik nadzorovanja in izključevanja. V zahodnem svetu poleg policije in drugih državnih organov to že danes pogosto počnejo zavarovalnice, banke in podobne organizacije. Tudi s pomočjo informacij, ki jih pridobijo na spletu in ob pomoči umetne inteligence.”

Čustva, gon in želje posameznika so sicer tako kompleksni, da jih algoritmi ne morejo zlahka uganiti. “Neoliberalna ideologija nas prepričuje, da smo lahko tudi manipulatorji želje drugega, do določene meje celo svoje lastne želje. Prepričujejo nas, da se lahko obvladamo na primer ob pomoči pametnih ur. Včasih je obstajal nasvet, da če želiš spodbuditi željo drugega, se moraš narediti težko dostopnega, danes naj bi nam pri tem pomagala tehnologija,” razmišlja Renata Salecl.

Zakaj algoritmi ne morejo preprečiti izgorelosti, “kuge” človeka sedanjosti in prihodnosti? “Klima nespoštovanja, velike in majhne grobosti, me skrbijo v prihodnosti. Vse skupaj pri ljudeh sproža psihične travme, ki so lahko zelo nevarne tudi za fizično zdravje posameznika. Zato imajo današnje oblike izgorelosti psihosomatske razloge. Bojim se, da velikokrat prehitro dajemo nalepko izgorelosti. Posameznikovi simptomi so vedno radikalno individualni. V prihodnosti bomo s tem imeli velike težave. Gre za politične in družbene odločitve, kako organizirati družbo in delo, kako zmanjšati družbene neenakosti. Ne gre za vračanje k socializmu, gre za razmislek, kaj je družba prosperitete zunaj finančnih okvirjev, kaj pomeni kakovost življenja, kaj bo omogočilo preživetje planeta.”

Umetna inteligenca in vojskovanje

Možnost večje (tehnološke) izbire ne pomeni nujno svetlejše prihodnosti. Niti v osebnem niti v družbenem smislu. Veliko podatkovje, družabna omrežja in algoritmi spreminjajo demokracijo in na novo definirajo pravila igre. Ključno bo najti konsenz okrog uporabe umetne inteligence in ohranitve ideje demokracije. Hladna vojna je preteklost, družbe prihodnosti bodo poleg podnebnih sprememb ogrožale informacijske in trgovinske krize, morebitne zlorabe orožja, ki ga bo upravljala umetna inteligenca. Kako bo z varnostjo, bo država namesto vojakov imela polno “kasarno” vrhunskih hekerjev, strokovnjakov za algoritme in robotskih psihiatrov?

Obramboslovec Uroš Svete: “Že danes se dogaja, da imamo v vojnah zasebne akterje. Še posebej je in bo to očitno na področju kibernetike. Razvoj tehnologije je v bistvu še bolj razpršil število akterjev v spopadih. Po drugi strani pa je težko napovedati, da se bodo vojne popolnoma preusmerile v kibernetiko. Dolgo so trdili, da bodo spopadi potekali samo še v zraku, a se niso zgodile tako drastične spremembe. Roboti se sicer že pojavljajo v oboroženih silah, predvsem v logistiki. Je pa seveda drugo, če bi umetna inteligenca sama izvajala napade. Veliko je pobud, da bi se to preprečilo. Vprašanje je, koliko bomo umetni inteligenci zaupali, mislim, da bomo v primeru nadzora in sankcioniranja še nekaj časa zelo konservativni.”

Kam bi se lahko v prihodnosti razširili varnostna vprašanja in dileme? “Vesolje je spet na sceni. Američani bi radi vrnili človeka na Luno. Obstaja tržni interes za vesolje, predvsem zaradi naravnih virov in morebitne kolonizacije. Pri tem se bo vnovič odprlo vprašanje, kako se bo v vesolju aktivirala vojaška dimenzija,” sklene obramboslovec Uroš Svete.

Mladi in umetna inteligenca

“Kdor nadzira preteklost, nadzoruje prihodnost. Kdor nadzira sedanjost, nadzoruje preteklost.” Tudi to je zapisal George Orwell v romanu 1984, ki je izšel 8. junija 1949. V moderni družbi še nadzorujemo sedanjost?

Renata Salecl: “Bojim se, da izgubljamo demokracijo, kot smo jo poznali. Ne znamo je reinterpretirati v času velikega podatkovja in umetne inteligence. A sem vseeno optimistka glede mladih. Predvidevam, da bodo znali algoritme in umetno inteligenco uporabiti v pozitivne namene. Ključno je, da se zgodita družbeni konsenz in predvsem opolnomočenje prebivalstva pri uporabi umetne inteligence. Nujno je ohraniti ideje demokracije, ideje o dostojanstvu posameznika in človekovih pravic.”