Sodobne tehnologije so izjemno spremenile naše življenje. Internet je povezal cel planet, do njega lahko ves čas dostopamo s svojim pametnim telefonom. Lahko bi rekli, da je ta naprava postala naše okno v digitalni svet. Vendar to okno ni zaprto. Tako kot lahko skozi odprta okna v naša bivališča priletijo nadležne žuželke, tako skozi to digitalno okno vstopajo v naš svet spletni giganti in vlade, njihov namen pa je zaslužek in nadzor, kar jim omogočajo naši osebni podatki, od lokacije naprej. Kako zapreti to okno? Je to še mogoče? James Bridle je umetnik in pisatelj, ki dela z različnimi tehnologijami in v različnih disciplinah. V svoji knjigi o tehnologiji, spoznanju in koncu prihodnosti New Dark Age, ki je izšla pri založbi Verso, opozarja, da živimo v času vse večje nepreglednosti in napoveduje novo temno dobo: svet vedno večjega nerazumevanja. Nedavno se je mudil v Ljubljani, kjer je na povabilo Zavoda za sodobne umetnosti Aksioma predstavil knjigo in odprl svojo razstavo Moja radost v jasni noči. Razstava bo na ogled v projektnem prostoru Aksioma še do 22-ega marca. Ob obisku v prestolnici ga je v studio Radia Slovenija povabila Urška Henigman.

Umetnik in pisatelj James Bridle

Sodobne tehnologije so izjemno spremenile naše življenje. Internet je povezal cel planet, do njega lahko ves čas dostopamo s svojim pametnim telefonom. Lahko bi rekli, da je ta naprava postala naše okno v digitalni svet. Vendar to okno ni zaprto. Tako kot lahko skozi odprta okna v naša bivališča priletijo nadležne žuželke, tako skozi to digitalno okno vstopajo v naš svet spletni giganti in vlade, njihov namen pa je zaslužek in nadzor, kar jim omogočajo naši osebni podatki, od lokacije naprej. Kako zapreti to okno? Je to še mogoče? James Bridle je umetnik in pisatelj, ki dela z različnimi tehnologijami in v različnih disciplinah. V svoji knjigi o tehnologiji, spoznanju in koncu prihodnosti New Dark Age, ki je izšla pri založbi Verso, opozarja, da živimo v času vse večje nepreglednosti in napoveduje novo temno dobo: svet vedno večjega nerazumevanja. Nedavno se je mudil v Ljubljani, kjer je na povabilo Zavoda za sodobne umetnosti Aksioma predstavil knjigo in odprl svojo razstavo Moja radost v jasni noči. Razstava bo na ogled v projektnem prostoru Aksioma še do 22-ega marca. Ob obisku v prestolnici ga je v studio Radia Slovenija povabila Urška Henigman.

Pogovarjala se bova o tehnologiji in njenem vplivu na sodobni svet. Začniva z lahkim vprašanjem. Je internet prijatelj ali sovražnik?

Z internetom sem odrasel. Sem del majhne generacije, ki je odrasla skupaj z internetom. Prvič sem šel na internet leta 1993, ko sem bil star 13 let. Moja adolescenca in adolescenca interneta sta se zgodili istočasno. Internet je bil takrat neke vrste divji zahod, sanjski svet poln neverjetnih možnosti. Pa nočem biti eden tistih starih mož, ki pravijo, da je bilo bolje, ko smo bili mladi, saj v resnici ni bilo. Že takrat je bilo veliko težav z internetom, to smo sicer spoznali šele veliko pozneje. Vendar se je od takrat tudi zelo spremenil. Spremenil se je v skoraj povsem komercialen prostor in prostor, ki ga popolnoma nadzoruje vlada. Je torej hkrati prostor za oglaševanje in prodajo, kar je popolnoma potolklo način delovanja, in za nadzor ljudi, za snemanje pogovorov in vse ostalo. Še vedno verjamem v internet, še vedno želim verjeti vanj, še vedno imam veliko ljubezni do njega, čeprav sem jo morda založil. Internet torej ni sovražnik. Vendar smo spodleteli v razumevanju, kaj v resnici je, kaj bi lahko bil in kako bi ga lahko uporabljali. Internet bi lahko povečal izobraženost, povečal enakost. Ima te sposobnosti, vendar ta hip res ni v dobrem stanju.

Ali torej verjamete, da se bo internet v prihodnosti moral spremeniti? Kako se bo spremenil? V Evropi denimo vidimo pobude za regulacijo na področju osebnih podatkov, avtorskih pravic, internetne nevtralnosti, Kitajska je popolnoma drugačna, ZDA spet, čisto druga zgodba. Kako razložiti te spremembe globalnega interneta? Menite, da bomo na svetu imeli več različnih internetov?

Ja, ves internet je zdaj povezan in mislim, da že imamo več različnih internetov, tako kot pravite. Če uporabljate internet na Kitajskem, potem ste znotraj njihovega tako imenovanega velikega požarnega zidu, ki vam onemogoča širši dostop do vsebin zunaj Kitajske. Vendar je tako povsod. Nedavno sem bil v Turčiji, kjer je dostop do Twitterja občasno onemogočen, dostop do Wikipedie pa popolnoma. Če izgubiš nekaj takega, kot je Wikipedia, potem je to po mojem mnenju popolnoma drugačen internet. Kot ste rekli, tu so različne zakonske regulacije za internet v Evropski uniji, za internet v Ameriki, ki na neki način spreminjajo meje mogočega. Prava sprememba oziroma sprememba, ki je mogoča in se mi zdi zanimiva, je sprememba strukture interneta kot takega. Kot sem rekel, nikoli nismo prišli do takega interneta, za kakršnega smo upali, da se bo razvil. Originalni modeli so predpostavljali, da bo internet popolnoma decentralizirana storitev. Videti je bil kot ribiška mreža, v kateri je vse povezano z vsem enakovredno. Ampak do te točke nismo nikoli prišli. Čeprav je internet razširjen povsod, je super centraliziran. Na svetu je približno deset stavb, fizičnih stavb, skozi katere gre na neki točki večina interneta. Hkrati tudi vidimo, da imajo vlade velik nadzor, kadar želijo na primer ugasniti internet. Zelo učinkovito lahko odrežejo države z interneta ali blokirajo določene spletne strani. Kar nam spet govori, da je vpletena močna centralizacija. Ali če želijo vohuniti za svojimi ali drugimi državljani, imajo vlade prek spletnih gigantov, kot sta Google in Facebook, ki nadzorujeta veliko teh informacij, omogočen dostop. To je vse zato, ker interneta nikoli nismo zares decentralizirali. Decentralizacija pomeni, da so povezave med posamezniki ali manjšimi skupinami lahko neposredne. To lahko naredimo precej preprosto, kar me navdaja z upanjem. Sam na primer vse bolj uporabljam videopogovor peer to peer oziroma anonimiziran neposreden videopogovor enakih z enakimi namesto Skypa. Sliši se kot preprosta in piflarska (nerdy) stvar, ampak je neverjetno pomembna. Zakaj? Ko koga pokličem z videoklicem in pri tem uporabim ali Skype ali Googlove hangoutse ali Facetime, to pomeni, da gre videopogovor prek določenih podjetij. Ta imajo nato popoln nadzor nad temi informacijami, vendar ne le to, tudi omrežja oblikujejo na način, da imajo večjo moč. Če namesto tega uporabiš sistem P2P, ustvariš povezavo s človekom, s katerim se pogovarjaš, ta pa lahko potuje kamor koli. In to dejansko ne spremeni le razmerja moči, ampak tudi obliko omrežja kot takega. Ustvarimo lahko torej drugačno omrežje, če ga začnemo uporabljati drugače. In ta razmerja ne spreminjajo le omrežja, temveč tudi mogoče politike omrežja. Če tako na novo premislimo in na novo zgradimo internet na tak način, potem lahko spremenimo tako odnose med nami kot tudi moč, ki jo imamo.

Kako to storiti, ko pa je anonimizirano povezovanje P2P danes demonizirano? V prevladujočem javnem diskurzu povezave peer to peer oziroma anonimne neposredne povezave enakih z enakimi uporabljajo zločinci, prekupčevalci, teroristi, pedofili … James Bridle, kako ta diskurz spremeniti?

Edini način, da ta diskurz spremenimo, je, da začnemo omrežja P2P uporabljati za druge namene. Z omenjenimi stvarmi vedno demoniziramo kraje. Poglejmo na primer samo mesta. Revni deli mesta so vedno demonizirani kot kraji, v katerih se dogajajo slabe stvari. Vendar to ni lastnost teh krajev, gre za politično odločitev, ki je te probleme potisnila na ta območja. Seveda peer to peer in anonimnost omogočata protizakonito vedenje, vendar ne omogoča le tega. Če se osredotočimo le na negativnosti, potem prestrašimo ljudi in jih preženemo stran. Zato moramo pomisliti na vse vrste uporabe, da postavimo retoriko na glavo. Veliko zanimivih stvari lahko tam naredimo, veliko zabavnih. Kot sem rekel, kar mi je bilo najbolj všeč pri zgodnji uporabi interneta, so bile presenetljive in nenavadne povezave. V devetdesetih, ko sem bil najstnik, sem se lahko pogovarjal z ljudmi iz drugih držav, ki so imeli popolnoma druge izkušnje. To je popolno nasprotje današnjih filtrirnih mehurčkov. Na spletu se danes po večini pogovarjamo z ljudmi, ki so taki, kot mi. Internet včasih ni bil tak, tak tudi ne bi bil popolnoma decentraliziran in široko distribuiran internet, saj ne bi bili potisnjeni v te filtrirne mehurčke, ampak bi ustvarjal možnosti za nova srečanja in nove izkušnje. To pa je po mojem mnenju vedno zelo močna in zanimiva stvar.

Še ena stvar, ki ste jo omenili, ko ste govorili o centralizaciji interneta, je infrastruktura. Rekli ste, da je na svetu deset stavb, skozi katere gre večina svetovnega interneta. Ampak o internetu ne razmišljamo kot o fizični stvari. Mislimo si, da je vse tam nekje v zraku, ne znamo si pravzaprav predstavljati, kako deluje. To je za nas uganka. Pa v resnici ni, v resnici gre za fizičen svet, ki nam lahko razkrije marsikaj, kajne?

Ja, seveda. O tem sem prvič začel razmišljati, ko sem se sprehajal po vzhodnem Londonu, kjer sem živel pred leti. Videl sem ogromno stavbo, kvadratno, visoko približno šest, sedem nadstropij, brez oken, ki pa je imela zelo zanimivo fasado, kot bi bila iz pixlov. Zanimalo me je, kaj je v tej hiši, zato sem to raziskal. Ugotovil sem, da je to internet. Oziroma njegov zelo pomemben del. Ta hiša in še nekaj hiš okrog nje so del kompleksa Telehouse. Gre pravzaprav za glavno internetno izmenjavo za vso Veliko Britanijo. Ker je Velika Britanija med celinsko Evropo in Severno Ameriko, gre veliko internetne izmenjave iz Amerike prek Velike Britanije v Evropo. Ogromna količina internetnega prometa gre torej skozi to stavbo. Najmanj 80 odstotkov vsega evropskega interneta. Podobno velike prometne zveze so še v Frankfurtu, Amsterdamu, nekaj jih je seveda tudi v Ameriki, vse več tudi v vzhodni Evropi in Aziji. Ampak prek teh stavb v Londonu, New Yorku, San Franciscu, Frankfurtu in Amsterdamu, skozi te posamezne prostore gredo ogromne količine internetnega prometa. Kdo odloča o tem, kaj se zgodi na internetu, kdo ga nadzoruje, ima ogromne posledice. Ko to vidiš, potem lahko opaziš zelo zanimive stvari. Imamo torej te velike stavbe, ki pa so med seboj povezane s kabli, ki tečejo pod oceani. Lahko si ogledamo zemljevide teh kablov. Zanimivo je, ko vidimo, da gre ves internet po teh kablih, ki so široki nekaj centimetrov, ležijo na morskem dnu, občasno jih obgrizejo morski psi ali pretrgajo ladijska sidra. Ampak tako internet v resnici deluje. Ko torej pogledamo zemljevide teh kablov, nekaj stvari postane očitnih zelo hitro. Na primer kabli, ki gredo v zahodno Afriko, ta je bila včasih del britanskega in francoskega imperija, gredo po večini nazaj v Britanijo. Zemljevid internetnih povezav v Južni Ameriki pokaže, da večina kablov ne gre naravnost v Severno Ameriko, ampak najprej nazaj v Španijo. Ti kabli gredo po sledi starih omrežij imperialnih ladij. So zapuščina kolonializma. Internet ni globoko depolitiziran moderen prostor, temveč temelji na vzorcih starih imperijev. Čeprav je to strašljivo, je hkrati tudi ena od stvari, ki jo lahko zelo jasno vidiš, če razumeš internet kot fizični prostor. Pri raziskovanju tehnologij, ne le pri raziskovanju fizičnega interneta, se mi je vedno zgodilo naslednje. Ko nekaj postane tehnologija, še posebej ko se digitalizira, se zdi, da je izginilo. Gre za steklo ali pod morje in vse težje to vidimo neposredno. Če pa se o tem malo poučimo, če izvemo, kje so te hiše, če znamo vsaj malo računalniško programirati, nenadoma vse postane neverjetno jasno. In res lahko vidiš številna razmerja moči, ki so bila prej nevidna, nikoli jih tako še nismo videli. O tem se ni govorilo, bilo je namenoma skrito. Če želimo stvari shraniti v računalnik, jih moramo zapisati. In potem jih lahko preberemo. In če jih lahko preberemo, imamo nov dostop do njih. Ta nam omogoča, da o njih razmišljamo bolj jasno, bolj kritično. In jih morda tudi spremenimo.

In postane nam tudi jasno, zakaj interneta nikoli nismo decentralizirali in od kod izvirajo številni problemi z njim. V začetku, ko je internet postajal del naših vsakdanjih življenj, ko smo ga začeli prenašati naokrog skupaj s fotoaparatom in preprosto na splet nalagati fotografije, so internetni optimisti govorili, da smo prišli do konca. Da se tu vse konča, da bo zdaj vse transparentno, nihče nikoli več ne bo mogel izreči laži. Kot lahko vidimo, je danes prav nasprotno. Imamo poplavo informacij in izjemno malo znanja o tem, kaj je resnica.

Ja, kot se je izkazalo, na razumevanje sveta od nekdaj vplivata osebno mnenje in oblikovan skupek prepričanj. Ne gre za golo sprejemanje informacij. Kot ste rekli, prepričanje, da so še posebej fotografije nedvomne resnice, je eksplodiralo s poplavo telefonov s fotoaparati. Ampak že od nekdaj, odkar obstaja fotografija, vemo, da ta podoba lahko laže na različne načine, da v podobo ne moremo popolnoma zaupati. In spet, zdajšnja poplava podob nas opozarja na natanko to, da se ne moremo zanašati le na podobe, potrebujemo tudi znanje in moč. Pred nekaj leti je Eric Schmidt, eden od vodilnih mož pri Googlu oziroma Alphabetu, kot se ta gigant zdaj imenuje, izjavil nekaj, o čemer veliko razmišljam. V enem od svojih govorov je dejal, da je tehnologija že od nekdaj dobra. Kot sem že povedal, rad imam tehnologijo, vendar je popolnoma nespametno trditi, da je vedno dobra. To nič ne pomeni. Vendar v to on in še številni drugi, ki delajo na tem področju, verjamejo. Primer za to je navedel, da smo s tem, ko smo vsem dali v roke mobilne telefone, omogočili, da lahko vsi dokumentiramo svet. To je podkrepil z močnim primerom. Rekel je, če bi vsi v Ruandi v devetdesetih imeli mobilni telefon, potem se tam ne bi zgodil genocid. Saj bi torej obstajale fotografije, te bi se razširile po svetu, javnost bi izvedela za to, kaj se dogaja in nekaj v zvezi s tem bi storili. Težava s to zgodbo je, da smo vedeli, kaj se je dogajalo v Ruandi. Imeli smo radijske posnetke, novinarji so o tem poročali, obstajajo celo ameriški satelitski posnetki genocida. Vedeli smo, da se to dogaja, znanje ni bilo težava, problem je bil v tem, da ni bilo politične volje vplivati na dogajanje. Druga težava pa je, da tehnologija v številnih primerih stopnjuje nasilje. Na zelo specifične načine. Veliko raziskav so opravili o nasilju na kenijskih volitvah leta 2010 in 2012. Pokazale so, da se je nasilje, ki je bilo že sicer prisotno, še stopnjevalo zaradi informacij, ki so se delile prek mobilnih telefonov. To smo v preteklih letih še bolj neposredno videli pri nasilju v Mjanmaru, na Šrilanki, kjer je pri stopnjevanju nasilja izjemno veliko vlogo odigral Facebook. Sovražna retorika in napeljevanje k nasilju sta se izjemno hitro razširila med ljudi. Gre za vprašanje vidnosti tako kot pri fotografijah. Možnost deljenja informacij ne pomeni le deljenja dobrih ali neškodljivih informacij, omogoča bolj izdelano argumentacijo, ki se opira na podobe. In to je ta del, ki ga težko mislimo. Tako kot ste rekli, po eni strani verjamemo, da so podobe resnica, po drugi pa imamo prepričanje, da se bomo z več informacijami lažje pravilno odločili. Po mojem mnenju nam internet kaže, da je ravno nasprotno. Več informacij ne pomeni, da sprejemamo boljše odločitve. Več informacij nas le bega, saj v njih težko najdemo smisel. Kadar dobimo veliko informacij in nimamo orodij, s katerimi bi jih smiselno uredili, posledica tega ni razumevanje temveč zmedenost in strah. In kadar je ljudi strah, se zatečejo k ekstremom. To je ključni del tega, zakaj danes vidimo vse bolj nasilno, vse bolj razdiralno, vse bolj fundamentalistično retoriko pravzaprav na vseh področjih sodobnega sveta.

Ali pri tem opazite kakšne razlike med generacijami? Obstajajo razlike v dojemanju tehnologije? Stari starši se denimo navdušujejo nad pametnimi telefoni med drugim zato, ker lahko na spletu najdejo odgovore na vsa vprašanje, ki jim jih zastavljajo vnuki. Starejši so prepričani, da zdaj poznajo vse odgovore. Njihovi vnuki pa pravijo, da stari starši ne vedo ničesar, saj vse informacije iščejo in preverjajo na telefonu. Ali z upanjem gledate na mlajšo generacijo, ki odrašča v tem svetu, bodo oni bolj znali ločiti zrnje od plev, resnico od laži?

Ne, ne verjamem v generacijske razlike na tak način. Ker nismo na tekočem z vsem, kar se dogaja, z lahkoto pripišemo čudežno poznavanje tehnologije mlajšim. Ampak žal več uporabe in več znanja ne pomeni, da smo tudi bolj kritični, da previdneje razmišljamo o tehnologiji ali imamo širše razumevanje o tem, kako deluje. Prvi mit je, da so starejši bolj nevešči uporabe. Morda jih je strah začeti uporabljati novosti, tako kot nas je vseh strah novosti, da ne bi dajali vtisa, da smo neumni, ker ne vemo, kako delujejo. Ampak ko premostijo to oviro, starejši enako dobro uporabljajo te tehnologije kot mladi. Tu ni nobenega problema. Po drugi strani pa mladi, ki začnejo hitro uporabljati te tehnologije, pa zaradi tega, ker ne poznajo ničesar drugega, nimajo nobene primerjave. Facebook in internet z vsemi stvarmi na njem se jim zato zdita, da tako pač je. In kadar imamo za nekaj občutek, da tako pač je, potem nismo občutljivi za razmišljanje o tem, kako bi to lahko spremenili. Neko stvar lahko torej zelo dobro uporabljaš, nimaš pa sposobnosti kritične presoje in ne vidiš strukturnih problemov. Zato delo z otroki nenehno preseneča. Morda res znajo dobro uporabljati orodja, ne znajo pa jih uporabljati drugače. Problem tako po mojem mnenju ni starost, temveč je za boljšo uporabo tehnologij, torej bolj kritično in premišljeno rabo, ključna izobrazba. Treba je bolje razumeti, kako stvari delujejo. Da niso le predmeti, ki jih vsak dan uporabljamo, temveč orodja, s katerimi bolje razumemo stvari. Veste, med televizijo in računalnikom je razlika. Oba imata zaslon, vendar nam prvi le pasivno dostavlja informacije, drugi pa je bolj podoben kladivu in izvijaču. Je orodje, z njim lahko kaj naredimo. Če računalnik omejimo na televizijo, kar pri vsakodnevni uporabi delamo, potem izgubimo občutek za vse možnosti, ki jih ponuja. Edini način, kako to spremeniti, je z izobrazbo.

Velika Britanija je bila ena prvih držav, ki je spremenila učne načrte in posodobila pouk računalništva, pri nas še nismo tam, celovita reforma pouka računalništva nas še čaka. Računalništvo ni obvezni predmet, vsebina je močno odvisna od učiteljev, še vedno se močno opiramo na krožke, delavnice in občasne projekte. Kako urediti izobraževalni sistem ter kdo in kako naj poučuje otroke uporabe interneta in računalnika?

Naj povem, da nisem učitelj, prav tako ne živim več v Veliki Britaniji, zato nisem seznanjen s tamkajšnjim stanjem glede učnih načrtov. Termin izobrazba uporabljam v zelo širokem smislu. Menim, da bi ga tako tudi morali uporabljati. V nekaterih državah se je v preteklih letih zgodil premik naprej, da bi postali boljši pri učenju računalništva. To običajno pomeni, da otroke učijo programiranja. Kar je zelo dobro. Tega res ne želim očrniti. Škoda je, če se tega učijo zato, da bodo lažje dobili službo. Ker se potem učiš le določenega tipa programiranja. Ne učiš se o programiranju kot uporabnem orodju. To je ključno in se dotika  temeljev izobraževanja in problemov, ki jih imamo zadnjih sto let z izobraževanjem po vsem svetu. Gre za razkol med družboslovjem in naravoslovjem. En del izobraževanja so jeziki, zgodovina in umetnost, ki se jih obravnava kot ustvarjalne in domiselne, druga veja pa je znanost, kot so fizika, kemija, biologija ali pa tehnologija in računalniki, ki se jih obravnava kot nespremenljive stroke in uči mehanično, preučuje in eksperimentira pa na zelo določen način. To pomeni, da imamo zelo malo ljudi v umetnosti, ki so se torej učili ustvarjalnosti in znajo hkrati tudi uporabljali neverjetno močna nova orodja, ki sta jih razvili znanost in tehnologija. Na področju znanosti in tehnologije pa imamo malo ljudi, ki so hkrati sposobni kritičnega razmišljanja, da bi lahko ovrednotili orodja, ki so jih ustvarili. To se očitno pokaže pri tehnologiji, ki smo jo ustvarili v zadnjih desetih letih. Po vsem svetu ta razred ljudi, ki zelo dobro obvlada računalnike, dela pri podjetjih, kot sta Google in Facebook, ali za vladne agencije, ki imajo neverjetno količino moči nad našimi življenji, nikoli ne razmišlja o etiki svojega početja. Nikoli ne razmišlja o družbenih in političnih posledicah svojega dela. Ampak to ni zato, ker bi bili ti ljudje zlobni, čeprav bi kot zlobne označil nekatere proizvode njihovega dela. Ampak to samo zato, ker so odrasli v izobraževalnem sistemu in družbi, ki pravi, da je med znanostjo in etiko ter med znanostjo in politikami vsakdanjega življenja ločnica. Za to je kriva izobrazba. Prava tehnološka izobrazba ni le učenje otrok programiranja, temveč posledic programiranja, moči programske opreme, kaj pravzaprav počne v naših vsakdanjih življenjih in kaj bi s programiranjem pravzaprav radi naredili. Namesto da razmišljaš, če se naučim programirati v tem programu, potem bom dobil službo v banki ali podjetju, ki ustvarja računalniške igre, razmišljaj, kako lahko uporabim to neverjetno močno tehnologijo za spremembe v vsakdanjem življenju.

Ampak problem je v tem, ker smo pravzaprav šele zdaj izvedeli, da ima programiranje tako neverjetno moč. Razvoj računalnikov in njihov vse večji vpliv na naša življenja – to je bil sočasen proces. Kako torej sprejemati odločitve v prihodnosti? Imamo to izkušnjo iz preteklih let, tehnologija pa se še naprej razvija. Ta hip se dogaja velik napredek na področju umetne inteligence. Ga moramo ustaviti oziroma omejiti, ali pa naj pustimo znanstvenikom, da umetno inteligenco neovirano razvijajo naprej in bomo pač videli, kaj se zgodi?

Umetna inteligenca je ta hip verjetno najrazburljivejše in najzanimivejše področje razvoja, morda ni najpomembnejše, zagotovo pa dobi veliko pozornosti. Na univerzi sem študiral umetno inteligenco, ampak to je bilo pred 15 leti. Takrat je bilo to nekaj popolnoma drugačnega. To so bila zadnja leta, zadnja stopnja, ko smo še na tisti način razmišljali o tem, kakšna bo umetna inteligenca. To pomeni, da sem študiral predvsem delovanje možganov, lingvistiko, saj smo mislili, da bo umetna inteligenca nekaj takega kot človeška inteligenca. In če bomo bolje razumeli človeško inteligenco in ustvarili računalnik, ki bo deloval kot človek, bo rezultat umetna inteligenca. Umetna inteligenca, o kateri se pogovarjamo danes, ni taka. Kar smo lahko v preteklih letih slišali v novicah in o čemer poročajo podjetja, je to nekaj popolnoma drugačnega. Bolje je, če to poimenujemo strojna inteligenca. Če rečemo umetna, potem se zdi, da je podobna človeški, to pa ni res. Je nekaj povsem drugačnega, zagotovo pa je precej inteligentna. In postaja vse zmogljivejša. In sploh ne dvomim, da bomo v prihodnjih … ah, zelo nevarno je govoriti o letih, ampak … lahko si začnemo zastavljati vprašanja, kako bi bilo, če bi si delili planet z izjemno zmogljivimi inteligencami nečloveškega in neživalskega izvora. Zastaviti si moramo nekaj zelo pomembnih vprašanj. Za začetek – zelo me skrbi, iz česa se bo ta inteligenca razvila, kdo jo ta hip razvija, kdo jo izdeluje. Najprej imamo tu internetna podjetja, kot so Google, Apple in Facebook. Ogromno vlagajo v razvoj. In če ena različica umetne inteligenci pride od Googla, Appla ali Facebooka, potem bomo dobili korporativno pošast, lačno denarja. Imela bo vse najslabše lastnosti zdajšnjega interneta, ponotranjila bo vsa prepričanja o oglaševanju, nadzoru in zelo specifičen model družbenega življenja, ki je po mojem mnenju obupen. Vse to bo ponotranjila in to bo potem božanska moč. Ali pa se bo izoblikovala na temeljih ameriške oziroma kitajske obrambne države in vojske. Obe izjemno intenzivno razvijata svojo umetno inteligenco. Ta inteligenca bo imela militaristične vrednote, spet nadzor. Tudi to ni umetna inteligenca, s katero bi si rad delil svet. Zato sem zelo zaskrbljen, od kod prihaja in čigave vrednote bo imela, ko bo prišla. Hkrati pa se mi zdi naravnost osupljivo, da nastaja ta hip, v času, ko začenjamo priznavati tudi druge oblike inteligence. V prejšnjem desetletju so opravili veliko raziskovalnega dela – gre torej za super nove zadeve – o kakovostih inteligence nečloveških bitij. Na primer, zanimiva debata poteka o podelitvi posebnih pravic velikim opicam, kot so orangutani, gorile, šimpanzi in bonobi. Tisto, čemur rečemo človekove pravice, bi torej morali razširiti na njih – v prvi vrsti zato, ker so inteligentne. S tem pravimo, da je inteligenca kriterij za podeljevanje pravic, kar je spet super zanimivo. To se poskuša tudi pri slonih in kitih. V preteklih letih je bilo napisanih veliko zanimivih knjig o glavonožcih, kot so hobotnice, lignji in sipe. Ti so zagotovo inteligentni, ampak na povsem drugačen način. Naš skupni prednik z glavonožci je živel pred 600 milijoni let. Glavonožci imajo oči, tako kot mi, ki so se razvijale popolnoma neodvisno od naših, vendar so se razvile skoraj enako. Videti so tako kot naše oči, imajo enako funkcijo, vendar je razvoj potekal povsem ločeno. Če se torej oko lahko razvije popolnoma ločeno, potem se zagotovo lahko tudi inteligenca. Ko srečamo hobotnico, se pravzaprav srečamo s tujcem, s katerim si delimo planet, za katerega vse bolj kaže, da je inteligenten. Ali kot smo ugotovili – med gozdovi ves čas poteka komunikacija. Torej ravno v trenutku, ko se človek obrača okrog sebe in ugotavlja, da ni edino inteligentno bitje na planetu, razvijamo to nenavadno umetno inteligenco. Ali obstaja trenutek, ko bo človek zdrsnil z vrha drevesa inteligence, česar si hkrati želimo in se tudi bojimo? Zakaj jo razvijamo, je še vedno odprto vprašanje, ampak če se nam posreči, bo to kopernikanski trenutek, ko človek ne bo več na vrhu drevesa. Ali se bo s tem spremenil tudi naš odnos do preostalega planeta, ker gre za precej nujen trenutek, v katerem moramo razmišljati o našem odnosu do rastlin in živali? In morda si lahko zamislimo umetno inteligenco, ki nam ne bo ukazovala in nas nadzorovala, kako naj se vedemo, temveč nam bo pomagala bolje razumeti naš svet.

Tehnologija nam je torej omogočila tudi ta širši pogled, ki ni antropocentričen in nam je omogočil, kot ste rekli, da odkrijemo tudi drugačne inteligence. Pa vendarle človeštvo vsaj od renesanse naprej vrednoti odkrivanje novega znanja bolj kot vse drugo. Kako torej preprečiti, ustaviti razvoj inteligentne korporativne pošasti in inteligentnega vojaškega terminatorja? Kako doseči soglasje in ali bi to morala biti demokratična odločitev? Bi javnost morala imeti besedo pri tem, kako in kaj razvija človeštvo? In kako se odločiti o tako veliki in tako pomembni stvari, kot je razvoj nove inteligence?

Absolutno verjamem, da bi morali vse odločitve, vse velike tehnološke odločitve, ki bodo vplivale na naša življenja, sprejemati v čim širši javnosti. Ampak to je zelo težko, če imamo javnost, ki nima tehnološke izobrazbe. Kar je spet še en razlog, zaradi katerega moramo razširiti izobraževanje o tem. Edini način, s katerim lahko ustvarjamo boljše tehnologije – take, ki omogočajo pravičnejše in bolj demokratične rezultate, je, da jih ustvarimo z bolj raznovrstnimi skupinami ljudi. Če pogledamo, kdo danes ustvarja tehnologije, je to predvsem bel moški določene starosti. In edini način, da spremenimo tehnologijo, je, da spremenimo to demografijo in vključimo čim več ljudi v to razpravo. Ključno se mi zdi tudi poudariti, to skušam vključiti tudi v svoje delo, da imaš lahko sofisticirana, uporabna, dejavna mnenja in misli o tej problematiki brez znanja o vseh tehnoloških podrobnostih. Zato moramo izumiti način govorjenja o tej problematiki, ki se ne bo izgubil v tehnološkem žargonu. Zato takrat, kadar govorim o umetni inteligenci, govorim o hobotnicah, o drevesih, saj ne verjamem, da tehnologija pripada posebnemu razredu, posebni skupini ljudi s primerno izobrazbo. Vsi lahko razmišljamo o teh vprašanjih, vsi lahko razmišljamo o tem, kaj je potrebno in kaj je nujno. Seveda lahko to vključuje tudi strokovno zakonodajno posvetovanje. Na prvi stopnji pa bo najprej potrebno veliko izobraževanja o tem. Da bodo ljudje sposobni te debate ter tudi, da bodo verjeli, da se v to debato sploh lahko vključijo. To je velik korak. Večina ljudi meni, da se ne more vključiti, da ni opolnomočena. To je nepotrebno. Je rezultat slabe oblike izobraževanja, pa tudi rezultat stališča podjetij in politikov, ki pravijo, da to ni vprašanje, odprto za široko razpravo. To moramo prekiniti in spremeniti.

Seveda, kot smo lahko videli v preteklosti, z nami ni težko manipulirati, še posebej v digitalnem svetu ne. Že prej sva govorila o resnici, poplavi lažnih novic, politični propagandi in vzponu populizma ter skrajni desnici. Pravite tudi, da bomo pri prihodnjem razvoju potrebovali široko razpravo in soglasje ter skupne vrednote. Kako to sploh doseči? Je sploh mogoče razpravljati o skupnih vrednotah pri razvoju umetne inteligence, ko pa smo tako razdeljeni?

Upam, da je to mogoče. To ne pomeni, da ne pričakujem velikih omejitev. Ne pričakujem sprejetja določenih zakonov s široko javno podporo. Zdi se mi, da počnemo vse, kar je v naši moči, da se to v družbi ne bi zgodilo – pa naj gre za nacionalizme, vnašanje razdora med nas, povečevanje korporativne moči, ki omogoča podjetjem, da počnejo, kar želijo, povečevanje vladnega vpliva, ki je posledica nacionalizma. Delamo torej vse, kar je v naši moči, da bi onemogočili skupno delovanje. Zato se moramo vprašati, kaj lahko storimo v manjših skupinah, kaj lahko storimo kot posamezniki. Mene recimo ta hip zanima samoizobraževanje manjših skupin. Odkriti moramo, katera orodja še potrebujemo v sedanjosti in prihodnosti, da bi lahko nekateri tem težnjam nasprotovali. Vendar so to problemi, ki jih ne bomo odpravili hitro, nekaj generacij se bo moralo zamenjati. Precej jasno je, da gre tako Evropa kot ves svet po krivulji vse večjega nacionalizma in fundamentalizma. Verjamem, da je to delno rezultat vse večje kompleksnosti sveta. Ki ni le tehnološka. Ne gre le za množične medije, kot sta televizija in internet, temveč tudi za vse večjo dostopnost potovanj. Ker se ljudje lahko več premikajo naokrog, se tudi več premikajo naokrog. To pomeni, da ves čas prihajamo v stik z drugimi kulturami, načini življenja in pogledi na svet. Ki so v osnovi destabilizacijski. Odziv ljudi na to destabilizacijo, tudi precej liberalnih ljudi, sta negotovost in strah. Vse, kar je drugačno od našega sveta, naš živčni sistem dojema tako rekoč kot neposreden napad. Vse večja izpostavljenost preostalemu svetu, pa naj gre za potovanja, informacije, globalno politiko ali obmejna vprašanja, pogosto povzroča občutke strahu, ki se nato spremenijo v jezo. Gre za popolnoma osnovna človeška čustva. Mi smo nekakšne zmedene vreče mesa, ki se res mučimo s spoprijemanjem z vsemi temi informacijami. Kot sem rekel, potrebnih bo več generacij, da bi to premostili. Ne poznam hitre rešitve, razen poudarjanje, da je izobrazba ključna. Predvsem samoizobraževanje, medsebojno izobraževanje, oblike izobraževanja »peer to peer«. Seveda je večji problem, da nimamo več generacij časa. V prihodnjih petdesetih letih nas čakajo resnično katastrofalne podnebne spremembe. Zato se moramo poglobiti tudi v to, katere spretnosti bomo potrebovali zdaj, ta hip. Sicer se lahko vsa vprašanja o umetni inteligenci in tehnologiji izkažejo za popolnoma odvečna in neuporabna v roku prihodnjih dvajset let.

Informacij je danes res ogromno. Živimo v času velikih količin podatkov, v času, ko se moramo zavedati, da če za izdelek nismo plačali ničesar, potem smo ta izdelek mi. Žvižgači, kot so Chelsey Manning, Edward Snowden in Christopher Wylie, so nam razkrili, kako stvari delujejo v podatkovni družbi. Mi pa se še naprej vedemo enako, še naprej brez zadržkov uporabljamo pametne telefone in omogočamo dostop do vse večje količine in različnih naših osebnih podatkov. Zakaj je tako? Ali jih nismo razumeli, jih nismo slišali ali nam je preprosto vseeno? Ali pa gre za zasvojenost in tako kot pri cigaretah, ker ne vidimo takojšnjih negativnih učinkov, še naprej kadimo?

Najprej o žvižgačih, ki jih v sodobni kulturi vidimo kot nekakšne sodobne svetnike. Številni med njimi so morali zbrati veliko osebnega poguma, da so storili, kar so. In to bi absolutno morali pozdravljati. Istočasno pa – ni delovalo. Lahko se ozremo na razkritja Chelsey Manning, Edwarda Snowdna in Chrisa Wylieja in rečemo, vse te informacije so nam zdaj dostopne, vendar v zvezi s tem se ni zgodilo tako rekoč nič. Snowdnova razkritja kažejo ravno na to – razkril je številne prakse nadzorovanja, ki so bile takrat v sivem območju zakonitosti. Šlo je namreč za stvari, ki jih še niso zapisali v zakone. NSA, GSHQ in druge so zato lahko delale, kar koli so želele. Po razkritju se je njihovo početje le legaliziralo. Zato so te njihove dejavnosti zdaj zakonite. Čeprav so bili ob razkritju vsi ogorčeni, se ni spremenilo pravzaprav nič. Po mojem mnenju je tu neposredna povezava med našim ogorčenjem in zmedenostjo ter nezmožnostjo spoprijemanja s tem. In spet se vrnemo k strahu in negotovosti, o katerih sem prej govoril. To je podobno kot podnebne spremembe. Snowden je denimo razkril resnično eksistencialno grozljive stvari, zato o tem težko razmišljamo. Kaj je razkril Snowden? Da ljudje poslušajo vse vaše telefonske pogovore, najbolj zasebne trenutke, da pred državno oblastjo nimate več nobenih skrivnosti, da je država vstopila v vse dele vaših življenj, da so vaš videopogovor s prijateljem posneli in ga lahko gledali drugi ljudje. Če ste imeli telefon pri postelji, je ta beležil, kdaj ste prišli domov, kdaj ste šli v posteljo, kdaj ste odšli. Vaš telefon to še vedno počne. Vsakič, ko greste teč in si shranite pretečeno pot, si to razdaljo telefon zapomni. Ljudje uporabljajo aplikacije za izjemno intimne stvari, kot na primer spremljanje spanja ali menstrualnega cikla. Vse te informacije kupujejo in prodajajo in uporabljajo tako podjetja kot država. Resnično razmišljati o tem je grozljivo. Srhljivo in skrb vzbujajoče je, če jasno razmišljamo o tem, kaj to pomeni. Zato je za nas lažje, če o tem sploh ne razmišljamo. To si moramo izbiti iz glave, če želimo nadaljevati svoje vsakdanje življenje. To je tak problem, kot ga imamo s podnebnimi spremembami. Vemo, da se nam neizogibno približuje katastrofa, ki se bliža vse hitreje in jo bo vse težje preprečiti. Ampak resnično je tako strah vzbujajoča, da o njej raje sploh ne razmišljamo. Sploh si ne moremo zamisliti, kaj vse bomo morali spremeniti. Hkrati pa vidimo tudi vzporednice med delovanjem internetnih podjetij, naftnih podjetij ali kot ste vi omenili, tobačnih podjetij. Gre za podjetja, ki so več desetletij poznala učinke svojega početja. Shellove raziskave in raziskave drugih velikih naftnih podjetij so že v petdesetih letih prejšnjega stoletja pokazale, da so podnebne spremembe resnične, tobačna podjetja so že pred dvajsetimi, tridesetimi, štiridesetimi leti z raziskavami ugotovila, da je nevarnost za razvoj raka pri kajenju resnična. Ljudje, ki so ustvarili Youtube, Google in Facebook, gredo na dvotedenski oddih molčeče meditacije, saj vedo, da imajo pametni telefoni slab učinek na nas. Vendar še naprej v svoje sisteme vgrajujejo kavlje, ki nas izkoriščajo na najbolj osnovni psihološki ravni. Facebook, Instagram in Google so zgrajeni tako, da izkoriščajo povezave v možganih, da postanete odvisni. Vsi vemo, da naše pametne telefone prepogosto preverjamo, da se jih prevečkrat dotaknemo, da jih, tudi kadar se tega sploh ne zavedamo, jemljemo iz svojih žepov in se igramo z njimi. To je dobesedno odvisnost. In je odvisnost, s katero ima nekdo drug dobiček. Dokler si tega, tako kot pravite, ne bomo zmogli zares jasno priznati, dokler se ne bomo resnično zavedali, kaj počnemo, potem smo popolnoma obtičali. Ne bomo se zmogli spopasti s to odvisnostjo, kot tudi ne z nadzorom in podnebnimi spremembami. Obstajajo strategije, kaj vse lahko storimo, ko se tega zavemo, ampak do tam je še dolga pot.

Omenili ste, da gredo ustvarjalci spletnih aplikacij in lastniki spletnih gigantov na oddih meditacije. Ti isti ljudje prav tako svojim otrokom ne dovolijo pametnih telefonov, tablic in pogoste uporabe interneta. Prvi stik najmlajših z internetom je dandanes pogosto Youtube, ki se uporablja kot televizija. Starši že zelo zgodaj svojim otrokom prek Youtuba predvajajo uspavanke, risanke in druge vsebine za otroke. Vendar to ni tako kot otroški program na televiziji, na Youtubu se pod krinko vsebin za otroke skrivajo tudi zelo skrb vzbujajoče in srhljive vsebine. Internet ni televizija.

Naj spet poudarim, kar sem rekel na začetku. Sem otrok interneta. V letih, ko sem si najbolj oblikoval osebnost, sem preživel na internetu. In tam sem našel precej čudne stvari. Če ni bi imel čudnih izkušenj na internetu, ko sem bil najstnik, ne bi bil to, kar sem danes. Če ne bi videl stvari, ki jih verjetno ne bi smel … Če ne bi videl stvari, za katere moji starši ne bi želeli, da jih vidim, bolje bo, če tako rečem. Ampak danes sem, to kar sem, zaradi teh izkušenj. Otroštvo, še posebej pa najstništvo, zahteva nove in nove izkušnje, različne izkušnje, da se lahko izoblikuje osebnost. To je super pomembno. Tega ne smemo zanikati. Ampak Youtube igra danes pomembno vlogo v življenju številnih staršev in otrok. Milijarde otrok po vsem svetu gleda ogromne količine vsebin na Youtubu. Tako kot je bilo to v preteklih letih s televizijo. Obstaja predpostavka, da so te stvari enake, vendar resnično niso. Naj še enkrat poudarim, da podpiram širjenje polja ustvarjalcev. Raznovrstnost tistih, ki ustvarjajo v medijih in so zastopani v medijih, je danes res velika. Spolna in rasna različnost ne internetu je večja, kot je bila kadar koli na centraliziranih platformah predvajanja. Verjamem, da je to dobro. Problem je v tem, da to platformo vodi podjetje, ki se pri svojem delu osredotoča na to, da izvleče vsak cent dobička. Še več, dobiček je večji, če je vsebine toliko, kolikor se da. Kar pomeni, ne glede na to, kaj pravijo, da jim je popolnoma vseeno, kakšna je ta vsebina. Njihov neposreden finančni imperativ je, da vas na platformi zadržijo čim dlje. Nekaj norega je recimo izrekel vodilni pri Netflixu. Ko so ga vprašali, kdo je največji tekmec njegovega podjetja, je odgovoril – spanec. Torej, ko se sprašujete o zasvojenosti in količini vsebine, vedite, da tekmujejo s spancem. Youtube je enak. Morajo vas čim dlje zadržati, dlje ko gledate, več denarja namreč dobijo. To v praksi pomeni, da ugotavljajo, kaj vam morajo prikazovati. Vse več dokazov imamo, da Youtube povečuje radikalizacijo. Govorimo o premiku na skrajne robove. Na več različnih načinov. Gre za direkten vpliv Youtuba, prav tako to velja za novice na Facebooku. Ker smo neumne živali! Ljudje bodo prej kliknili na bolj skrajne vsebine. Recimo, da gledate video o podnebnih spremembah. Potem vam platforma predlaga drug video, ki je skrajen, zagovarja pa teorijo, ki zanika podnebne spremembe. Kvaziznanstveno in z veliko pretiravanja, saj je to bolj razburljivo. Nekdo mi je nekoč to razložil z naslednjim primerom. Če bi algoritem tako urejal promet. Ob prometni nesreči bi sistem zaznal, da so vsi, ki so se peljali mimo, upočasnili, da bi si nesrečo ogledali. Sistem bi sklepal – o, ljudje radi gledajo nesreče, bolje, da jim jih pokažemo čim več. In nato bi sistem začel povzročati vse več prometnih nesreč, da bi nas zabaval. To počne Youtube. Najbolj skrajne vsebine potiska naprej. Če torej na Youtubu gledate le videe, ki vam jih predlaga, boste čez čas padli v to zajčjo luknjo. Če začnete gledati video, ki ima bolj zanimiv politični zorni kot, potem boste, še preden bi se zavedeli, na polju velikih teorij zarot. Tak je dizajn Youtuba. Zdaj pa ta dizajn prenesite na otroške risanke. Otrok začne s preprosto pesmico o abecedi, nato pa se mu prikazuje vse bolj skrajna vsebina. Kar koli že to pomeni. Lahko je popolnoma brez smisla, lahko pa je nasilno, seksualno in tega je tam zunaj res veliko. To algoritem počne, da bi še naprej gledali, da bi zaslužil čim več denarja. Kot sem rekel, nimam problema s večjo pestrostjo ustvarjalcev in reprezentacij, mislim, da je to izjemno dobra stvar. Ko pa je to vezano na motiv golega dobička, ko gre le za to, da Google, Youtube, Facebook in druga spletna podjetja od tega služijo vse več denarja, potem se razvijejo zelo ekstremne razmere. Če se zdaj vrnem nazaj k temu, ko sem govoril, da moramo stvari, kadar jih digitaliziramo, zapisati kot računalniški program. Potem jih nenadoma vidimo v svoji surovi goli obliki. Lahko si največji kapitalistični liberalni zagovornik svobodnega trga, ko vidiš poskus na Youtubu, ki prikazuje, kaj se zgodi na primeru zabave za otroke, kakšne so posledice tvojega hlastanja za dobičkom, moraš za to odgovarjati. Čeprav nimamo odgovorov na to, kako ustvariti model, ki združuje brezplačno dostopnost vsebine in čudovito lastnost deljenja informacij prek interneta z zdravim psihološkim življenjem in politiko zmernosti, zagotovo ne smemo dopustiti, da spletni giganti na zdajšnjem modelu služijo več milijard in milijard dolarjev ter ob tem zatrjujejo, da to ni njihov problem.