Morda prihodnost ni še nikoli ponujala toliko nejasnosti in dilem kot danes. Lahko da nas bo umetna inteligenca nepovratno prehitela kot dirkalni avto. In vsak dan ponudila nekaj deset odkritij v rangu Nobelovih nagrad. Nekateri zagovarjajo scenarij, da bo umetna inteligenca celo prevzela nadzor nad človekom. V vsakem primeru bo treba s samovozečo prihodnostjo najti sožitje in jo pametno zavirati na mejnih območjih.

A nobena tehnologija ni dobra ali slaba sama po sebi, pomembno je, kako jo uporabljamo ljudje, pomembne so družbene okoliščine, politične odločitve. Bi torej ob razvoju umetne inteligence potrebovali čim več ali čim manj regulacije, bi se morali vse večje prisotnosti umetne inteligence bati ali se je veseliti? Kje so realne in kje znanstvenofantastične meje?

Dr. Luciano Floridi je profesor filozofije in etike informacijske družbe na Univerzi v Oxfordu, kjer je tudi direktor laboratorija za digitalno etiko. Ukvarja se tudi s podatkovno etiko. Z njim smo pred kratkim pogovarjali na Microsoftovi konferenci v Portorožu.

Prof. Floridi, bi se morali vse večje prisotnosti umetne inteligence bati ali se je veseliti?

Morali bi biti navdušeni nad tehnologijo, ampak malo tudi zaskrbljeni glede ljudi, ki tehnologijo uporabljajo. Prinaša nam veliko novih možnosti in večino tega potenciala lahko unovčimo za dobre stvari. Na žalost pa se ob uporabi tako zmogljive tehnologije dogajajo tudi zlorabe, napačne uporabe ali neizkoriščene tehnološke zmogljivosti. Najprej se moramo torej vprašati, ali ljudje, ki so odgovorni za tehnologije, dobro opravljajo svoje delo. To nas mora najbolj skrbeti.

Nobena tehnologija ni dobra ali slaba sama po sebi, pomembno je, na kakšen način jo uporabljamo ljudje. Bi torej ob razvoju tehnologij umetne inteligence potrebovali čim več ali čim manj regulacije?

Regulacije se lahko lotimo na različne načine. Meni najbližji je pristop, ki opredeljuje, kaj se ne sme zgoditi, tako imenovane rdeče črte, ki jih ne smemo prestopiti. Taka pravila lahko najdemo v prometu, povejo ti, česa ne smeš narediti. Ne določajo, kako moraš voziti, opredelijo pa, kako ne smeš voziti, torej ne prehitro, ne s takšne vrste avtomobilom in podobno. Tako bi morali pristopati tudi k umetni inteligenci. Ne smemo govoriti ljudem, kaj morajo narediti s tehnologijo, določiti pa moramo, česa nikoli ne smeš narediti, ker je to lahko napačna stvar. Regulacije, ki bi vzpostavile mejnike glede napačne uprabe umetne inteligence, bi bile zelo dobrodošle.

A katere sploh so napačne rabe novih tehnologij, kdo in na kakšen način bo določil, kakšna so etični standardi, ki jih moramo vzdrževati in nadgrajevati?

Etični standardi in pričakovanja zrastejo skozi čas. Včasih je to dolg proces, poglejte samo, do kod smo prišli s pravicami živali ali enakopravnosti spolov, pa tudi pri kompleksnejših temah, kot je denimo splav. Običajno za to potrebujemo družbeno soglasje glede tega, kaj je prav. Ne moremo torej vsiliti ene razlage etike na račun druge razlage ali siliti ljudi v tako delovanje. Ko smo pri tej temi, moram reči, da sem optimističen glede splošnih etičnih standardov po svetu. Ne smemo pozabiti, da obstaja Splošna deklaracija človekovih pravic, ki je splošno sprejeta po vsem planetu. Obstajajo torej načini, prek katerih lahko dosežemo soglasje, večje vprašanje pa je uresničitev dogovorov. Niso pomembni le splošni principi, ampak to, kako te principe udejanjamo v praksi. Evropa bi lahko pri tem imela vodilno vlogo. Ne s prisilo in zapovedovanjem ljudem, kaj morajo delati, ampak s prikazom dobrih praks, ki pomagajo družbi in podjetjem. Če sklenem: če želite narediti pravo stvar, je to dobro, če to želite tudi pokazati drugim ljudem, bodo vašemu pristopu morda sledili, če jim bo všeč.

Prve korake k določanju standardov je začela delati Evropska unija. Delovna skupina 52-ih strokovnjakov, ki jo je organizirala Evropska komisija, je pripravila Etične smernice za zaupanja vredno umetno inteligenco, v katerih so opredelili osnovne standarde za pošteno rabo, varnost, transparentnost in demokratičnost tehnologij. Je to pravi pristop?

Evropa je ubrala pravi pristop. Z GDPR smo korak pred preostalim svetom, sploh v primerjavi z Združenimi državami in Kitajsko. Potrebujemo dobro zakonodajo, in v tem primeru GDPR dobro opravlja svojo nalogo, potrebujemo pa tudi "mehko regulacijo", torej pravila, ki jih lahko podjetja prevzamejo in priredijo za svoje potrebe. To je etika. Zdaj smo z novimi evropskimi Etičnimi smernicami za zaupanja vredno umetno inteligenco naredili še korak naprej v pravo smer. Ti se medsebojno dopolnjujejo, a moramo reči, da bo treba narediti še precej več. In prav ta presežek nam bo prinesel poslovno prednost in dobro urejeno družbo.

A zakaj so etične smernice sploh pomembne? Tehnologije ne nastajajo in delujejo v vakuumu, njihova zasnova in uporaba je odvisna od družbenih okoliščin. Za primer: kako bodo odločitve sprejemali samovozeči avtomobili? Prav v povezavi s tem primerom je nastala zanimiva etična zanka, ki se je je oprijelo ime samovozeča dilema, v angleščini driverless dilemma. Nekako takole gre - bo samovozeče vozilo, ki se ne more izogniti trčenju, zavilo v desno in povozilo otroka, ali zavilo levo in povozilo nosečico? Kaj bo osnova za odločitev, ki jo bo moralo sprejeti vozilo?

To je slaba šala, ki je precej moteča. Rešitev v bistvu ne obstaja, ker je problem zasnovan in predstavljen kot nerešljiv. Recimo da vam zastavim naslednje vprašanje: cvrtnik ali ogenj, v katerem bi bili raje? Rekli boste - v obeh primerih zgorim! Vem, ne morete zmagati, in tudi vem, da je to nepoštena igra. Kot bi nekomu ob metu kovanca rekli - če pade številka, zmagam jaz, če pade glava, izgubiš ti. Kaj bi izbrali? Pač ne morete zmagati. Pri samovozečih avtomobilih dilemo običajno oblikujejo tako, da če zavijete desno, ubijete staro gospo s psom, če zavijete levo, pa otroka. Kam bi torej zavili?

Ne morete zmagati. Kaj se moramo torej naučiti iz tega primera? Prvič - ne pustimo se zavesti trapastim stvarem. Drugič - tu gre v resnici za zasnovo. Če se znajdeš v položaju, v katerem je vsaka odločitev napačna, moramo nekaj narediti že prej, da se takšne okoliščine sploh ne zgodijo. Če nekdo zasnuje avto, ki ga ne moremo ustaviti, ne moremo usmerjati, v katerem ni velikega rdečega gumba in v katerem ne moremo pritisniti na zavoro, potem se bomo seveda prej ali slej znašli v položaju, ko bomo morali ubiti gospo ali otroka, ker zasnova avtomobila onemogoča kakršno koli drugačno rešitev. Kje je torej težava? V zasnovi.

Pravo vprašanje je torej, kako čim bolj optimalno zasnovati nove tehnologije, da bodo onemogočale zlorabe in nesreče. In pri zasnovi nikakor ni nepomembno, kdo je tisti, ki bo zasnovo pripravljal. Tehnologije namreč nikakor niso nevtralne, nastajajo pa v relativno majhnem številu podjetij, za katera bi težko rekli, da imajo pisano spolno, rasno ali starostno sestavo zaposlenih.

Kaj lahko naredimo glede zasnove? Pri tehnologiji na splošno smo do zdaj videli urejanje z mednarodnimi standardi ISO, v vsakem trenutku lahko spremljamo razprave o teh standardih, njihovo prečiščevanje in spodbujanje rabe. Nekega dne, upam da že v od treh do petih letih, bomo dočakali uveljavitev tehnoloških standardov, ki bodo umetno inteligenco naredili varnejšo in bolj etično. Razmišljajte o tem tako - z mikrovalovno pečico se je nemogoče opeči, ker pred tem varujejo standardi. Če odprete vrata, pečica takoj ustavi delovanje. O takih standardih dobre zasnove se moramo pogovarjati. Samovozeči avto nas nikoli ne sme pripeljati do odločitve, ali bomo ubili pešca na levi ali na desni. Je to mogoče? Seveda, poglejte mikrovalovno pečico! To je dobra rešitev. Varnost mora biti na prvem mestu, kar nas bo pripeljalo do bolj etičnih, torej za družbo bolj sprejemljivih tehnologij.

A zasnove ta hip oblikuje le peščica podjetij v le nekaj mestih po svetu, največ seveda v Kaliforniji v Združenih državah. Pri tem ima glavno besedo specifična skupina ljudi, kot jih lahko vidimo danes na tehnološki konferenci. Imamo ogromne težave z zastopanostjo spolov, zelo malo žensk se odloča za ta poklic. V preteklosti ni bilo tako - v času Alana Turinga je beseda "computer" pomenila žensko, ki pripravlja izračune. Od tod izhaja beseda. To je torej težava, ki se je pojavila šele nedavno in s katero se moramo robustno spopasti, saj zanjo ni nobenega pametnega razloga. Nobenega razloga ni za to, da zasnova tako pomembnih tehnologij ne bi mogla biti multikulturna in večspolna. Za to potrebujemo sociopolitično rešitev. Poskrbeti moramo za izobraževanje in spremeniti zdajšnjo kulturo, ki privlači le posamezno vrsto ljudi. Podobno je z visokim izobraževanjem in filozofijo - tam po večini razpravljajo le stari beli moški, kot sem jaz, kar je seveda slaba ideja. Če bomo spremenili to kulturo, bodo prišli tudi drugačni ljudje.

Ustvarjanje etičnih smernic za razvoj novih tehnologij je torej pomembno za preprečevanje anomalij v kompleksnih družbenih sistemih, hkrati pa je lahko tudi dobra poslovna priložnost. Opozorili ste, da podjetja to zaznavajo, in da se v razvoj etičnih smernic v zadnjih letih začenja stekati tudi veliko denarja. Stotine milijonov evrov. Od kod prihaja ta denar?

Ne smemo pozabiti, da v nekaterih delih sveta živimo v zelo bogatih družbah, denimo na globalnem severu, v Evropi in Združenih državah, pa tudi na Japonskem in drugje. Pomanjkanje denarja torej ne more biti izgovor. Problem je pomanjkanje interesa. Vprašanje je, ali je pripravno in smiselno za naše deležnike in lastnike v podjetju, da vlagajo v etične inovacije? Pogledati moramo samo, kaj se je zgodilo v drugih industrijah. Danes vsa podjetja trdijo, da so zelena in okolju prijazna, saj si ne morejo več privoščiti, da ne bi bila. To je ključno za zunanjo podobo podjetja.

Upam, da se bo nekaj podobnega zgodilo tudi na področju umetne inteligence. Tako v kontekstu okolja in proizvedenih predmetov moramo biti resni glede etike. Ne gre le za olepševanje podobe podjetja s tem, da rečemo, da smo zeleni, in je potem delo opravljeno. Pomembne so resne naložbe. Zato v to vejo priteka denar - ker je to konkurenčna prednost. Podjetje, ki sprejme več ukrepov na etičnem področju, je boljše podjetje, ki bo ustvarjalo boljše okolje za boljši posel. To pa pomeni bolj zadovoljne stranke. To je cikel koristi, ki ga podjetja hočejo začeti.

Pa bo to dovolj? Kako gledate v prihodnost, bomo denimo čez dve desetletji živeli v povsem drugačnem svetu kot danes?

Če želimo špekulirati - 20 let je ogromno časa v tehnološkem svetu, torej je to zelo težko in prepričan sem, da se bom zmotil, če pa res moram reči ... Mislim, da bodo umetna inteligenca in podobne rešitve postale kot elektrika - uporabljamo jo ves čas in povsod. Zaradi nje lahko tudi umreš, če je ne uporabljaš pravilno, a to se vsaj doma ne zgodi skoraj nikoli. Umetna inteligenca bo postala nevidna. Upravljala bo naše hiše, kompleksnost naših družb, morda podjetja in mesta. Ne bomo pa je srečevali ves čas. Zdaj je zabavna slika robota, ki vas sprejme na vhodu vašega doma, znanstvena fantastika. To se ne bo zgodilo. A ogrevanje v hiši bo postalo boljše zaradi pametnega termostata, čiščenje bo robotsko, tudi jaz imam že robotski sesalnik, naprave v stanovanju bo upravljala umetna inteligenca, ki bo poskrbela za boljše izkoristke vode, čistil, elektrike ... To se bo brez dvoma zgodilo. In do zdaj smo govorili le o hišah. V mestu, na ulici, trgu, v pisarni, pa tudi v velikih podjetjih, zabavni industriji, izobraževanju ... lahko z umetno inteligenco dosežemo velik napredek. Bo pa ostala nevidna, ne bo na dosegu roke. Živeli bomo na vrhu ledene gore, v ogromnem nevidnem delu ledene gore, ki se skriva pod morjem, pa bo veliko umetne inteligence.

Za uresničitev kateregakoli scenarija je ključna ena spremenljivka - okolje. Bi nove tehnologije sploh lahko bile ključ do uspešnejšega reševanja posledic okoljskih sprememb in segrevanja ozračja?

Področje okoljevarstva je ključno. Umetna inteligenca je del digitalne revolucije, to pa poganja elektrika, ki seveda vpliva na okolje. Zavedati se moramo, da uporabljamo okolje za reševanje okolja. To ni majhna stvar. Ne smemo pozabiti na ogromne stavbe, v katerih so nameščeni milijoni računalnikov, ki porabljajo enormne količine energije samo zato, da vi lahko brskate po spletu. Kljub temu pa je umetna inteligenca izredno močno orodje, če jo hočemo uporabiti za reševanje okolja. Torej - ali imamo cilj za 21. stoletje? Da. Rešiti moramo planet. To ni majhna naloga. Ali imamo prava orodja za dosego cilja? Razvijamo jih prav zdaj, umetna inteligenca je eno izmed njih. Pa bomo ta orodja uporabili? Upam da, za božjo voljo, saj so prihodnje generacije odvisne od tega.