Eno izmed pravil, ki bi ga morali po njenem mnenju vedno upoštevati pri razvoju umetne inteligence, je, da je ne razvijamo, da bi nadomestila človeka. "Vedno mora biti jasno, kdo je tvoj sogovornik na drugi strani: ali je to računalnik ali človek."

Revija Forbes jo je lani uvrstila med 30 najperspektivnejših posameznikov v svetu tehnologije, mlajših od 30 let, Recode pa med sto najvplivnejših ljudi v svetu tehnologije, gospodarstva in medijev. Živi v Londonu s svojim fantom in robotom, s katerim imajo, kot pravi, veliko opravka tudi njeni prijatelji in družina. V torek je v Ljubljani nagovorila udeležence na dogodku Future of Work, ki sta ga organizirala podjetniška skupnost CEED in Zavod Ypsilon.

Odraščala je v Radžastanu v Indiji, v zelo napredni družini, v kateri so jo, v nasprotju z dekleti v večini indijskih družin, nenehno spodbujali, naj raziskuje, naj si zastavlja cilje in jih skuša uresničiti. Že pri 15 letih je razvila svojega prvega robota, različni vidiki umetne inteligence, v kateri vidi brezmejno število možnost za izboljšanje življenja, pa so postali njeno osrednje zanimanje.

“Se zavedate, koliko odločitev o tem, kaj si želite, je danes namesto vas sprejela umetna inteligenca? Ko se prijavite v Facebook, algoritem odloči, kaj se vam bo prikazalo na časovnici. Ko iščete novo službo na LinkedInu, algoritem določi, kateri predlogi se vam bodo prikazali. Algoritmi nenehno sprejemajo odločitve o našem življenju,” pravi sogovornica.

Med drugim je vodja oddelka za umetno inteligenco pri podjetju Sage, ki razvija programsko opremo za manjša in srednje velika podjetja. Pred dvema letoma je opravila levji del razvoja pri Peggu, virtualnem poslovnem asistentu za podjetja, ki jim pomaga pri računovodstvu, upravljanju človeških virov in drugih vidikih poslovanja ter pozneje na podlagi zbranih podatkov in analize tudi svetuje, kako poslovanje izboljšati. “Dejstvo je, da majhna podjetja pogosto niso časovno učinkovita, saj se morajo ukvarjati z različnimi birokratskimi zadevami, namesto z razvojem. To smo želeli spremeniti. Pegg zdaj uporablja že več kot 100.000 podjetij, kar me zelo veseli,” pojasnjuje.

Kako dekle iz Radžastana pri 15 letih razvije svojega prvega robota, pri 30-ih pa je na čelu oddelka za umetno inteligenco v enem največjih britanskih podjetij za programsko opremo?
Odraščala sem v Radžastanu, kjer je veliko neenakosti, pravice žensk so še vedno v glavnem neuveljavljene, povprečen posameznik pa se poroči pri komaj 16 letih. Odraščala sem v družbi, kjer se ženske še vedno borijo za enakopravnost. Sama pa sem odraščala v družini, kjer so starši vedno kljubovali družbenim normam. Moja mama je bila novinarka, kar je bilo v 90. letih prejšnjega stoletja v tem predelu Indije velika posebnost. Odraščala sem v miselnosti, da lahko dosežem, kar želim, ker je vse mogoče.

Kako pa ste se srečali s svetom tehnologije in robotov?
Že zelo zgodaj sem se, po naključju sicer, srečala s tehnologijo. Brala sem različne knjige o računalnikih in si zamislila, da bi tudi sama razvila enega. In res mi je uspelo. S tem je že zelo zgodaj izginil ves strah pred tehnologijo.

Potem sem brala o robotih, ki so se začeli pojavljati, in sem pomislila, da bi lahko tudi sama razvila robota. In sem ga. Kar malce nerodno mi je povedati, toda bil je robot, ki je »lovil« oz. prinašal sladkarije s polic. Vsak dan je bil pametnejši, znal se je izogibati ljudem in drugim oviram. Tako sem se začela učiti o delovanju strojev in umetni inteligenci.

Ključno pri vsem pa je bilo, da sem začela razumevati, kako tehnologija in umetna inteligenca, kot je moj robot, lahko pomagata pri reševanju težav, ki obstajajo v moji okolici. Kako lahko, recimo, pomaga ženskam, da so varnejše na ulicah. Eden od projektov, s katerimi se trenutno ukvarjam, je pomagati dekletom in mladim ženskam v državah v razvoju, kot sta Južna Afrika in Indija, v primerih, ko jih nadlegujejo ali zlorabljajo oz. ko se počutijo ogrožene. Tehnologija lahko dejansko pomaga takrat, ko ljudje ne moremo. Naj razložim: če pogledate večino sveta, je tako, da je ena tretjina žensk žrtev zlorabe, bodisi v domačem okolju, bodisi v službenem okolju, bodisi na ulici. Pa vendar je število prijav zlorab izjemno nizko. K temu precej pripomore ravnanje vokolice, ko recimo žrtev zlorabe sprašujejo, kaj je rekla, kako je bila oblečena, s čim je "izzvala" neželeno ravnanje in podobno, zaradi česar je žrtev če dodatno zaznamovana in jo je sram. Odkrila sem, da ko se ženske zatečejo po pomoč k umetni inteligenci, pa teh predsodkov ni in je zato pomoč učinkovitejša. Stroji, v nasprotju z ljudmi, nikogar ne obsojajo. Tudi v tem torej vidim veliko moč umetne inteligence: v pomoči ženskam. To je moj cilj, torej razvoj umetne inteligence za pomoč pri reševanju različnih težav v družbi, ne pa razvoj umetne inteligence za naslednjo vojno ali novo orožje.

Če se vrnem k svojim koreninam. V moji osnovni šoli je bilo v razredu od 70 do 80 učencev, učitelj je imel zelo malo časa za posameznika. Ukvarjal se je s petimi najboljšimi učenci in z desetimi najslabšimi, vsi vmes so pa dejansko izviseli. Zdaj pa si predstavljajte, da obstaja robot tutor, ki bi se lahko posvetil vsakemu učencu in njegovim sposobnostim posebej. Ne gre za nadomestitev učitelja z robotom, ampak za podporo učitelju, za omogočanje posamezniku prilagojenega učenja. V tem vidim pomemben razvoj umetne inteligence.

Kako je potekalo vaše izobraževanje?
Kot že rečeno, sta mi bila zelo všeč razvijanje in izdelava različnih stvari. Imela sem srečo, da sem bila kot najstnica povabljena v vladni vesoljski laboratorij, kjer sem “spoznala” Alexo (Amazonova navidezna pomočnica) oz. eno njenih prvih različic. Strokovnjak, ki je bil tam, je računalniku dejal: Naredi to. In računalnik je to v simulaciji tudi res naredil. Bila sem naravnost očarana in sem si mislila: To hočem, to hočem imeti doma. Predstavljala sem si, kako bi lahko pomagal, recimo, moji babici, ki je imela težave v vidom. V tistem hipu sem jasno videla, kako bi lahko tehnologija olajšala oz. pomagala in sem se seveda tega želela naučiti. V tistem obdobju sem si želela, da bi imela takšno pomoč, recimo, enkrat v življenju, pa je bil potem razvoj res izjemno bliskovit oz. veliko hitrejši, kot sem si kdajkoli mislila.

Da nadaljujem zgodbo o izobraževanju. Obiskovala sem šolo za inženirje, še vedno v Radžastanu, in že takrat sem sodelovala v več razvojnih projektih. Potem sem dobila štipendijo za St. Andrews v Veliki Britaniji, pozneje pa sem bila sprejeta na doktorski študij na Oxford, a se nisem odločila zanj, temveč sem se raje odločila za delo v praksi oz. gospodarstvu.

Tako ste pristali potem v Londonu.
Da, moram reči, da imam izvrstne izkušnje. Ljudje so zelo odprti, in res imam srečo, da lahko uresničujem svoja prizadevanja, za katere mi je mar, kot je, recimo, digitalna enakost. Že zelo zgodaj v življenju sem videla, kako lahko umetna inteligenca in algoritmi spodbujajo predsodke. Recimo številni algoritmi so rasistični in seksistični. Vem, da se to sliši grozno, toda številni algoritmi, ki povezujejo delovna mesta in kandidate, se lahko “naučijo” predsodkov: tako moški dobivajo boljše plače, boljša delovna mesta … To ni prav, žal pa se to dogaja vsak dan. Moje razmišljanje je šlo v smeri, da moram naučiti stroje, da bodo prijaznejši (smeh).

Vedno poudarjate pomen etične umetne inteligence. Ko govorimo o umetni inteligenci, še vedno veliko ljudi najprej pomisli na robote, ki bodo nadomestili ljudi in jim “odžrli” delovna mesta, skratka jih je strah.
Veliko strahu glede ohranitve delovnih mest in tudi nadzora samega je neutemeljenega, kajti mi smo tisti, ki razvijamo te stroje. Kot otroci so: naučiti jih je treba osnovnih veščin, jim privzgojiti vrednote. Seveda pa moramo ob tem poskrbeti, da bodo razreševali izzive. Treba je delovati, ne pa se bati. Kot inženirki mi je to težko reči, toda treba je reči: razvijati je treba orodja za naše življenje, toda ne smejo jih razvijati le inženirji, temveč morajo sodelovati različni ljudje, od psihologov, politikov, pravnikov do filozofov, ki morajo sodelovati oz. združiti moči.

Velika težava v moji industriji je tudi spolna neuravnoteženost. V industriji je le od 15 do 17 odstotkov žensk, kar je zelo malo. Če pri razvoju novosti niso zastopani različni sestavni del družbe, je to težava.

Zadnjih 15 let je bilo obdobje, ko je družba zelo nekritično sprejemala tehnologijo, ki je prepredla naš vsakdan. Recimo družabnim omrežjem smo slepo zaupali, kar pa se zdaj spreminja, EU je uvedel GDPR, v ospredje prihaja varstvo potrošnika, ljudje se počutijo zelo ranljive in želijo poskrbeti za varovanje svoje zasebnosti. Kako se zdaj ta dva koncepta, velika uporaba in hkrati varovanje pravic, po vašem mnenju lahko srečata?
Živimo v zelo vznemirljivem obdobju. Mislim, da se bo naše dojemanje, kako razvijamo in kako uporabljamo tehnologijo, močno spremenilo. Predvsem se bo dvignila ozaveščenost o pomenu razvoja odgovorne in etične tehnologije. Vemo, da nas lahko rast sicer pripelje do določene točke, toda da bi skupnost res napredovala, je treba razvijati odgovorno tehnologijo, in to je treba narediti na pravi način. Pri tem igrajo ključno vlogo tri družbene skupine. Najprej so tu ljudje, ki razvijajo tehnologijo, poiskati je treba prave ljudi in partnerje. Potem so tu zakonodajalci in vlade, ki ne smejo zaostajati za napredkom, temveč se morajo hitro odzvati na spremembe. Potem pa so tu še potrošniki oz. uporabniki, ki postajamo vse bolj ozaveščeni glede svojih pravic. Umetna inteligenca naj bi nas naredila bolj produktivne in manj odvisne. Žal pa v praksi vidimo, da so ljudje vse bolj odvisni od tehnologije, kar je treba spremeniti.

Eno izmed pravil, ki bi ga morali upoštevati pri razvoju umetne inteligence, je, da je ne razvijamo, da bi nadomestila človeka. Vedno mora biti jasno, kdo je tvoj sogovornik na drugi strani: ali je to računalnik ali človek.

Razlike v razvoju sveta so velikanske: na eni strani boj za golo preživetje, na drugi strani izjemne možnosti za napredek in razvoj. Ali lahko umetna inteligenca v določenem obdobju, recimo še v času našega življenja, pomaga pri zmanjšanju tega prepada?
Ja, sem optimistka. V zadnjem času se ukvarjam s projektom, v katerem sodelujem z otroki, spodbujam jih k razvoju umetne inteligence z mislijo na družbo naše prihodnosti. Kar me zelo veseli je, da njihove ideje niso povezane z razvojem algoritmov, s katerimi bi recimo poenostavili uporabo oglasov, temveč želijo razrešiti različne praktične izzive, s katerimi se spopada družba. Pri tem pa je treba poudariti, da imamo veliko odgovornost, in sicer so potrebne spremembe v izobraževanju, ki bodo potem omogočili iskanje odgovorov na te izzive. Naslednjo generacijo je treba pripraviti na drugačne izzive, kot jih je imela naša.

Otroke je treba učiti, kako razreševati težave. MIslim, da bodo v prihodnje veščine še bolj pomembne. Kajti stroji so odlični pri avtomatizaciji, nimajo pa empatije, čustvene inteligence, ustvarjalnosti. To moramo spodbujati pri otrocih.

Sami ste že poudarili, kako malo žensk je v svetu tehnologije. Kako spremeniti miselnost, da ne spadajo vanjo? Kakšen nasvet bi jim dali?
Ni vam treba ves čas poslušati drugih. Ne skrbite, poskusite, tvegajte, možnosti je danes veliko več, kot pred recimo 15 leti. Takrat še spleta ni bilo. Danes je na voljo tako veliko informacij, svet se je odprl, še nikoli ni bilo tako lahko poiskati pomoči. Poiščite somišljenike. In razvijajte robote! (smeh)

Kje se vidite čez, recimo, 20 let?
Ujeli ste me nepripravljeno. Mislim, da bo v ospredju mojih prizadevanj še vedno boj za enakost med spoloma. Kar je v bistvu zelo žalostno. Kajti želela bi si, da to čez 20 let sploh ne bi bilo težava. Določen napredek je sicer že bil storjen, toda ostaja še vedno veliko dela.