Meje preizkuša na lastni koži. Išiguro je izdelal na las podobno kopijo samega sebe, ki govori, mežika, ima naključne tike in kretnje, značilne za posameznika. Načrtuje, da ga bo kopija nekoč nadomestila.

Prvi koraki so že prehojeni. Profesor robotike je na pogostih svetovnih turnejah, kjer širi znanje o mehanskih kopijah mesenih bitij, poskusil preslepiti občinstvo s tem, da je namesto njega predaval njegov avatar, drugi jaz, robot Gemioid. Marsikoga v občinstvu je temeljito vznemiril, saj so bili prepričani, da bi robota lahko razlikovali od človeka.
Ko je profesorjevo podobo že malo načel zob časa, se je podvrgel plastični operaciji. Ceneje kot izdelava novega robota.
Išiguro prihaja iz dežele, kjer so androidi, torej roboti s človeško podobo, vse: od pravih popzvezd, "živih" lutk v izložbi, tolažiteljev v domovih za ostarele do spolnih in ljubezenskih sanj bolj samotarskih članov družbe.

Ko ima račun robota na Twitterju, ki ga sam upravlja, več milijonov sledilcev, "navaden" človek pa le nekaj sto, postaja očitno, da je robot v marsičem boljši, je dejal ob nedavnem obisku v Sloveniji.

"Jočem, ko sem žalosten, in smehljam se, ko sem srečen. Tako ko ti, tako kot kdor koli drug," v pesmi Heartbeat pravi japonska skazasedba Kemuri. Humanoidni roboti počnejo tudi to. Posegajo v zadnje okope tistega, kar pojmujemo kot pristno človeško, v čustva in čustveno inteligenco, ter pri marsikom zato vzbujajo neprijeten občutek ali še kaj več.

"Ali si res tako zelo želiš najti razliko?" se sprašuje Kemuri, profesor Išiguro pa: ali se res tako zelo želimo razlikovati od robotov? Ti postajajo del družbe in tako utegnejo sčasoma dobiti tudi lastne pravice.
Sam svoje androide vidi kot avatarje, kot fizično različico osebnega profila na Twitterju ali Facebooku. MMC-jevega pogovora se je udeležil prek Skypa, zato nismo mogli neposredno preveriti pristnosti človeškega bitja na drugi strani.

Da ima čustva in občutke, je kazala intuicija. In to je edino pravo merilo, pravi Išiguro. Imajo roboti zavest? Čustva? Se bodo ljudje z androidi poročali in ustvarili novo vrsto družine?
Vabljeni k branju intervjuja.

Profesor Išiguro, kaj vas pri robotih navdušuje?
Robot je ogledalo človeka. Ko ustvarjamo androida (človeku podobnega robota), se poglobimo v bistvo človeškega bitja in njegovih značilnosti. Zame je robot orodje za spoznavanje človeka kot takega, pa tudi samega sebe.
Vas to ogledalo, ta skupek kovin in plastike, lahko gane?
Vas zanima pogled raziskovalca ali uporabnika robotov?

Pogled človeškega bitja.
Pri nas ustvarjamo robote, ki morajo biti čim bolj podobni človeku. Ljudje smo čustveno občutljivi na lastnosti, ki na človeka spominjajo. Torej, ob pogledu na androida lahko vsakogar prevzamejo različna čustva.

Človeku podobni roboti torej v nas porajajo čustvovanje. Nekaj, kar njim primanjkuje. Za izdelavo lastnih robotov morate programsko reproducirati človeške čustvene odzive. Kako to poteka?
Kdo lahko to trdi? Kdo to zares ve? [premor] Kdo ve, da roboti ne premorejo čustev? In da ljudje jih?
Kdo ve?

Mi lahko objektivno prikažete svoja čustva? Svoje občutke?

V robotih ne vidimo pravih čustev zato, ker vemo, da smo njihove čustvene odzive sprogramirali. Pri ljudeh pa lahko ugibamo, da ...
... moje vprašanje je: Ali lahko dokažete ali prikažete objektivne funkcije občutka?

Res je, da tega na znanstveni način ne morem storiti, ampak ...
... ni ga znanstvenika, ki bi lahko to storil. Občutek je zelo subjektivna zadeva. Nemogoče ga je znanstveno dokazati. Vi lahko zatrdite: Jaz imam čustva. Enako lahko reče android zase. Ni razlike. Se strinjate?

Lahko vi dokažete obstoj čustev v robotih?
Pravkar ste postavili trditev, ne da bi zanjo razgrnili dokazov, brez prave potrditve. Spet, enako lahko stori android. Takšni ste, kot je android. Android je takšen kot vi.

Ko ustvarjate robota, napišete tudi algorimte za njegove čustvene odzive oz. za posnemanje človeških. Če je mogoče pojav, ki ga sami obravnavamo in dojemamo kot prava čustva, najti tudi v robotih, potem so očitno ti ujeti v svojih čustvenih prostranstvih, ne da bi kdor koli drug na svetu vedel za to.
Ustvarili smo tudi robote, namenjene gledališčem. Androidi so tam v vlogi igralcev. Odziv občinstva je povsod enak. Še vsak gledalec do zdaj je dejal: ta robot ima čustva. V tem primeru je človeško občinstvo začutilo čustva v robotu. Torej, roboti lahko čustvujejo.

Po tej logiki je torej ključ v subjektivnem človeškem dojemanju. Če mi ljudje v nečem zaznamo čustva, potem tam tudi zares so.
Da, mislim, da je tako. Enako lahko rečemo za zavest in um in tako naprej.

Če zavest v robotih obstaja, ali bi lahko z napredkom tehnologije nekoč v daljni prihodnosti združili človeka in stroj tudi z združitvijo njunih zavesti? Bi lahko ustvarili kolektivno zavest?
No, spet, nihče zares ne ve, kaj zavest pravzaprav je. Lahko le ugibamo na podlagi opazovanja vedenja drugih ljudi. Tako kot čustva in občutki je tudi zavest subjektiven pojav. Nihče zares ne ve, ali so ti pojavi med ljudmi enaki ali ne.

Robot je stroj, človek je organsko bitje. Morda nam bo nekoč uspelo izostriti in definirati mehaniko in pojave pri obeh na podlagi opazovanj. In če bomo zaznali enake pojave, je mogoče, da bi lahko tudi robot imel zavest, podobno človeški.

Torej je mogoče, da neke vrste zavest obstaja tudi v zdajšnjih računalniških "možganih" robotov. Le da je večina sveta ne dojema kot tako.
Mislim, da je veliko različnih možnosti. Čeprav so številni današnji roboti relativno preproste igrače, v njih že lahko zaznavamo podobnosti z živim bitjem in človekom samim. Ko bo tehnologija napredovala in bomo izdelovali precej bolj zapletene robote, bomo morda v njih zaznavali tudi tako zavest, kot jo ima človek.

Na svojem področju podirate meje in prodirate v neznano. Ste med tistimi ljudmi, ki pri razvoju robotov vidite najdlje in lahko posledično postavljate utemeljene domneve o daljni prihodnosti. Torej, že danes lahko vidimo, da marsikdo razvije zelo globoka čustva do robota ali androida. Bodo v prihodnosti ljudje lahko vstopali v razmerja z roboti ali se z njimi celo poročali?
[smeh] Da, mogoče. Na Japonskem imamo določeno družbeno skupino, katere pripadnike imenujemo 'otaku'. Ti obožujejo, ljubijo like iz animiranih serij in pogosto resno razmišljajo o porokah z njimi. Jasno, da lik iz risanke ali robot ne izvajata funkcije razmnoževanja. Otrok pač ne morejo spočeti. Kljub temu se z njimi veliko ljudi verjetno želi poročiti.

Če se z njimi želijo poročiti in če hkrati prihajajo na dan vse prepričljivejše robotske kopije ljudi, bomo morda priča pojavu novih oblik družine? Iz tega izhaja še veliko drugih vprašanj. Bi lahko roboti vzgajali otroke? Nadaljnji primeri: moški gre v tovarno androidov in naroči: izdelajte mi robotsko žensko, ki je videti tako in tako. Poročen par, moški in robotska ženska, morebiti s posvojenim otrokom. Ali pa, ženska z moškim robotom in otrokom iz epruvete? Ali mogoče celo z robotskim potomcem, ki bi ga ustvarili po viziji robotskega očeta?
Vedno bo določen delež posebnežev, ki si bodo tega želeli. Ampak to pač ni za vse; mislim, da bo to vedno omejeno na manjšinski delež družbe. Lahko ugibam, da bo z napredkom tehnologije v medicini vedno več ljudi želelo tudi robotske partnerje. Dopuščam to možnost, da se bo pojavila robotska vrsta družine, zares pa tega ne vem. Takšna razprava je zelo futuristična.

Vem pa, da lahko že danes osamljenost, ki je vse pogostejša težava, rešujemo s pomočjo robotov; recimo pri ostarelih ljudeh ali pri invalidih. Zanje lahko ustvarimo neke vrste družinskega robota.

Pravite, da neobstoja zavesti v robotih ne moremo dokazati. Obstaja pa skupnost, ki se s takšno trditvijo ne strinja. Te so prepričale ideje znanstvenika po imenu Ray Kurzweil in verjamejo v neizogibni prihod singularnosti. Čas, ko bo moč računalnikov dovolj brutalna, dovolj silna, da bo zmožna simulirati delovanje človeških možganov in zavest, bo šele prišel. Kaj vi menite o tej teoriji?
Če izberemo točno določeno nalogo, recimo reševanje kviza ali igranje šaha, se pri njej računalnik odreže precej bolje kot človek. IBM-ov računalnik Watson je pri kvizu Jeopardy pustil zadaj najboljše predstavnike človeštva.

Ampak, spet smo pri definiciji človeka. Pri definiciji človeškega. Imamo težavo: splošno veljavne definicije ni.

Tudi ljudje sami smo zelo različni. Če si zamislite posameznika, ki cele dneve preleži v postelji in se nikoli nikamor ne poda, in ga podate kot definicijo človeka, je računalnik neprimerno boljši ali vsaj dejavnejši. Isto velja, če vzamete zelo zelo mladega otroka ali zelo staro osebo. Spet, računalnik je boljši.

Zelo je težko odgovoriti na vaše vprašanje. V nekem smislu singularnost že obstaja. Če pa pogledamo z vidika definicije, kaj je človek, singularnosti nikoli ne bo.

Torej je osnovna težava, da ni enotne definicije.
Iskanje te definicije je osnovni cilj znanosti. To je naš smisel, to je naš namen na tem svetu.

Tehnološki velikan Google namerava v eni sami, ogromni bazi podatkov zbrati vse znanje človeštva. Vse, za kar vemo, da obstaja, vse, kar smo se naučili in videli. Če to gomilo znanja priklopimo na robota, ta hipoma preskoči proces učenja in zbiranja znanja, ki pri človeku traja vse življenje. So računalniki s tem v veliki prednosti?
Sama količina podatkov ni bistvena. Z njimi si računalnik lahko učinkovito pomaga pri kakšnem kvizu. Pomembnejše je, kako bi lahko to množico podatkov uporabili pri vsakodnevnih dejavnostih. Kako se lahko prilagajamo zapletenemu okolju, kako interpretiramo dražljaje številnih senzorjev in kako se prilagajamo resničnosti. Za to potrebujemo vajo, trening in procese prilagajanja. Količina podatkov tu nima prevladujoče vloge.

Tudi če v računalnik napeljemo tok ogromne količine podatkov, jih po vsej verjetnosti ne bo znal primerno uporabiti na način, kot bi jih lahko človeški um. Ljudje imamo izjemno zapletena telesa, zaznave in občutke.

Podatki so samo podatki. Če jih ne znamo uporabiti, potem niso koristni.

Tudi zaradi ljudi, kot ste vi, bodo računalniki in z njimi roboti zmožni koristno uporabiti vedno več podatkov. Zmogli bodo vse več opravil. Kako boste nanje gledali takrat in kako danes? Kot na konkurenco, pomoč ali kaj drugega?
Zame so roboti odsev človeštva v ogledalu. So orodje, s katerim človeštvo spoznava samo sebe.

Imam veliko prijateljev. V interakciji z njimi se veliko naučim. Ogromno se tudi naučim v interakciji z roboti. S tega zornega kota je robot partner, sodelavec.

Drži, da na Japonskem robote sprejemate precej topleje kot v "zahodnem" svetu?
Drži. Korenine odnosa izvirajo iz japonske vere, ki ne razlikuje med ljudmi in drugimi; ki tudi stvarem pripisuje dušo. Zato ne oklevamo pri ustvarjanju objektov in bitij, ki so nam podobni. Evropejci in Američani vzdržujete precej bolj jasno mejo med svetom ljudi in robotov.

Bomo nekoč v dokumentih Združenih narodov videli ne le človekove, temveč tudi robotove pravice?
Pravice podeljuje družba, ne znanstveniki. Vedno je družba tista, ki se odloči neki skupini ljudi ali drugih bitij podeliti pravice. Tako kot so se v ZDA odločili pravice podeliti temnopoltim, utegnejo biti nekoč del podobnega procesa roboti.

Androidi so lahko zelo podobni človeku in s tem, ko bodo postali del naših družin, ko bodo postali naši prijatelji, jim bomo verjetno podelili tudi neke vrste pravice.

Zelo zanimiv košček v kolažu vaših del je robotska kopija znanega, že pokojnega japonskega pripovedovalca zgodb. Robot njegovo umetnost nadaljuje.
Pripovedovanje zgodb je neke vrste tradicionalna japonska predstava, in robot je pri tem opravilu kar uspešen. Na neki način gre za digitalno arhiviranje, ohranjanje pomembne zapuščine za prihajajoče generacije, ki navadno tradicije ne poznajo. Android običajnemu arhivu doda fizično človeško prisotnost in pri občinstvu ustvari skoraj pristno kulturno doživetje.

Torej, katere pravice mu pripadajo?
[smeh] Pojma nimam. Ni ravno zadosten primerek za neke pravice. Je neke vrste kulturni narodni zaklad. Ni samo robot. Ljudje se ga na predstavah želijo dotakniti, mu izkazati spoštovanje.

Ko potujete po zemeljski obli in ko vas ljudje, kot sem jaz, intervjuvajo: kaj vam povedo njihova vprašanja? Kaj se da iz njih razbrati - strah in zavračanje ali sprejemanje in pozitiven odnos do androidov?
Odnos je na splošno pozitiven. Vaša vprašanja po mojem mnenju tudi kažejo na precej pozitiven odnos do družbe z roboti in pričakovanje boljših tehnologij v dobro človeštva.

Lahko si sicer predstavljamo nekakšen strašen svet robotov, a večina spraševalcev po mojem mnenju pričakuje predvsem dobre posledice. Iskreno, nisem še imel negativnega intervjuja.

Na področju bionike smo priča izjemnemu napredku. Vse več ljudi nosi visokotehnološke proteze namesto manjkajočih udov; proteze, ki zaznavajo signale iz možganov in jih pretvorijo v gibanje mehanskega podaljška. Imamo ljudi, ki pod kožo iz različnih vzrokov nosijo čipe. Na neki način so kiborgi torej že med nami in pričakovati je, da se bo pojav širil. Profesor Išiguro, je tak potek dogodkov treba sprejeti ali se ga bati? Ali pravzaprav sploh imamo izbiro?
Izbrali smo že. Visokotehnološki mehanski udi in podaljški postajajo običajni. Ne razumem, česa bi se pravzaprav morali bati. Vzemimo avtomobile. Tudi avtomobili so na neki način podaljški naših teles, ki nam lahko precej izboljšajo kakovost življenja. Tehnologija nam življenje izboljšuje. Avtomobili, proteze, umetni organi, vse to in še več nam omogoča, da presežemo naravne omejitve organskih teles. Svoje človeške zmogljivosti lahko precej okrepimo.

Tako smo pravzaprav sploh preživeli na tem svetu. S tehnologijo maksimiziramo naše zmožnosti. Ni se nam je treba bati. Je naš namen.

Ne pozabimo temnih plati tehnologije. Roboti in računalniki lahko ubijajo. Različne vojske sveta razvijajo neodvisne ubijalne robotske sisteme. Te vojske nameravajo ustvariti takšnega bojnega robota, da bo lahko sam sprejel odločitev in človeku vzel življenje - ali pa ga pustil dihati. Niso samo proteze, niso samo roboti, ki tolažijo ostarele. Obstaja tudi povsem drug tok raziskav, ki pelje do, preprosto povedano, vojsk robotov ubijalcev. Kako gledate na to plat zgodbe?
Tudi ta plat zgodbe je vaša, človeška stvaritev. Ustvariš lahko tudi takšnega robota, ki sploh ne bo sam sprejemal odločitev.

Po drugi strani robotski in računalniški sistemi, ki sprejemajo odločitve, seveda že obstajajo. Poglejte samo borzo. Na njej kraljujejo računalniki, ki izvajajo milisekundne, visokohitrostne operacije trgovanja z delnicami. Na delu ni človek. Nadomestil ga je računalnik, ki ta posel opravi bolje in predvsem veliko, veliko hitreje. Torej, sprejemanje odločitev pri računalnikih je naš vsakdan, in ne vojaška ekskluziva.

Ključno vprašanje je: kdo je napisal program? Napisal ga je človek, in on je izvor odločitev, ki jih potem sprejema računalnik. Nam to ni všeč? Izklopimo stikalo. Mi smo tisti, ki imamo nadzor.

Težava presega osnove sprejemanja odločitev in sivih las pri trgovanju z delnicami. Do zdaj so robotski ubijalni sistemi dejansko potrebovali človekovo odobritev, preden so se lahko sprožili in nekoga ubili. Novi sistemi bodo delovali tudi brez te zelene luči. Tudi Združeni narodi so zagrizli v to očitno perečo tematiko.
Še vedno: kdo je izdelal računalnik? Človek. Če nam ni všeč, lahko sistem izklopimo. Stroji bodo postajali vse bolj neodvisni, a še vedno jih bomo lahko zlahka nadzirali. Spet, vzemimo primer avtomobilov. Razvoj jih je pripeljal do točke, ko so nekateri modeli lahko skoraj povsem neodvisni. Pa kljub temu verjamemo, da imamo nadzor v svojih rokah, tudi če je na delu avtomatiziran sistem vožnje. Isto velja za omenjene vojaške sisteme.

Poudariti moram pravo bistvo. Poudariti moram tisto, kar sam vidim kot ključno sporočilo. Najpomembnejše je razumeti samega sebe in človeštvo. Kaj je človek? Mojega dela se ne da posplošiti samo na izdelavo robota.

Resnično verjamem, da naš namen ni služenje denarja, ni ubijanje drugih ljudi, temveč razumeti drug drugega in spoznati, kaj sploh smo.