Čeprav smo še daleč od dejanske robotske samozavesti, pa bo ta pomembno vplivala na to, kako jih bomo v prihodnosti sestavljali, piše New Scientist. V ta namen je ekipa na univerzi Kalifornije, Berkley razvila zanimiv eksperiment.

Preveč samozavestna umetna inteligenca namreč lahko povzroča kopico nevšečnosti, pravi Dylan Hadfield-Menell z omenjene univerze. Za primer da Facebookov algoritem, ki uporabnikom dostavlja novice. Te so takšne, ki naj bi jih uporabniki želeli videti in deliti. Vendar je brezkompromisno sledenje programskim vrsticam privedlo do tega, da je algoritem uporabnikom postregel tudi z neresničnimi novicami.

V poskusu so zato raziskovalci razvili matematični model sporazumevanja med ljudmi in roboti, imenovan igra izklopnega stikala. V tej igri robot dobi neko nalogo, človek pa lahko kadar koli sredi izvajanja naloge robota izklopi. Vendar pa ima robot tudi možnost, da ljudem izklop prepreči.

Samozavestni roboti, ki menijo, da opravljajo koristno nalogo, ljudem ne bi nikoli dovolili izklopa, saj bi želeli popolnoma izkoristiti čas za opravljanje naloge, obratno pa velja za nesamozavestnega robota, ki bi mu dovolili izklop na kateri koli točki. Najvarnejši roboti bodo znali najti ravnovesje med obema.

Okvire etike je treba postaviti že zdaj
Hadfield-Menell sicer meni, da ne bi smeli narediti premalo samozavestne umetne inteligence, in za primer navede samovozeče vozilo, ki prevaža otroka. Takšno vozilo ne bi smelo nikoli dovoliti otroku, da prevzame nadzor, pravi.

Čeprav se morda zdi, da razvijalci s tem nekoliko prehitevajo, ti poudarjajo, da se bodo morali roboti v prihodnosti odločati o človeških življenjih, zato je treba etični okvir začeti razvijati že zdaj. Hadfield-Menell si kot končni cilj sicer želi, da bi razvili umetno inteligenco, ki bi bila predvidljivejša in bolj preprosta za človeško razumevanje.