Zaradi kritik, da pretirava, poudarja, da bi morali tveganja v povezavi z umetno inteligenco obravnavati resneje.

Za odhod iz Googla po desetletju dela se je odločil, da bi lahko bolj prosto govoril o tveganjih umetne inteligence, potem ko je zagon orodja ChatGPT sprožil val širjenja rabe umetne inteligence na svetovni ravni.

"Preden bo umetna inteligenca pametnejša od nas, menim, da bi ljudi, ki jo razvijajo, morali spodbuditi, da veliko truda vložijo v razumevanje, kako bo morda poskušala in prevzela nadzor," je ugledni znanstvenik s področja umetne inteligence, ki sicer deluje na kanadski Univerzi v Torontu, pred dnevi dejal na mednarodni tehnološki konferenci Collision v Torontu.
"Trenutno se 99 zelo pametnih ljudi trudi narediti umetno inteligenco boljšo, le ena zelo pametna oseba pa poskuša ugotoviti, kako jo ustaviti pred tem, da bi prevzela nadzor – morda bi morali biti bolj uravnoteženi," je znanstvenik ponazoril trenutno stanje.

Ob tem zaradi kritik, da pretirava, poudarja, da bi morali tveganja v povezavi z umetno inteligenco obravnavati resneje. "Mislim, da je pomembno, da ljudje razumejo, da to ni znanstvena fantastika, da to ni vzbujanje strahu," je povedal in dodal, da je "to realno tveganje, o katerem moramo razmišljati in vnaprej ugotoviti, kako se z njim spopasti".

Hinton je obenem izrazil zaskrbljenost, da bi umetna inteligenca lahko poglobila neenakost, saj da bi rast produktivnosti od njene uporabe šla v korist bogatih, ne pa delavcev. "Bogastvo ne bo šlo k ljudem, ki opravljajo delo. Šlo bo v to, da bodo bogati še bogatejši, ne pa k revnejšim, to pa je zelo slabo za družbo," je dejal.

Težava lažnih novic

Opozoril je tudi na problematiko lažnih novic, ki jih ustvarjajo boti, ki uporabljajo podobno tehnologijo kot ChatGPT. Ob tem upa, da se bo lahko vse vsebine, ustvarjene z umetno inteligenco, ustrezno označilo.

"Ali to tehnično lahko naredimo, pa ne vem," je povedal.

Evropski parlament je sicer pred kratkim potrdil pogajalsko izhodišče o aktu o umetni inteligenci, v katerem se zavzema za strožji nadzor umetne inteligence. Med drugim bi morali sistemi umetne inteligence varovati zdravje, varnost, temeljne pravice in demokracijo. Sistemi, kot je ChatGPT, pa bi morali opozoriti, da je vsebina nastala z umetno inteligenco.

Na konferenci, na kateri je govoril Hinton, je sicer veliko pozornosti bilo namenjene priložnostim, ki jih prinašajo umetna inteligenca oziroma orodja, ki slonijo na tej tehnologiji, med katerimi je največ zanimanja požel ChatGPT.

Sarah Guo, ki se ukvarja z vlaganjem v zagonska podjetja, denimo meni, da je govorjenje o pogubnih posledicah umetne inteligence preuranjeno. Pri tem se je naslonila na izjavo, ki jo je pred časom podal Andre Ng, še en znani strokovnjak s področja umetne inteligence: češ da ga to, da bi umetna inteligenca postala zlobna, ne skrbi iz istega razloga, kot ga ne skrbi glede prenaseljenosti Marsa, na katerega niti nismo še stopili.

Na konferenci so sicer govorili tudi o tem, ali bodo aktualni velikani na področju generativne umetne inteligence – Microsoft z OpenAI in Google – tudi v prihodnosti ostali brez prave konkurence ali pa se bodo vendarle pojavili novi igralci, ki bodo s svojimi modeli in inovacijami še razširili to področje.