Visoka komisarka ZN-a za človekove pravice Michelle Bachelet je opozorila, da "imajo tehnologije umetne inteligence lahko katastrofalne učinke, če se uporabljajo brez zadostnega upoštevanja njihovega vpliva na človekove pravice". Pozvala je k oceni tveganja za pravice do zasebnosti, svobode gibanja in izražanja, ki ga lahko predstavljajo.

Po njenih besedah bi morale države prepovedati ali strogo regulirati tiste tehnologije, ki predstavljajo največjo nevarnost. Ob predstavitvi najnovejšega poročila na to temo je Bacheletova sicer priznala, da je potencial umetne inteligence v službi ljudi nesporno dejstvo.

"Toda takšne tehnologije prav tako lahko omogočijo kršitve v velikanskem obsegu. Moramo vzpostaviti omejitve, ki bodo omogočile varstvo človekovih pravic," je dodala.
V poročilu, ki ga je naročil Svet ZN-a za človekove pravice, je med drugim ugotovljeno, kako države in podjetja pogosto prehitro uvajajo tehnologije umetne inteligence, ne da bi ustrezno ocenile njihovo delovanje in vpliv.

Nepregledni načini

Poročilo poudarja, da se sistemi umetne inteligence opirajo na velike zbirke podatkov, pri čemer se informacije o ljudeh pogosto zbirajo, združujejo in analizirajo na nepregledne načine.

Tudi sami nabori podatkov so lahko napačni, diskriminatorni ali zastareli in tako prispevajo h kršitvam pravic, kot je denimo napačna označitev posameznika kot verjetnega terorista.

Poročilo navaja še, da se po vsem svetu vse pogosteje uporabljajo tudi tehnologije prepoznavanja obrazov v realnem času, kar bi lahko omogočilo neomejeno in nenadzorovano sledenje posameznikom in zlorabe podatkov.

"Ne moremo si privoščiti, da bi na področju umetne inteligence še naprej zaostajali, dovolili njeno uporabo brez omejitev in nadzora in se pozneje spopadali s skoraj neizogibnimi posledicami za človekove pravice," je še dejala Bacheletova.