Sistemi, kot je ChatGPT, pa bi morali opozoriti, da je vsebina nastala z umetno inteligenco.

Pravila, ki bodo urejala umetno inteligenco, bi glede na mnenje evropskih poslancev in poslank temeljila na ravni tveganja, od česar bi bile odvisne tudi obveznosti ponudnikov in uporabnikov, so sporočili iz Evropskega parlamenta.

Sistemi z nesprejemljivo ravnjo tveganja za varnost ljudi bi bili strogo prepovedani. To bi moralo veljati za vsiljive in diskriminatorne sisteme, kot so biometrični sistemi za identifikacijo na daljavo v realnem času na javno dostopnih mestih, pa tudi tovrstni sistemi za poznejšo identifikacijo.

Prepovedali bi še biometrične sisteme za razvrščanje na podlagi občutljivih lastnosti, kot so spol, rasa, etnična pripadnost, vera in politična usmeritev. Med prepovedane sisteme umetne inteligence bi poleg tega uvrstili sisteme za zaznavanje čustev pri organih pregona, upravljanju meja, na delovnih mestih in v izobraževalnih ustanovah. Prav tako bi prepovedali vsesplošno črpanje biometričnih podatkov z družbenih omrežij ali nadzornih kamer za ustvarjanje baz podatkov za prepoznavo obraza.

Evropski poslanci in poslanke se zavzemajo tudi za to, da bi med visoko tvegane sisteme vključili tiste, ki predstavljajo grožnjo za človekovo zdravje, varnost, temeljne pravice ali okolje. Prav tako menijo, da bi morali za visoko tvegane veljati sistemi za vplivanje na volivce v volilnih kampanjah.

Poslanci in poslanke so obenem v svoje stališče vključili obveznosti za ponudnike t. i. temeljnih modelov, pri katerih gre za velike modele umetne inteligence, ki se učijo na podlagi ogromnih količin neoznačenih podatkov. Oceniti bi morali tveganja za temeljne pravice, zdravje, varnost, okolje, demokracijo in vladavino prava ter jih omejiti. Poleg tega bi morali sisteme registrirati v bazi EU-ja.

Dodatne zahteve glede preglednosti

Generativni temeljni modeli, kot je ChatGPT, bi morali upoštevati še dodatne zahteve glede preglednosti, menijo poslanke in poslanci. Med drugim bi morali opozoriti, da je vsebina nastala z umetno inteligenco, model pa bi morali zasnovati tako, da ne bi ustvarjal nezakonitih vsebin.

Uporabniki pa bi v skladu s stališčem parlamenta imeli pravico do pritožbe glede sistemov umetne inteligence. Upravičeni bi bili tudi do razlag odločitev, sprejetih na podlagi visoko tveganih sistemov umetne inteligence.

Stališče so poslanci in poslanke na današnjem glasovanju potrdili s 499 glasovi za, 28 proti, 93 pa se jih je glasovanja vzdržalo.

Pogajanja z državami članicami, ki so svoje pogajalsko izhodišče sprejele že decembra lani, se bodo začela še danes, so zapisali v Evropskem parlamentu.