Obvestila

Ni obvestil.

Obvestila so izklopljena . Vklopi.

Kazalo

Predlogi

Ni najdenih zadetkov.


Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

MMC RTV 365 Radio Televizija mojRTV × Menu

Bomo znali umetno inteligenco naučiti spoštovati človekove pravice?

10.02.2021

Tehnologije umetne inteligence doživljajo eksponentno rast. Preoblikujejo svet, v katerem živimo in tudi to, kako ga doživljamo, saj konec koncev prav algoritmi umetne inteligence določajo, katere vsebine na spletu bi nas utegnile najbolj zanimati in tako v pomembni meri soustvarjajo naš pogled na svet. Umetna inteligenca se naglo uvaja na nova in nova področja, v gospodarstvu jo srečamo pod krovno oznako industrija 4.0. Z njeno pomočjo se marsikje že izbira nove kadre, oblikuje zavarovanja, trguje na borzah in napoveduje prihodnje trende, naj gre za gospodarske kazalce ali razvoj pandemije, pa tudi prihodnje vedenje ljudi. Tako Združene države Amerike kot Kitajska ogromno vlagajo v to ključno tehnologijo, vsaka s svojimi prioritetami in posledicami za družbo. Kako do etične umetne inteligence? Evropska unija si v tem kontekstu prizadeva za razvoj umetne inteligence, ki bi jo odlikovalo prav upoštevanje etičnih vidikov in človekovih pravic. Slovenija se aktivno vključuje v evropska prizadevanja in želi čim bolj izkoristiti znanje, ki ga na tem področju ima. Pripravljen je Nacionalni program spodbujanja razvoja in uporabe umetne inteligence do leta 2025, ki čaka na potrditev na vladi. Na ministrstvu za javno upravo so v torek, 9. februarja 2021 organizirali spletno okroglo mizo, na kateri so se posvetili spoštovanju etičnih načel in zagotavljanju človekovih pravic pri razvoju umetne inteligence. "To je dokazano dejstvo. Imamo nekatere škodljive uporabe, na katere se moramo odzvat, " je poudaril dr. Aleš Završnik z Inštituta za kriminologijo pri Pravni fakulteti. "Škodljive za človekove pravice, za demokratične strukture in procese in za pravno državo. " "Etika tehnologije je neke vrste poskus družbenega dogovora, " je poudaril filozof dr. Luka Omladič. "Pokus družbe ali ima lahko kontrolo nad tehnologijo, za katero se zdi, da deluje sama od sebe. " "Upravljanje s podatki je temelj umetne inteligence," je opozorila dr. Maja Bogataj Jančič, vodja Inštituta za intelektualno lastnino. Maja Bogataj Jančič, vodja Inštituta za intelektualno lastnino. "Lahko da velja, da je umetna inteligenca toliko etična, kot je tisti, ki so ustvarja. Pri tem je tisti, ki jo ustvarja, tudi tisti, ki izbira in pripravlja podatke, na katerih se bodo mašine učile." Medtem ko etika nudi ključne smernice za uspešno sobivanje človekovih svoboščin in umetne inteligence, zgolj etične smernice ne zadoščajo za uspešno določanje okvirov, znotraj katerih naj se tehnologije razvijajo in uporabljajo. Za to je nujen čimprejšnji zakonski okvir. "Glavno tveganje danes je, da smo perfekcionistični, da skušamo iskati neke definicije pri tehnologiji, ki se šele razvija,« je izpostavil predsednik ad hoc odbora Sveta Evrope za umetno inteligenco dr. Gregor Strojin. "Osredotočiti se moramo na realne rizike, ki obstajajo zdaj, na odgovornost držav in iz tega izhajati. " Foto: Pixabay

Današnje rabe umetne inteligence pogosto krčijo svoboščine, posegajo v zasebnost in poglabljajo neenakosti. Evropska unija stavi, da lahko ta trend spremeni.

Tehnologije umetne inteligence doživljajo eksponentno rast. Preoblikujejo svet, v katerem živimo, in tudi to, kako ga doživljamo, saj konec koncev prav algoritmi umetne inteligence določajo, katere vsebine na spletu bi nas utegnile najbolj zanimati in tako v pomembni meri soustvarjajo naš pogled na svet.

Umetna inteligenca se naglo uvaja na nova in nova področja, v gospodarstvu jo na primer srečamo pod krovno oznako industrija 4.0. Z njeno pomočjo se marsikje že izbira nove kadre, oblikuje zavarovanja, trguje na borzah in napoveduje prihodnje trende, naj gre za gospodarske kazalce ali razvoj pandemije, pa tudi prihodnje vedenje ljudi. Tako Združene države Amerike kot Kitajska ogromno vlagata v to ključno tehnologijo, vsaka s svojimi prioritetami in posledicami za družbo.

Kako do etične umetne inteligence?

Evropska unija si v tem kontekstu prizadeva za razvoj umetne inteligence, ki bi jo odlikovalo prav upoštevanje etičnih vidikov in človekovih pravic. Slovenija se aktivno vključuje v evropska prizadevanja in želi čim bolj izkoristiti znanje, ki ga na tem področju ima.

Pripravljen je Nacionalni program spodbujanja razvoja in uporabe umetne inteligence do leta 2025, ki čaka na potrditev na vladi. Na Ministrstvu za javno upravo so v torek, 9. februarja 2021 organizirali spletno okroglo mizo, na kateri so se posvetili spoštovanju etičnih načel in zagotavljanju človekovih pravic pri razvoju umetne inteligence.

Škoda je znana, problema se je treba lotiti

"To je dokazano dejstvo. Imamo nekatere škodljive uporabe, na katere se moramo odzvati, " je poudaril dr. Aleš Završnik z Inštituta za kriminologijo pri Pravni fakulteti. "Škodljive za človekove pravice, za demokratične strukture in procese in za pravno državo. "

"Etika tehnologije je neke vrste poskus družbenega dogovora, " je poudaril filozof dr. Luka Omladič. "Pokus družbe, ali ima lahko kontrolo nad tehnologijo, za katero se zdi, da deluje sama od sebe. "

"Upravljanje s podatki je temelj umetne inteligence," je opozorila dr. Maja Bogataj Jančič, vodja Inštituta za intelektualno lastnino. "Lahko da velja, da je umetna inteligenca toliko etična, kot je tisti, ki so ustvarja. Pri tem je tisti, ki jo ustvarja, tudi tisti, ki izbira in pripravlja podatke, na katerih se bodo mašine učile."

Ključna bo zakonodaja

Medtem ko etika nudi temeljne smernice za uspešno sobivanje človekovih svoboščin in umetne inteligence, zgolj etične smernice ne zadoščajo za uspešno določanje okvirov, znotraj katerih naj se tehnologije razvijajo in uporabljajo. Za to je nujen čimprejšnji zakonski okvir.

"Glavno tveganje danes je, da smo perfekcionistični, da skušamo iskati neke definicije pri tehnologiji, ki se še razvija,« je izpostavil predsednik ad hoc odbora Sveta Evrope za umetno inteligenco dr. Gregor Strojin. "Osredotočiti se moramo na realne rizike, ki obstajajo zdaj, na odgovornost držav in iz tega izhajati. "


Aktualna tema

4477 epizod


Aktualne oddaje, ki jih v programu Prvega lahko slišite izven terminov rednih oddaj. Terenska oglašanja, reportaže, pogovori, utrinki od tam, kjer je aktualno!

Bomo znali umetno inteligenco naučiti spoštovati človekove pravice?

10.02.2021

Tehnologije umetne inteligence doživljajo eksponentno rast. Preoblikujejo svet, v katerem živimo in tudi to, kako ga doživljamo, saj konec koncev prav algoritmi umetne inteligence določajo, katere vsebine na spletu bi nas utegnile najbolj zanimati in tako v pomembni meri soustvarjajo naš pogled na svet. Umetna inteligenca se naglo uvaja na nova in nova področja, v gospodarstvu jo srečamo pod krovno oznako industrija 4.0. Z njeno pomočjo se marsikje že izbira nove kadre, oblikuje zavarovanja, trguje na borzah in napoveduje prihodnje trende, naj gre za gospodarske kazalce ali razvoj pandemije, pa tudi prihodnje vedenje ljudi. Tako Združene države Amerike kot Kitajska ogromno vlagajo v to ključno tehnologijo, vsaka s svojimi prioritetami in posledicami za družbo. Kako do etične umetne inteligence? Evropska unija si v tem kontekstu prizadeva za razvoj umetne inteligence, ki bi jo odlikovalo prav upoštevanje etičnih vidikov in človekovih pravic. Slovenija se aktivno vključuje v evropska prizadevanja in želi čim bolj izkoristiti znanje, ki ga na tem področju ima. Pripravljen je Nacionalni program spodbujanja razvoja in uporabe umetne inteligence do leta 2025, ki čaka na potrditev na vladi. Na ministrstvu za javno upravo so v torek, 9. februarja 2021 organizirali spletno okroglo mizo, na kateri so se posvetili spoštovanju etičnih načel in zagotavljanju človekovih pravic pri razvoju umetne inteligence. "To je dokazano dejstvo. Imamo nekatere škodljive uporabe, na katere se moramo odzvat, " je poudaril dr. Aleš Završnik z Inštituta za kriminologijo pri Pravni fakulteti. "Škodljive za človekove pravice, za demokratične strukture in procese in za pravno državo. " "Etika tehnologije je neke vrste poskus družbenega dogovora, " je poudaril filozof dr. Luka Omladič. "Pokus družbe ali ima lahko kontrolo nad tehnologijo, za katero se zdi, da deluje sama od sebe. " "Upravljanje s podatki je temelj umetne inteligence," je opozorila dr. Maja Bogataj Jančič, vodja Inštituta za intelektualno lastnino. Maja Bogataj Jančič, vodja Inštituta za intelektualno lastnino. "Lahko da velja, da je umetna inteligenca toliko etična, kot je tisti, ki so ustvarja. Pri tem je tisti, ki jo ustvarja, tudi tisti, ki izbira in pripravlja podatke, na katerih se bodo mašine učile." Medtem ko etika nudi ključne smernice za uspešno sobivanje človekovih svoboščin in umetne inteligence, zgolj etične smernice ne zadoščajo za uspešno določanje okvirov, znotraj katerih naj se tehnologije razvijajo in uporabljajo. Za to je nujen čimprejšnji zakonski okvir. "Glavno tveganje danes je, da smo perfekcionistični, da skušamo iskati neke definicije pri tehnologiji, ki se šele razvija,« je izpostavil predsednik ad hoc odbora Sveta Evrope za umetno inteligenco dr. Gregor Strojin. "Osredotočiti se moramo na realne rizike, ki obstajajo zdaj, na odgovornost držav in iz tega izhajati. " Foto: Pixabay

Današnje rabe umetne inteligence pogosto krčijo svoboščine, posegajo v zasebnost in poglabljajo neenakosti. Evropska unija stavi, da lahko ta trend spremeni.

Tehnologije umetne inteligence doživljajo eksponentno rast. Preoblikujejo svet, v katerem živimo, in tudi to, kako ga doživljamo, saj konec koncev prav algoritmi umetne inteligence določajo, katere vsebine na spletu bi nas utegnile najbolj zanimati in tako v pomembni meri soustvarjajo naš pogled na svet.

Umetna inteligenca se naglo uvaja na nova in nova področja, v gospodarstvu jo na primer srečamo pod krovno oznako industrija 4.0. Z njeno pomočjo se marsikje že izbira nove kadre, oblikuje zavarovanja, trguje na borzah in napoveduje prihodnje trende, naj gre za gospodarske kazalce ali razvoj pandemije, pa tudi prihodnje vedenje ljudi. Tako Združene države Amerike kot Kitajska ogromno vlagata v to ključno tehnologijo, vsaka s svojimi prioritetami in posledicami za družbo.

Kako do etične umetne inteligence?

Evropska unija si v tem kontekstu prizadeva za razvoj umetne inteligence, ki bi jo odlikovalo prav upoštevanje etičnih vidikov in človekovih pravic. Slovenija se aktivno vključuje v evropska prizadevanja in želi čim bolj izkoristiti znanje, ki ga na tem področju ima.

Pripravljen je Nacionalni program spodbujanja razvoja in uporabe umetne inteligence do leta 2025, ki čaka na potrditev na vladi. Na Ministrstvu za javno upravo so v torek, 9. februarja 2021 organizirali spletno okroglo mizo, na kateri so se posvetili spoštovanju etičnih načel in zagotavljanju človekovih pravic pri razvoju umetne inteligence.

Škoda je znana, problema se je treba lotiti

"To je dokazano dejstvo. Imamo nekatere škodljive uporabe, na katere se moramo odzvati, " je poudaril dr. Aleš Završnik z Inštituta za kriminologijo pri Pravni fakulteti. "Škodljive za človekove pravice, za demokratične strukture in procese in za pravno državo. "

"Etika tehnologije je neke vrste poskus družbenega dogovora, " je poudaril filozof dr. Luka Omladič. "Pokus družbe, ali ima lahko kontrolo nad tehnologijo, za katero se zdi, da deluje sama od sebe. "

"Upravljanje s podatki je temelj umetne inteligence," je opozorila dr. Maja Bogataj Jančič, vodja Inštituta za intelektualno lastnino. "Lahko da velja, da je umetna inteligenca toliko etična, kot je tisti, ki so ustvarja. Pri tem je tisti, ki jo ustvarja, tudi tisti, ki izbira in pripravlja podatke, na katerih se bodo mašine učile."

Ključna bo zakonodaja

Medtem ko etika nudi temeljne smernice za uspešno sobivanje človekovih svoboščin in umetne inteligence, zgolj etične smernice ne zadoščajo za uspešno določanje okvirov, znotraj katerih naj se tehnologije razvijajo in uporabljajo. Za to je nujen čimprejšnji zakonski okvir.

"Glavno tveganje danes je, da smo perfekcionistični, da skušamo iskati neke definicije pri tehnologiji, ki se še razvija,« je izpostavil predsednik ad hoc odbora Sveta Evrope za umetno inteligenco dr. Gregor Strojin. "Osredotočiti se moramo na realne rizike, ki obstajajo zdaj, na odgovornost držav in iz tega izhajati. "


27.04.2022

Zgodovinar Janko Prunk in medvojno dogajanje na Slovenskem

Janko Prunk je bil eden prvih slovenskih zgodovinarjev, ki so se po drugi svetovni vojni začeli ukvarjati s katoliško politiko na Slovenskem. Svojo vlogo v zgodovinopisju je dokončno napovedal z doktorsko disertacijo o krščanskih socialistih med obema vojnama. Ta je pred 45 leti izšla v knjigi Pot krščanskih socialistov v Osvobodilno fronto slovenskega naroda. To je bil čas, ko smo si tudi Slovenci z uporom proti okupatorju pridobili ugled v mednarodni skupnosti, hkrati pa spoznali tisto, kar je Edvard Kocbek septembra 1945 strnil v zapis, da je slovenski narod v osvobodilnem boju spoznal tri nasprotnike: okupatorja, klerikalizem in ekskluzivnost kompartije …. Dr. Janko Prunk je nedavno svojemu raziskovalnemu delu dodal še literarni prvenec – roman Iskanje pristana, v katerem se prav tako srečuje s tematiko druge svetovne vojne na Slovenskem. Pred mikrofon ga je povabil Stane Kocutar.


27.04.2022

Strah je ena izmed vse bolj poudarjenih čustvenih resničnosti današnjega časa

Strah je ena izmed vse bolj poudarjenih čustvenih resničnosti današnjega časa in se kaže v različnih oblikah ter občutno vpliva na naše doživljanje, vedenje ter zaznavo smisla. Pogovor s predsednikom Slovenskega društva za logoterapijo Logos mag. Martinom Liscem,


27.04.2022

Ob stoletnici Nade Tarman – najbrž najstarejše slovenske radijke

Ljubljančanka Nada Tarman, ki je 2. aprila dopolnila 100 let, se je rodila na Ohridu, kjer je njen oče služboval kot puškarski mojster. Njeno življenje je v največjem delu povezano z Ljubljano, kjer se je že na začetku okupacije vključila v odporniško gibanje. Sredi meseca aprila 1945 so dekleta iz partizanskih vrst pozvali na avdicijo, ki jo je pripravil Radio Osvobodilne fronte (ROF). Nadin govor je bil odlično ocenjen. Prve dni po osvoboditvi je delovala v Ljubljani, nato pa je s tedanjim upravnikom Radia Ljubljana Antejem Novakom odšla v Celovec ter od tam v Maribor, kjer je za nekaj mesecev prevzela vodenje novoustanovljenega Radia Maribor. Na tisti čas Nado Tarman še danes spominja nekaj dobro ohranjenih fotografij, med njimi tista s podobo lepe 23 - letne črnolaske v britanski vojaški bluzi in križcem, ki jo je neznani fotograf posnel v radijskem studiu na Koroški cesti 19 v Mariboru.


26.04.2022

Krajinska parka Strunjan in Debeli rtič skupaj z gostinci in prebivalci zmanjšujeta morske odpadke

Krajinska parka Strunjan in Debeli rtič skupaj z gostinci in prebivalci zmanjšujeta morske odpadke. Največ je še vedno plastičnih. Na prvem mestu so cigaretni ogorki, ki jim sledi plastika za enkratno uporabo. Zanimivo pri tem je, da je vzdolž obale več odpadkov pozimi, kot poleti ugotavljajo v Krajinskem parku Strunjan, kjer so dopoldan predstavili akcijski načrt za zmanjševanje odpadkov in izzive, ki jih prinaša uvajanje alternativnih kozarcev in drugega pribora. Poroča Lea Širok.


26.04.2022

Pridobivanje ustrezno usposobljenega kadra je naloga vseh – politike, izobraževalnega sistema in gospodarstva

Problematika pomanjkanja kadra se med drugim kaže v premajhnem številu diplomantov za IKT poklice in premajhnem številu vpisnih mest na univerzitetne programe za digitalne poklice, kar je tudi posledica neobveznega predmeta Računalništva in informatike v osnovnih in srednjih šolah.


26.04.2022

Komentar: Nezaupnica Janši, odgovornost Golobu

Na državnozborskih volitvah so volivke in volivci v prvi vrsti izrazili nezaupnico vladi Janeza Janše z največjo vladno strank SDS na čelu. To potrjuje izjemno visoka volilna udeležba in taktično glasovanje, zaradi katerega je Gibanje Svoboda, novinka na političnem prizorišču pod vodstvom Roberta Goloba, zmagala z naskokom, žrtve množičnega zavračanja poražene SDS pa so tudi stranke opozicijske alternative KUL.


25.04.2022

Nevladna kultura v pričakovanju nove vlade

Volitve so budno spremljali tudi umetnice in umetniki in ostali kulturni ustvarjalci. Ni skrivnost, da z ministrovanjem Vaska Simonitija, kljub rekordnemu proračunu za kulturo, niso bili zadovoljni. Največ prahu je dvigovalo razdeljevanje sredstev na javnih razpisih, kadrovanje in pogosto, tako kulturniki, zaničljiv odnos do resorja. Miha Žorž je o obetih in pričakovanjih za prihodnje povprašal nekaj ustvarjalk in ustvarjalcev s področja neodvisne umetniške scene.


25.04.2022

Prednostna področja Gibanja Svoboda

Kdo bo v vladi in kdaj bomo vlado dobili, pa tudi, kaj bodo njene prve naloge?


25.04.2022

Povolilna epizoda: Umetnost možnega v živo

Izjemoma v živo na Prvem. Aleš Kocjan in Tanja Starič komentirata rezultate parlamentarnih volitev. Vsake volitve so novo presenečenje, tokrat pa smo zabeležili tudi zelo visoko volilno udeležbo. Kar je dobro za demokracijo, pa je zoprno za majhne stranke. Za vstop v Državni zbor morajo namreč zbrati bistveno več glasov.


25.04.2022

Reportaža volitve

Včerajšnje parlamentarne volitve je zaznamovala zmaga nove stranke Gibanje Svoboda, v Cvetličarni, kjer so praznovali svojo zmago, je bilo bučno. Slovenska demokratska stranka volitev ni komentirala iz svojega sedeža, v štabu NSi-ja pa so povedali, da je tretje mesto za njihovo stranko dober rezultat. Tudi v Levici so si zagotovili mesto v parlamentu, vzdušje pa je bilo v štabu vseskozi napeto. 


24.04.2022

Posebna večerna volilna oddaja, 2. del

Parlamentarne volitve 2022. Izjave iz štabov strank in iz medijskega središča Državne volilne komisije


24.04.2022

Posebna večerna volilna oddaja, 1. del

Z gosti v studiu in novinarji na terenu analiziramo in komentiramo rezultate. Gosti: politologa Tomaž Deželan in Miro Haček, ustavni pravnik Igor Kaučič in ekonomist Marko Pahor.


24.04.2022

"V današnje vzporedne volitve je vključenih prek 200 ljudi"

Direktorica mednarodnega Inštituta za raziskovanje trga in medijev Mediana Janja Božič Marolt o poteku vzporednih volitev.


24.04.2022

Prvi rezultati in vtisi iz štabov strank

Prvi izidi vzporednih volitev, ki jih je za RTV Slovenija opravila Mediana, in sicer na 125-i voliščih. Novinarji so se javili iz štabov strank Gibanje Svoboda, SDS, NSi, SD, Levica, LMŠ, Povežimo Slovenijo, SAB in medijskega središča Državne volilne komisije.


22.04.2022

Volilni molk

Volilni dan je vse bližje, 10. parlamentarne volitve v samostojni državi so pred vrati. Stranke imajo danes še zadnjo možnost prepričati volivce, naj v nedeljo obkrožijo prav njihovo listo in njihove kandidate. Opolnoči se začne volini molk. Kaj to pomeni?


22.04.2022

Rodovitnost zemlje

Svetovno gibanje "Rešimo prst" ima tudi pri nas vedno več privržencev, ki opozarjajo, da je potrebno nemudoma poskrbeti za drugačno ravnanje z zemljo/prstjo, saj jo vse bolj siromašimo. Po nekaterih ocenah bomo - če nadaljujemo s takim ravnanjem kot doslej - imeli na svetu le še 60 žetev, preden prst postane nerodovitna. Razmere v Sloveniji so zaradi intenzivnega kmetovanja in industrije še bolj zaskrbljujoče.


22.04.2022

Dan Zemlje

Od svojih začetkov leta 1970 je Dan Zemlje postal letni poziv k zaščiti in upoštevanju blaginje planeta, na katerem živimo. Vendarskrb za planet zahteva več kot le en dan.


21.04.2022

Letno zavržemo 68 kilogramov hrane na prebivalca

V svetu zavržemo tretjino proizvedene hrane, po drugi strani pa računamo na to, da bo treba do leta 2050 proizvodnjo hrane povečati za 70%, da bi nahranili povečano število prebivalcev. Hrana, ki jo letno zavržemo, je pridelana na 30 odstotkih vseh razpoložljivih pridelovalnih površin opozarjajo v društvu Ekologi brez meja. Zavržena hrana je vseobsegajoča težava, Slovenci smo v zadnjih letih zabojnike za odpadke napolnili z okoli 140 tisoč ton hrane, pa tudi z milijoni kubičnih metrov pitne vode, z desetimi odstotki proizvedene energije, kar znaša okoli 355 milijonov evrov denarja.


21.04.2022

Francija pred drugim krogom predsedniških volitev

V Franciji bo v nedeljo za približno 49 milijonov volilnih upravičencev potekal drugi krog predsedniških volitev, v katerem se bosta tako kot pred petimi leti pomerila kandidatka skrajne desnice Marine Le Pen in predsednik Emmanuel Macron. Razlika med njima je veliko bolj tesna kot na zadnjih volitvah, Macron bi po javnomnenjskih raziskavah zbral 54%, Le Penova pa 46 % glasov. Koliko so v francoski predvolilni kampanji prisotne evropske teme in kaj bi morebitna zmaga Le Penove pomenila za Evropsko unijo, pa v prispevku bruseljske dopisnice Mojce Širok.


21.04.2022

Zveza paraplegikov Slovenije praznuje 53 let

Zveza paraplegikov Slovenije je danes, ob svoji 53. obletnici ustanovitve, v Domu paraplegikov v Pacugu pripravila slavnostno skupščino in strokovno okroglo mizo z naslovom »Izzivi paraplegije – Enakopravna obravnava ran«. Rane zaradi pritiska, znane tudi kot preležanine, so pogost zaplet v življenju paraplegikov in tetraplegikov. S kakšnimi težavami se še srečujejo paraplegiki in tetraplegiki v vsakdanjem življenju in kakšne sistemske rešitve bi bile potrebne – o tem se je Petra Medved pogovarjala s predsednikom Zveze paraplegikov Slovenije Danetom Kastelicem.


Stran 60 od 224
Prijavite se na e-novice

Prijavite se na e-novice

Neveljaven email naslov