Obvestila

Ni obvestil.

Obvestila so izklopljena . Vklopi.

Kazalo

Predlogi

Ni najdenih zadetkov.


Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

MMC RTV 365 Radio Televizija mojRTV × Menu

Ko stroji odločajo o življenju in smrti, kaj ostane ljudem?

30.04.2019


Daleč stran od oči javnosti poteka nova oboroževalna tekma. Njenih posledic se ne zavedamo.

Avtonomna orožja se zdijo stvar znanstvene fantastike. Toda s tehnološkega vidika so že danes povsem izvedljiva, zatrjujejo strokovnjaki. Gre za orožja, ki so opremljena z napredno umetno inteligenco in so zmožna samostojnega odločanja, katero tarčo bodo napadla in koga bodo ubila.

Načelno ima pri orožjih, ki so danes v uporabi, človek še vedno odločilno besedo in izda ukaz za napad. V praksi pa je lahko meja med samo pametnim, avtomatiziranim orožjem, ki je danes v uporabi, in avtonomnim orožjem precej zamegljena, posledice tega, da odločitev o življenju in smrti v nekem trenutku prevzame stroj, pa izredno daljnosežne.

 

Tehnoloških ovir ni

Akademik prof. Ivan Bratko je eden pionirjev razvoja umetne inteligence. Kar je bilo dolgo zanimivo področje raziskav, mu danes zbuja nelagodje. Potencial za resnično črne scenarije je namreč pri tej tehnologiji izreden. Priznava, da se je sam tega vidika zavedel šele pred dobrimi petimi leti na večerji s kolegi v Londonu. Tam sta bila tudi Stuart Russell, profesor umetne inteligence na Univerzi Berkeley v Kaliforniji, in Stephen Muggleton z Imperialnega kolidža v Londonu in nenadoma so se zavedeli, kakšne možnosti uporabe ta tehnologija pravzaprav odpira. Stuart Russell je tako pred dvema letoma objavil nekakšen opozorilni igrani video, katerega vsebina se zdi povsem kot znanstvena fantastika, vendar ni.

»Tehnične osnove za avtonomna orožja so že povsem razvite. Nobena dodatna inovacija ni potrebna za scenarij, kot je napad malih brezpilotnikov, ki napadajo v roju in na podlagi prepoznave obrazov izbirajo, koga bodo napadli,« razlaga prof. Ivan Bratko.

 

Kljub izredni učinkovitosti je prostora za hude napake veliko

Uporaba umetne inteligence ima številne prednosti in to pravzaprav zelo dobro vemo vsi, ki vsak dan uporabljamo prenosne telefone. Odlično je kos velikanskim količinam podatkov in iz teh podatkov razbira vzorce in povezave, ki jih brez nje ne bi mogli opaziti. Brez dvoma je odlično orodje za najrazličnejše namene. S številnih vidikov sta njena učinkovitost in zanesljivost prav zares osupljivi. Tudi zato je morda naše zanašanje na njene zmožnosti natančnega napovedovanja povsem razumljivo, toda ne glede na to sta učinkovitost in zanesljivost umetne inteligence vedno tudi omejeni.

»Velikanska razlika je med človeško zavestjo, človeškim načinom odločanja in 'odločitvami', ki jih bo sprejemal še tako napreden sistem umetne inteligence. Človeško odločanje je vedno kontekstualno, vedno lahko upoštevamo nove dejavnike, nasprotno pa to za tudi najnaprednejše sisteme umetne inteligence ne velja,« poudarja filozof dr. Luka Omladič. Onkraj svojega zaprtega sistema, v okviru katerega je izredno hitra in učinkovita, je umetna inteligenca vedno slepa.

Poleg tega nam je delovanje globokih nevronskih mrež povsem nedoumljivo. Ravno globoke nevronske mreže pa so najučinkovitejši segment tehnologij umetne inteligence. Dajejo izredno točne rezultate, obenem pa tudi strokovnjakom ni razumljivo, kako so prišle do svojih sklepov. Avtonomno orožje bi torej prav lahko prišlo do sklepa, da je neko osebo nujno treba ubiti, ne bi pa moglo pojasniti, zakaj.

 

Poskusom prepovedi avtonomnih orožij nasprotujejo vojaške velesile

Uporaba avtonomnih orožij utegne povsem spremeniti tudi naravo vojn in spopadov. Obenem se zdi, da je oboroževalna tekma na tem področju že v velikem razmahu. Tako je namreč mogoče razumeti zadržanost držav, da bi prepoved podprle z mednarodnim sporazumom. Sprejemu konvencije o prepovedi avtonomnih orožij v okviru Združenih narodov vztrajno nasprotujejo ZDA, Rusija, Izrael, Avstralija in Velika Britanija. Tudi Evropska unija je na tem področju precej previdna. Konec koncev se v severnoatlantskem zavezništvu širijo razpoke in sodobne, tako imenovane visoko dinamične grožnje utegnejo zahtevati zelo hitre odzive. Hitrejše, kot jih je sposoben človek.

»Dilema evropske skupnosti je to, da lahko avtonomna orožja sicer prepovemo, toda druge države jih bodo vseeno uporabljale. Zato tudi resolucija evropskega parlamenta, sprejeta septembra lani, pravi, da kot avtonomnega orožja ne moremo definirati tistih sistemov, ki so namenjeni za obrambo. Da je torej treba prepovedati napadalne sisteme, kjer ni pomembnega človekovega nadzora nad kritičnimi funkcijami. Kaj to je, pa je odvisno od vsakega posameznega primera,« razlaga pristop Evropskega parlamenta do sedanje oboroževalne dileme pravnik dr. Aleš Završnik.

Do omenjene resolucije naj bi se posamezne države članice opredelile. Slovenija se za zdaj še ni.

 

Prihodnost v družbi avtonomnih orožij

Nevarnosti, ki jih prinašajo avtonomna orožja, je precej. Obrambni sistemi se utegnejo zelo hitro odzvati na neko grožnjo in izbrati najprimernejšo obrambno strategijo. Zakaj je bila uporabljena strategija najprimernejša, nam ne bodo znala pojasniti. Možno je tudi, da bo zaznana grožnja pravzaprav napaka, kajti umetna inteligenca ima svoje slepe pege, izključeni niso niti vdori in zlorabe.

Kot vsa orožja, bodo tudi ta prej ali slej prišla v napačne roke. Tehnologija je razmeroma poceni in dostopna. V rokah kriminalnih združb ali teroristov se utegne seznam tveganj sodobnega sveta še močno podaljšati. Kakšne bodo daljnosežne posledice njihove rabe, pa je nemogoče napovedati. Pričakujete nepričakovano, opozarjajo strokovnjaki.

 

Več razmislekov o avtonomnih orožjih najdete v oddaji Intelekta.


Intelekta

907 epizod


Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.

Ko stroji odločajo o življenju in smrti, kaj ostane ljudem?

30.04.2019


Daleč stran od oči javnosti poteka nova oboroževalna tekma. Njenih posledic se ne zavedamo.

Avtonomna orožja se zdijo stvar znanstvene fantastike. Toda s tehnološkega vidika so že danes povsem izvedljiva, zatrjujejo strokovnjaki. Gre za orožja, ki so opremljena z napredno umetno inteligenco in so zmožna samostojnega odločanja, katero tarčo bodo napadla in koga bodo ubila.

Načelno ima pri orožjih, ki so danes v uporabi, človek še vedno odločilno besedo in izda ukaz za napad. V praksi pa je lahko meja med samo pametnim, avtomatiziranim orožjem, ki je danes v uporabi, in avtonomnim orožjem precej zamegljena, posledice tega, da odločitev o življenju in smrti v nekem trenutku prevzame stroj, pa izredno daljnosežne.

 

Tehnoloških ovir ni

Akademik prof. Ivan Bratko je eden pionirjev razvoja umetne inteligence. Kar je bilo dolgo zanimivo področje raziskav, mu danes zbuja nelagodje. Potencial za resnično črne scenarije je namreč pri tej tehnologiji izreden. Priznava, da se je sam tega vidika zavedel šele pred dobrimi petimi leti na večerji s kolegi v Londonu. Tam sta bila tudi Stuart Russell, profesor umetne inteligence na Univerzi Berkeley v Kaliforniji, in Stephen Muggleton z Imperialnega kolidža v Londonu in nenadoma so se zavedeli, kakšne možnosti uporabe ta tehnologija pravzaprav odpira. Stuart Russell je tako pred dvema letoma objavil nekakšen opozorilni igrani video, katerega vsebina se zdi povsem kot znanstvena fantastika, vendar ni.

»Tehnične osnove za avtonomna orožja so že povsem razvite. Nobena dodatna inovacija ni potrebna za scenarij, kot je napad malih brezpilotnikov, ki napadajo v roju in na podlagi prepoznave obrazov izbirajo, koga bodo napadli,« razlaga prof. Ivan Bratko.

 

Kljub izredni učinkovitosti je prostora za hude napake veliko

Uporaba umetne inteligence ima številne prednosti in to pravzaprav zelo dobro vemo vsi, ki vsak dan uporabljamo prenosne telefone. Odlično je kos velikanskim količinam podatkov in iz teh podatkov razbira vzorce in povezave, ki jih brez nje ne bi mogli opaziti. Brez dvoma je odlično orodje za najrazličnejše namene. S številnih vidikov sta njena učinkovitost in zanesljivost prav zares osupljivi. Tudi zato je morda naše zanašanje na njene zmožnosti natančnega napovedovanja povsem razumljivo, toda ne glede na to sta učinkovitost in zanesljivost umetne inteligence vedno tudi omejeni.

»Velikanska razlika je med človeško zavestjo, človeškim načinom odločanja in 'odločitvami', ki jih bo sprejemal še tako napreden sistem umetne inteligence. Človeško odločanje je vedno kontekstualno, vedno lahko upoštevamo nove dejavnike, nasprotno pa to za tudi najnaprednejše sisteme umetne inteligence ne velja,« poudarja filozof dr. Luka Omladič. Onkraj svojega zaprtega sistema, v okviru katerega je izredno hitra in učinkovita, je umetna inteligenca vedno slepa.

Poleg tega nam je delovanje globokih nevronskih mrež povsem nedoumljivo. Ravno globoke nevronske mreže pa so najučinkovitejši segment tehnologij umetne inteligence. Dajejo izredno točne rezultate, obenem pa tudi strokovnjakom ni razumljivo, kako so prišle do svojih sklepov. Avtonomno orožje bi torej prav lahko prišlo do sklepa, da je neko osebo nujno treba ubiti, ne bi pa moglo pojasniti, zakaj.

 

Poskusom prepovedi avtonomnih orožij nasprotujejo vojaške velesile

Uporaba avtonomnih orožij utegne povsem spremeniti tudi naravo vojn in spopadov. Obenem se zdi, da je oboroževalna tekma na tem področju že v velikem razmahu. Tako je namreč mogoče razumeti zadržanost držav, da bi prepoved podprle z mednarodnim sporazumom. Sprejemu konvencije o prepovedi avtonomnih orožij v okviru Združenih narodov vztrajno nasprotujejo ZDA, Rusija, Izrael, Avstralija in Velika Britanija. Tudi Evropska unija je na tem področju precej previdna. Konec koncev se v severnoatlantskem zavezništvu širijo razpoke in sodobne, tako imenovane visoko dinamične grožnje utegnejo zahtevati zelo hitre odzive. Hitrejše, kot jih je sposoben človek.

»Dilema evropske skupnosti je to, da lahko avtonomna orožja sicer prepovemo, toda druge države jih bodo vseeno uporabljale. Zato tudi resolucija evropskega parlamenta, sprejeta septembra lani, pravi, da kot avtonomnega orožja ne moremo definirati tistih sistemov, ki so namenjeni za obrambo. Da je torej treba prepovedati napadalne sisteme, kjer ni pomembnega človekovega nadzora nad kritičnimi funkcijami. Kaj to je, pa je odvisno od vsakega posameznega primera,« razlaga pristop Evropskega parlamenta do sedanje oboroževalne dileme pravnik dr. Aleš Završnik.

Do omenjene resolucije naj bi se posamezne države članice opredelile. Slovenija se za zdaj še ni.

 

Prihodnost v družbi avtonomnih orožij

Nevarnosti, ki jih prinašajo avtonomna orožja, je precej. Obrambni sistemi se utegnejo zelo hitro odzvati na neko grožnjo in izbrati najprimernejšo obrambno strategijo. Zakaj je bila uporabljena strategija najprimernejša, nam ne bodo znala pojasniti. Možno je tudi, da bo zaznana grožnja pravzaprav napaka, kajti umetna inteligenca ima svoje slepe pege, izključeni niso niti vdori in zlorabe.

Kot vsa orožja, bodo tudi ta prej ali slej prišla v napačne roke. Tehnologija je razmeroma poceni in dostopna. V rokah kriminalnih združb ali teroristov se utegne seznam tveganj sodobnega sveta še močno podaljšati. Kakšne bodo daljnosežne posledice njihove rabe, pa je nemogoče napovedati. Pričakujete nepričakovano, opozarjajo strokovnjaki.

 

Več razmislekov o avtonomnih orožjih najdete v oddaji Intelekta.


03.02.2009

(Ne)skladnost kulturnega izrekanja in kulturne politike

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


27.01.2009

Stoletje možganov

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


20.01.2009

Kako obvladujemo sistem zdravstva

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


13.01.2009

Razvoj intelektualnih potencialov v mladih

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


06.01.2009

Patriotizem

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


30.12.2008

Lepo in / ali grdo

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


23.12.2008

Kaj nam sporoča "konzumcshaft"?

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


16.12.2008

Je gensko spremenjena hrana res nevarna?

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


09.12.2008

Kakšna naj bi bila sodobna šola?

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


02.12.2008

Prihodnost sveta jezika

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


25.11.2008

Praznik znanosti

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


18.11.2008

Vse svetovne gospodarske krize

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


11.11.2008

Medicina na meji možnega

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


04.11.2008

Intelekta

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


28.10.2008

Kaj je dobra država

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


21.10.2008

Radio 4ever: Zakaj radio ne bo izumrl

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


14.10.2008

(ne)združljivost stroka in - ali politika

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


07.10.2008

Klic po novem družbenem redu

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


30.09.2008

Iluzija generacijskega sožitja

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


23.09.2008

Kako si ocenjujemo kvaliteto življenja

Torkovo dopoldne je rezervirano za soočenje različnih pogledov na aktualne dogodke, ki iz tedna v teden spreminjajo svet, pa tega velikokrat sploh ne opazimo. Gostje Intelekte so ugledni strokovnjaki iz gospodarstva, znanosti, kulture, politike in drugih področij. Oddaja skuša širokemu občinstvu ponuditi kritično mnenje o ključnih dejavnikih globalnega in lokalnega okolja.


Stran 41 od 46
Prijavite se na e-novice

Prijavite se na e-novice

Neveljaven email naslov