V Sloveniji se ta tehnologija sicer še ne uporablja množično, a strokovnjaki opozarjajo, da so nevarnosti že prisotne in rastejo.

Maja Vreča, strokovnjakinja za varno rabo interneta, zaposlena na Arnesu in sodelavka Centra za varnejši internet – Safe.si, poudarja, da tehnologija lažnih videoposnetkov že zdaj prinaša resne posledice, zlasti na področju zlorabe zasebnosti. "Eden bolj skrb vzbujajočih primerov je uporaba tehnologije globokega ponaredka za tako imenovano maščevalno pornografijo. Gre za primere, ko na primer partnerji uporabijo slike in videoposnetke nekdanjih partneric ter jih z enostavno dostopnimi orodji združijo s pornografsko vsebino. To lahko za žrtev pomeni zelo hud vdor v zasebnost," pojasnjuje Vreča in dodaja, da v takšnih primerih žrtev zelo težko pojasni, da gre za ponaredek, saj so posnetki videti izjemno resnični.

Poleg tega opozarja na še srhljivejšo uporabo tehnologije pri zlorabah otrok. "Kriminalne združbe, ki se ukvarjajo s spolnimi zlorabami otrok, uporabljajo slike otrok, ki jih starši objavljajo na družbenih omrežjih, za ustvarjanje ponarejenih posnetkov. Ti posnetki so tržno blago v pedofilskih mrežah, kar lahko predstavlja zelo hude posledice za otroke, katerih posnetki so bili zlorabljeni, in za njihove družine," opozarja Vreča. Čeprav v Sloveniji še nimamo natančnih podatkov o morebitnem obsegu takih primerov, Vreča opozarja, da so svetovne številke alarmantne.

Dalibor Cerar, strokovnjak za kibernetsko varnost iz podjetja Kabi, je opozoril na nevarnosti tehnologije lažnih posnetkov v poslovnem svetu. "V zadnjem času smo priča primerom, kjer so kriminalci uporabili ponarejene glasove, da bi prevarali podjetja. Na primer, direktorji podjetij prejmejo klice od domnevno svojih poslovnih partnerjev, ki želijo spremeniti račun, na katerega naj se izvajajo plačila. Glas in telefonska številka se ujemata, vendar gre za klic prevaranta," pojasnjuje Cerar in poudarja, da so takšni primeri vse pogostejši, saj tehnologija napreduje, stroški pa so nizki. Zahteve po spremembah računov je tudi sicer smiselno vedno dodatno preveriti v uradnih bazah podatkov o podjetjih. Za slovenska podjetja je to Ajpesov Fi=Po.

Eden odmevnejših primerov v tujini je bil primer lažnega posnetka Elona Muska, v katerem je domnevno promoviral kriptovalute. "Uporabili so posnetek njegove predstavitve Teslinih avtomobilov in ga preuredili tako, da je Musk govoril o vlaganju v kriptovalute. Posnetek je bil izjemno prepričljiv in so ga na YouTubu gledali milijoni, preden so ga odstranili," razlaga Cerar. Takšni primeri so posebej nevarni, ker se zdijo popolnoma resnični in hitro zavedejo ljudi, ki morda ne opazijo razlik.

Nevarnosti v političnih kampanjah
Tehnologija lažnih posnetkov pa se vse pogosteje uporablja tudi za politične manipulacije. Po besedah Maje Vreča je bilo že več primerov, ko so ti posnetki vplivali na volitve. "Eden izmed odmevnejših primerov je bil v Indoneziji, kjer so januarja letos ustvarili lažni posnetek že pokojnega predsednika Suharta, ki je volivce nagovarjal, naj volijo kandidate določene stranke. Posnetek je bil izjemno prepričljiv in je povzročil precejšnjo zmedo med volivci," pojasnjuje.

Podobno se je zgodilo v ZDA, kjer so ponarejeni posnetki vplivali na javno mnenje. "V enem od primerov je krožil posnetek Taylor Swift, v katerem je podprla Donalda Trumpa. Posnetek je hitro postal viralen in prejel milijone ogledov, preden je družbenim omrežjem uspelo ukrepati," poudarja Maja Vreča. Takšni primeri jasno kažejo, kako močan vpliv imajo lahko lažni posnetki na politično področje in javno mnenje.

V Gabonu pa je posnetek predsednika sprožil celo poskus državnega udara. "Sprožilec udara je bil sicer verodostojen posnetek, ki pa so ga ožigosali kot globoki ponaredek. V Gabonu je to povzročilo takšno zmedo in nezaupanje, da je prišlo celo do poskusa prevzema oblasti," je dodala Vreča.

Kako prepoznati deepfake oz. globoki ponaredek?
Težava prepoznavanja lažnih posnetkov je, da postajajo vse bolj dovršeni. Cerar pojasnjuje, da obstajajo nekateri znaki, po katerih jih lahko prepoznamo. "Najpogostejši znaki so nepravilno premikanje ustnic, čudne sence na obrazu in nenaravni izrazi čustev," pojasnjuje in dodaja, da je naprednejše lažne vsebine težje prepoznati. "Nenavadno mežikanje ali napačno število prstov na rokah sta pogosto očitna znaka ponaredka, vendar to zahteva natančno opazovanje."

Cerar dodaja, da obstajajo spletna orodja, ki uporabnikom pomagajo prepoznati globoki ponaredek. "Orodja, kot je Deepware.ai omogočajo uporabnikom, da naložijo posnetek in preverijo, ali gre za ponaredek," pojasnjuje. Kljub temu opozarja, da sta najboljša zaščita previdnost in zanašanje na zaupanja vredne vire informacij.

Sorodna novica Povečanje spletnih goljufij: Le en klik vas lahko stane vse

Nevarnosti za prihodnost
Maja Vreča opozarja na dolgoročne posledice, ki jih lahko prinese množična uporaba ponarejenih posnetkov in drugih dezinformacij: "Največja nevarnost ni le v tem, da ljudje verjamejo lažnim posnetkom, ampak v tem, da ne bodo več verjeli ničemur. Če ljudje izgubijo zaupanje v informacije, ki jih vidijo na spletu, kot tudi v tradicionalnih medijih, lahko to povzroči resno atomizacijo družbe in s tem tudi destabilizacijo, saj v taki situaciji ljudje sčasoma verjamemo le še tistim informacijam, ki potrjujejo njihova prepričanja." Ta "lažnivčeva dividenda", kot jo imenujejo strokovnjaki, pomeni, da bodo lažnivci in tisti, ki ustvarjajo ponaredke, ustvarili splošno nezaupanje, kar je lahko še nevarnejše kot posamezni lažni posnetki.

Cerar dodaja, da je za podjetja in posameznike ključnega pomena, da se zavedajo nevarnosti tehnologije globokih ponaredkov. "V poslovnem svetu lahko deepfake povzroči velike finančne izgube, če podjetja ne ukrepajo pravočasno. Pomembno je, da se zaposleni naučijo prepoznati znake in uporabljajo preverjene metode za odkrivanje lažnih vsebin," pojasnjuje.

Kako naprej?
Tehnologija globokega ponaredka je brez dvoma eno največjih tehnoloških orožij prihodnosti, ki že zdaj ustvarja resne izzive za posameznike, podjetja in vlade. V Sloveniji sta potrebna večja ozaveščenost in razvoj orodij za odkrivanje lažnih vsebin, preden nas te vsebine dosežejo v večjem obsegu. Za zaščito pred to tehnologijo je ključno, da se naučimo kritično presojati informacije, prepoznati znake ponaredkov in se zanašati na zaupanja vredne vire.

Kot pravi Maja Vreča: "Če bomo znali prepoznati nevarnosti in se pred njimi zaščititi, lahko ohranimo zdravo mero zaupanja v digitalni svet, ki pa ni neki ločeni svet – postal je integralni del našega realnega sveta. Če se bomo odločili, da ne verjamemo ničemur, kar je zunaj naših informacijskih mehurčkov, lahko to postane resna grožnja za prihodnost naših družb."