T. i. deepfake videoposnetki in fotografije, ki jih ustvari umetna inteligenca in jih je praktično nemogoče ločiti od pravih, so zadnje leto že skoraj stalnica. Tokrat so se nepridipravi spravili na ljubljenko (ameriškega) občinstva Taylor Swift, zaradi česar so se fotografije kot požar razširile po spletu, predvsem pa po družbenem omrežju X.

A so oboževalci stopili glasbenici v bran – pod ključnikom #ProtectTaylorSwift (#ZaščitimoTaylorSwift) so začeli objavljati pozitivne fotografije svoje idolke in tako skušali pretentati algoritme platforme. Po poročanju tiskovne agencije AP so mnogi podali tudi uradne prijave glede neprimerne vsebine tako omrežju X kot uradnim regulatornim organom. Sporne fotografije so zdaj umaknjene z omrežja, a po poročanju BBC-ja naj bi ena izmed njih predtem imela kar 47 milijonov ogledov.

"Žal so fotografije dosegle milijone in milijone uporabnikov, preden so jih umaknili," je za AP dejal Mason Allen, predstavnik skupine Reality Defender, ki se posveča iskanju lažnih oz. ponarejenih videoposnetkov, fotografj in drugih vsebin na spletu.

Dogodek je zato spodbudil tudi javno razpravo o tovrstnem početju in spornosti dejstva, da lahko v ZDA kdor koli s pomočjo umetne inteligence ustvari kakršen koli videoposnetek ali fotografijo, a za to kljub morebitni spornosti končnega izdelka ni kaznovan, saj je zakonodaja na tem področju pomanjkljiva.

Bodo o tehnologiji globokih ponaredkov vendarle razpravljali tudi v ameriškem kongresu?

Demokratski kongresnik Joe Morelle, ki je že lani predstavil predlog zakona, ki bi kriminaliziral širjenje lažnih posnetkov in fotografij brez soglasja osebe, ki je na njem, je pozval k hitremu ukrepanju. Prepričan je, da je že zadnji čas, da tudi ZDA sprejmejo zakonodajo, ki bo to področje natančno definirala, saj lahko ponarejeni posnetki in fotografije "povzročijo nepopravljivo čustveno in finančno škodo ter škodijo ugledu" posameznikov. Kot je še povedal, so tovrstnim napadom pretežno izpostavljene ženske.

Skrb, da bodo deepfaki vplivali na volitve

Kot poroča BBC, trenutno veliko večino t. i. deepfake posnetkov in fotografij predstavljajo pornografske vsebine (99 odstotkov), a poznavalce v supervolilnem letu, ko bodo v več svetovnih velesilah (ob EU-ju tudi v ZDA, Združenem kraljestvu, Rusiji in Ukrajini) potekale volitve, skrbi, da bi se lahko lažni posnetki in fotografije "prelili" tudi v politično sfero in tako vplivali na izide volitev.

"Kar se je zgodilo Taylor Swift, ni nič novega," opozarja demokratska kongresnica Yvette D Clarke in dodaja, da so bile že zadnjih nekaj let žrtve sodobne tehnologije pretežno ženske, zdaj pa vse skupaj zaradi napredka v razvoju umetne inteligence dobiva skrb vzbujajoče razsežnosti.

Da je regulacija oz. vsaj zakonski okvir na tem področju nujno potreben, se z njima strinja tudi republikanski kongresnik Tom Kean mlajši in dodaja, da je "jasno, da tehnologija UI-ja napreduje hitreje kot potrebne zakonske omejitve". "Ne glede na to, ali je žrtev Taylor Swift ali kdor koli drug v naši državi, je treba vzpostaviti potrebno zakonsko regulativo, da ustavimo ta skrb vzbujajoči trend," je poudaril.

Ekipa Taylor Swift se na pojav očitno lažnih fotografij ni odzvala, a po poročanju britanskega Daily Maila že pretresa možnost tožb, predvsem proti spletni strani, na kateri so bile fotografije prvotno objavljene.