Evropska unija se tako bolj in bolj zavzema za regulacijo škodljivih tehnologij in sistemov. Potem ko je sprejela splošno uredbo o varovanju osebnih podatkov, akt o digitalnih trgih in akt o digitalnih storitvah, sta zdaj na vrsti akt o umetni inteligenci in uredba za preprečevanje spolne zlorabe otrok. Vendar domače in tuje nevladne organizacije opozarjajo na negativne posledice predlogov.

Nova evropska zakonodaja bo uzakonila množični nadzor komunikacij na spletu, oslabila kibernetsko varnost in z zmotljivimi, diskriminatornimi in rasističnimi orodji umetne inteligence množično kršila človekove pravice na področju kazenskega pregona, nacionalne varnosti in nadzora migracij, pa opozarjajo v koaliciji nevladnih organizacij, ki jo sestavljajo Inštitut za druga vprašanja Danes je nov dan, Pravni center za varstvo človekovih pravic in okolja, Amnesty International Slovenije, Zavod Krog, Mirovni inštitut, Slovenska filantropija, Zavod Emma in Državljan D.

Kako otrokom zagotoviti varen in vključujoč digitalni prostor?

Otroci in mladi odraščajo v popolnoma drugačnem svetu kot generacije pred njimi. Digitalne tehnologije in komunikacije so zanje nekaj vsakdanjega, spletna okolja pa enako resničen življenjski prostor, kot je fizični svet. Ta prostor mora zato biti varen, vključujoč in jim omogočati uresničevanje in spoštovanje njihovih človekovih pravic. Zakaj uredba za preprečevanje spolne zlorabe otrok tega cilja, če ostane taka, kot je, ne bo dosegla? Maja Cimerman iz Danes je nov dan je v radijski oddaji Glasovi svetov poudarila, da je "težko nasprotovati predlogu zakona, ki preprečuje spolne zlorabe otrok, in je seveda pomembno, da take zakone imamo in da se ta problem učinkovito rešuje. Vendar ta predlog ni predlog, ki bi dejansko rešil ta problem."

Koga bi zakon zadeval? Vse spletne platforme, ki omogočajo kakršno koli vrsto komunikacije med uporabnicami in uporabniki, od družbenih medijev do forumov, aplikacij za izmenjevanje sporočil in spletnih računalniških iger. Zakon v prvem koraku zahteva od ponudnikov teh storitev, da nadzirajo komunikacije, sporne materiale odstranjujejo in posredujejo policiji. V drugem koraku pa uredba dovoljuje, da države od platform, ki po njihovem mnenju ne naredijo dovolj, zahtevajo obvezno skeniranje vse komunikacije, pojasnjuje Cimerman in poudarja, da tehnologija, ki bi izluščila samo primere spolne zlorabe otrok, ne obstaja. "Veliko bolj verjetno je, da bo na mizi policije pristala slika otroka, ki jo je posnela babica na morju in jo zdaj deli s svojimi prijateljicami. Ali pa slike dveh polnoletnih posameznikov, ki si jih zdaj med seboj delita. Tehnologija ni sposobna razbrati konteksta in ne vidi razlike med slikami zlorabe in golih oseb."

Uredba ni dobro premišljena, ni legalna in ne bo učinkovita

To bo ustvarilo veliko lažnih pozitivnih zadetkov, s katerimi se bo morala ukvarjati policija, pravi sogovornica. Druga težava pa je enkripcija. Strokovnjakinje in strokovnjaki namreč opozarjajo, da oboje hkrati ne gre. Ali skeniraš komunikacijo ali pa je ta zasebna, kriptirana. Selektivnega skeniranja tehnologija ne omogoča.

O predlogu nove evropske zakonodaje za preprečevanje spolne zlorabe otrok smo se pogovarjali tudi s predstavnico Evropskega združenja za digitalne pravice (EDRi) Ello Jakubowsko, ki se je prejšnji teden mudila v Ljubljani.

Vabljeni k branju.

Evropska unija se pripravlja na novo regulacijo spleta. Kje so glavne težave nove zakonodaje?
Ta zakonodaja bi v svojem jedru prisilila zasebna podjetja, da nadzorujejo potencialno vse naše zasebne pogovore na spletu. To je v popolnem nasprotju s predpostavko o nedolžnosti in vladavini prava. Če želi policija v fizičnem svetu preiskati vaš dom, morate biti osumljeni, potrebuje nalog sodišča. Ta zakonodaja pa to obrne na glavo, saj pravi, da smo vsi potencialni osumljenci, zato je dovoljeno zasebnim podjetjem vdirati v naša zasebna življenja na spletu s tveganimi in zmotljivimi tehnologijami umetne inteligence. To je nekaj, kar bi moralo skrbeti vsakega od nas.

To so želje, ki vsake toliko privrejo na dan, od sporazuma Acta naprej. Ti apetiti torej še vedno obstajajo, čeprav so ljudje že večkrat množičnemu nadzoru rekli ne.
Regulacija naj bi zaščitila otroke na spletu, in to je seveda resnično pomembno vprašanje. Vendar smo v razkritih dokumentih o pogajanjih med vladami držav članic Evropske unije videli, da jih nekaj med njimi to vidi kot priložnost za dostop do kriptirane komunikacije med ljudmi na spletu. Enkripcija je edino orodje, ki ga imamo v digitalni dobi za zagotavljanje zasebnosti komunikacije, transakcij, bančništva, gospodarstva. Nekaj držav vidi zakonodajo kot priložnost za spodkopavanje tega pomembnega orodja za zagotavljanje digitalne varnosti. Zelo pomembno je vedeti, da je množični nadzor v Evropski uniji že nezakonit. Vlade nas ne smejo nadzorovati za vsak primer, če bomo storili nekaj narobe. To je v nasprotju z jedrom naše demokracije. Vsako pravno mnenje v zvezi s predlogom te zakonodaje je ugotovilo, da je zakonodaja nezakonita, saj bi uzakonila množičen nadzor. Ko veliko pravnikov opozarja, da je nekaj v nasprotju z evropsko zakonodajo, hkrati tehnologi opozarjajo, da to temelji na tehnologiji, ki ne obstaja ali pa vsaj ni varna, je ideja, da se še naprej želi sprejeti to zakonodaja, res zelo zelo skrb vzbujajoča. In nazadnje, če imamo zakon, ki ga sodišče zavrže, saj uzakonja množičen nadzor, ki ni zakonit, to res ne koristi otrokom. Razmišljati moramo dolgoročno o zagotavljanju rešitev, ki so odporne, ki bodo prestale preizkus časa in bodo varovale otroke. Tega pa ta trenutek pač nimamo na mizi.

Kdo pa so glavni igralci, kdo ponuja tehnologijo, ki naj bi skenirala naše komunikacije in jih označevala kot primerne ali neprimerne?
Eden glavnih igralcev za to tehnologijo, ki bi se uporabljala za skeniranje, če bi sprejeli to zakonodajo, je ameriška nevladna organizacija Thorn, ki jo je do nedavnega zastopal hollywoodski igralec Ashton Kutcher. Kar pa ni tako zelo znano, je dejstvo, da je Ashton Kutcher lastnik podjetja Safer, ki ima tehnologijo za skeniranje. Gre torej za komercialno in profitno podjetje, ki skrbi za tehnologijo, ki jo ponuja nevladna organizacija Thorn. Če bi to zakonodajo sprejeli, bi najverjetneje uporabili to tehnologijo. Veliko denarja bi torej podjetja, kot je Safer, zaslužila s tehnologijo za skeniranje.

Evropska unija naj bi bila vodilna v svetu, kadar govorimo o regulaciji tehnologije. Se torej na stran regulacije nagibajo tudi Združene države Amerike?
Tudi v ZDA se tega lotevajo, vendar na drugačen način. Ampak gre za širšo sliko, ki nas skrbi. Če bi Evropska unija uzakonila takšne prakse in rekla, da lahko znotraj Evropske unije skeniramo zasebna sporočila ljudi, pa naj gre za ljudi v politiki, novinarstvu, na področju varovanja človekovih pravic, ljudi, ki iščejo zdravstveno oskrbo, ki klepetajo s svojimi bližnjimi. To torej odpre prostor kateri koli vladi, ki lahko reče, no, EU to počne, zato mora biti v redu, saj so v svetovnem vrhu, ko gre za zakone, ki ščitijo zasebnost in osebne podatke. Še več, če bomo s pravili oslabili varnost zasebnih komunikacij na spletu, bodo naše naprave in komunikacije ranljivejše za napade drugih držav, zlonamernih vlad, hekerjev ... Gre torej za globalno vprašanje, saj lahko EU postavi precedens za to, ali bomo ali ne bomo v prihodnosti imeli zasebnosti na spletu. Medmrežje namreč ne spoštuje meja EU-ja, to je resnično svetovno vprašanje.

Kaj pa otroci? Bi jih nova zakonodaja zaščitila?
Eden glavnih problemov pri tej zakonodaji je, da ni dovolj dokazov o učinkovitosti teh orodij. Izkazalo se je, da je Evropska komisija, to je v splošnem tista entiteta, ki predlaga nove evropske zakone, pridobila predložene statistične podatke od zasebnih podjetij, nihče jih ni neodvisno preveril. Zato nas zelo skrbi, ali ukrepi res delujejo. Veliko strokovnjakov za kibernetsko varnost in tehnologov pa je opozorilo, da tehnologija, ki zaobide enkripcijo v zasebni komunikaciji, ne obstaja, to ni varno, tega se na varen način ne da narediti. Gre torej za nekakšno magično miselnost, včasih temu tako rečemo, ko Evropska komisija želi vsiliti zakonodajo, ki temelji na željah in upanjih za tehnologijo, manjkajo pa dokazi. Neodvisno od tega pa menimo, da utegne ta zakonodaja še na druge načine škoditi mladim. Predvideva namreč preverjanje starosti ljudi z osebnimi dokumenti ali s profiliranjem. To je nekaj, kaj lahko pomeni diskriminacijo, izključevanje določenih ljudi iz digitalnih prostorov, če nimajo pravih osebnih dokumentov. Lahko pa na vse nas deluje srhljivo. Predstavljajte si, da lahko do večine medmrežja dostopate s skeniranjem svoje osebne izkaznice. Lahko boste precej manj sproščeno dostopali do popolnoma legalnih, legitimnih vsebin, kot so zdravstvo, izobraževanje, različni načini izražanja samega sebe in raziskovanja lastne identitete. To je nekaj, kar je za mlade, ki veliko časa preživijo na spletu, res bistvenega pomena. Ne smemo podcenjevati izjemnega zaviralnega učinka na njihovo svobodo izražanja in njihovega dostopa do informacij, do česar lahko to pripelje.

Kaj lahko naredijo navadni ljudje, kako se s to težavo spoprijeti na vsakodnevni ravni?
Prva stvar, ki jo po mojem mnenju moramo narediti, je, da o tem več govorimo. Ne le o tem predlogu zakona, ki vsebuje potencialno zelo veliko problematičnih delov – teh se ljudje morajo bolj zavedati – tudi širše se moramo spoprijeti z zlorabo otrok v naši družbi. Potrebujemo bolj holističen, celotno družbo obsegajoč pristop. Ne moremo se le zanašati na tehnologijo, ne moremo misliti, da je tehnologija rešitev. Mislim, da je to tudi izjemno pomemben trenutek, v katerem moramo razmisliti o socialni blaginji, izobraževanju, preventivi, sodstvu in vseh drugih stvareh, ki jih lahko naredimo in temeljijo na dokazih, da takšni ukrepi dejansko preprečijo zlorabo otrok. Poleg te ozaveščenosti pa moramo zakonodajalcem dati vedeti, da želimo spoštovanje svojih pravic tako na spletu kot v resničnem življenju. In da ne želimo, da nas vse obravnavajo kot osumljence. To so pomembne točke. S tem, ko sem tukaj, lahko torej razširim besedo o tem nekoliko bolj.