U poslednje vreme, fenomen „deepfake“ tehnologije postao je sve prisutniji i kontroverzniji. Ova tehnologija omogućava kreiranje lažnih video i audio snimaka koji izgledaju i zvuče kao stvarni, često korišćenjem veštačke inteligencije. Iako su prvi primeri „deepfake“ sadržaja bili relativno benigni, poput zabavnih video klipova, sve više se koristi za stvaranje eksplicitnog materijala bez pristanka onih koji su na snimcima. To je izazvalo zabrinutost zbog zaštite privatnosti i potencijalne štete koju ovakvi sadržaji mogu izazvati.
U skladu sa tim, nedavno je predložen zakonodavni okvir koji bi kriminalizovao samo kreiranje „deepfake“ eksplicitnih snimaka i fotografija, čak i ako taj materijal nikada ne završi na internetu. Ovaj predlog dolazi kao odgovor na sve češće izveštaje o zloupotrebi „deepfake“ tehnologije u svrhe uznemiravanja, ucene i seksualnog nasilja. Aktivisti za ljudska prava i stručnjaci za digitalnu bezbednost pozdravili su ovaj predlog, smatrajući ga važnim korakom ka zaštiti pojedinaca od digitalnog nasilja.
Prvi put kada je „deepfake“ tehnologija postala široko poznata bilo je 2017. godine, kada su se na internetu pojavili video snimci poznatih ličnosti u kompromitujućim situacijama. Ovi snimci su izazvali veliku pažnju medija i javnosti, ukazujući na mogućnost da se bilo ko može prikazati u negativnom svetlu, čak i bez svog pristanka. Pored toga, „deepfake“ tehnologija je postala alat za širenje dezinformacija, posebno tokom izbornih ciklusa i političkih kampanja.
Kako bi se suprotstavili ovim izazovima, mnoge zemlje razmatraju zakone koji bi regulisali upotrebu „deepfake“ tehnologije. U nekim zemljama, kao što su Sjedinjene Američke Države, već postoje zakoni koji se fokusiraju na zaštitu privatnosti i sprečavanje klevete. Međutim, predlog zakona koji se razmatra u Srbiji može predstavljati jedan od prvih pokušaja da se jasno definiše i kriminalizuje stvaranje „deepfake“ eksplicitnog sadržaja.
Osim pravnih aspekata, postoji i etička dimenzija koja se mora uzeti u obzir. „Deepfake“ tehnologija može imati ozbiljne posledice po reputaciju pojedinaca i može dovesti do emocionalne i psihološke štete. Mnogi ljudi su već postali žrtve ovakvih zloupotreba, a posledice su često dugotrajne. Zakonodavne inicijative koje se bave ovim problemom mogu pomoći u stvaranju sigurnijeg digitalnog okruženja, ali će biti važno i edukovati javnost o rizicima koje „deepfake“ tehnologija nosi.
U okviru ovog predloga zakona, važno je razmotriti i kako će se definisati „eksplicitan sadržaj“. Različite kulture i društva mogu imati različite standarde kada je u pitanju ono što se smatra eksplicitnim. Takođe, biće potrebno razjasniti kako će se sprovoditi nadzor i kazniti prekršaji, kao i kako zaštititi slobodu izražavanja. Na kraju, pitanje je kako će se ovaj zakon primenjivati na strane entitete i platforme koje nude sadržaj korisnicima.
U zaključku, predlog zakona o kriminalizaciji stvaranja „deepfake“ eksplicitnog sadržaja predstavlja značajan korak ka zaštiti pojedinaca od digitalnog nasilja. Ovaj zakon može pomoći u smanjenju zloupotreba tehnologije koja je potencijalno štetna, ali će biti potrebno pažljivo razmotriti sve aspekte ovog pitanja, uključujući etičke i pravne dimenzije. Kako se tehnologija nastavlja razvijati, važno je da zakonodavstvo prati te promene i pruža adekvatnu zaštitu za sve korisnike interneta.
