Razvojem novih tehnologija i mobilnih aplikacija pojednostavljena je komunikacija među korisnicima/ama kao i mogućnosti dijeljenja raznih vrsta sadržaja poput fotografija ili glazbe. Istovremeno, dolazi do razvoja umjetne inteligencije (AI) te posljedično do razvoja raznih programa koji je koriste za unaprjeđenje ili pojednostavljenje određenih djelatnosti ili poslovanja.
No kako to obično biva s modernim tehnologijama, nije trebalo dugo čekati da se pojave i oni koji tehnologiju zloupotrebljavaju za protuzakonite radnje usmjerene prvenstveno protiv onih koji su u društvu najmanje zaštićeni – žene i djeca. U javnosti se zadnjih mjeseci intenzivnije raspravlja o postojanju grupa na popularnoj aplikaciji Telegram u kojima se dijele obnažene slike žena i maloljetne djece. Istraživačka mreža BIRN iz Srbije istražila je ovu pojavu sredinom ove godine, a rezultati do kojih su došli bili su frapantni.
Što su botovi na Telegramu?
Naime, korisnicima/ama i članovima/icama grupa na Telegramu nude se tzv. botovi. Radi se o programima pomoću kojih je moguće s bilo koje fotografije osobe ukloniti određeni dio fotografije. Iako na prvu zvuči prilično benigno te bi većina pomislila da se radi o još jednoj aplikaciji za dijeljenje šaljivog sadržaja među prijateljima (tzv. prank), istina je nažalost drugačija. Prema istraživanju novinarke BIRN- a koja se uspjela pomoću lažnog profila infiltrirati u jednu od Telegram grupa, cijela priča funkcionira tako što članovi grupe šalju fotografiju nekom od tzv. botova. On potom, uz upotrebu umjetne inteligencije ponovno crta cijelu fotografiju po zadanim parametrima uz uklanjanje određenih dijelova, npr. odjeće. Rezultat je crtež tj. slika na kojoj osoba izgleda kao da nema odjeću. To, očekivano, promatrača navodi na pomisao da se osoba slikala bez odjeće.
Ova pojava je u javnosti poznata kao „osvetnička pornografija“. Primarno zbog činjenice da su ovakve metode uglavnom koristili ostavljeni ljubavni partneri kako bi se „osvetili“ bivšoj partnerici. Jedina razlika je u tome što su oni koristili istinite fotografije bivših partnerica koje su posjedovali.
Zlostavljanje se uglavnom provodi nad ženama
Ovakav način zloupotrebe fotografija nije posve nepoznat i u javnost je poznat pod nazivom „deepfake“ pornografija. Odnosno, riječ je o obliku zlostavljanja koje se uglavnom provodi nad ženama pomoću umjetno obrađenih fotografija ili snimaka koje se potom pretvaraju u seksualno eksplicitne sadržaje. U vrijeme nastanka ovakvih pojava prvenstvene mete su bile žene poznate široj javnosti, poput pjevačice Taylor Swift. No, vrlo brzo su i anonimne žene postale mete ovakvog oblika seksualne eksploatacije.
Jedna od zemalja u okruženju u kojoj je deepfake pornografija uzela maha je Srbija. Uz već navedeni BIRN, i udruženje žena OsnaŽene provelo je istraživanje “Telegram iza senke: incest, dječja i osvetnička pornografija”. Članice njihove organizacije provele su tri mjeseca infiltrirane u Telegram grupe te su mapirale različite grupe i njihov način rada. Uz to, objavile su i istraživanje “Pucanje tišine: Svedočanstva žena”. U njemu su zabilježile iskustva žena koje su preživjele osvetničku pornografiju i odlučile su o tome progovoriti. Neke od žrtvi ovakvog virtualnog nasilja odlučile su svoj slučaj prijaviti srbijanskoj policiji. No, tamošnji zakoni ne tretiraju ovakve stvari kao kazneno djelo. To znači da žene žrtve ovog oblika nasilja moraju same utvrđivati počinitelja kako bi podnijele privatnu tužbu protiv njega.
BIRN je čak identificirao jednog od administratora Telegram grupa za skidanje žena i objavio priču o tome. Nakon toga je Telegram ugasio 16 grupa u kojima su članovi dijelili intimne fotografije žena. Ipak, spomenuti administrator i njemu slični imaju mogućnost ponovne registracije. Čime mogu nastaviti svoje mizogino djelovanje. Ovo jasno pokazuje da se pravila korištenja ovakvih aplikacija vrlo lako mogu izigrati. Kao i da ne pružaju dovoljnu zaštitu od potencijalne zloupotrebe. Također je vidljivo i to da pojedine kompanije vlasnici ovakvih botova neće, niti su obavezne, pokretati neke oštrije sankcije ukoliko ih zakon zemljama iz koje dolaze njihovi korisnici/e na to ne primoravaju.
Tko stoji iza botova?
Prema navodima BIRN-a, jedna od kompanija koja stoji iza ovakvih botova je ClothOff. U razgovoru za BIRN kompanija je rekla da korisnici prilikom registracije prihvaćaju korisnički ugovor prema kojem je „zabranjeno obrađivati fotografije ljudi bez njihovog pristanka, i slati fotografije koje mogu uvrijediti drugu osobu“.
Interesantno je da se umjesto riječi „žena“ koristi riječ „osoba“. Odnosno, moglo bi se zaključiti da se ta riječ odnosi i na muškarce. Praksa ipak pokazuje drugačije. Naime, na web stranici ClothOff-a prikazana je metoda korištenja same aplikacije koja običnu fotografiju žene pretvara u obnaženu sliku žene koja je pritom iskorištena za seksualne potrebe. Jedina ograda koju kompanija postavlja jest ta da pozivaju korisnike da aplikaciju koriste „odgovorno i s poštovanjem tuđe privatnosti“.
Problem je u tome što je kontradiktorno promovirati aplikaciju koja se koristi tako što od fotografija anonimnih žena stvara seksualiziran tj. pornografski sadržaj, a s druge strane pozivate korisnike na poštovanje tuđe privatnosti. U međuvremenu je otkriveno i to da postoji čitava mreža kanala i botova ove kompanije na Telegramu, te da neki kanali čak i u svom nazivu koriste riječ „dipgolotinja“. Koliko daleko cijela priča ide pokazuje slučaj gdje korisnici nekih grupa na Telegramu promoviraju incestne radnje tj. koriste fotografije članica svojih vlastitih obitelji npr. majke, sestre i ostale. Potajno ih fotografiraju, šalju na „ocjenjivanje“, a zatim razmjenjuju svoje slike za slike tuđih ženskih članica obitelji.
Financijska pozadina ClothOff kompanije
Vrlo zanimljivo je otkriće i to da korisnik ima mogućnost besplatno učitati do tri fotografije. Sve iznad toga zahtijeva uplatu novčanih sredstava s napomenom da se cijena kreće oko 50 eura. Izgleda da ova vrsta porno nasilja nad ženama ima i svoju financijsku pozadinu jer je ovo indikacija i da pojedine kompanije koje stoje iza ovoga imaju itekako veliku zaradu na promociji pornografije. Britanski list Guardian proveo je vrlo opsežnu istragu o ClothOff kompaniji i naišao na zanimljive podatke. Prema njima, vlasnici spomenute kompanije navodno su državljani Bjelorusije. Sama kompanija zapravo koristi imena drugih, lažnih kompanija registriranih u Velikoj Britaniji koje služe kao paravan za sumnjive novčane transakcije. To stvara dojam da se ovdje radi o puno dubljem interesu osim isključivo kreiranja pornografskog sadržaja.
Zakonske regulative
Tek sredinom 2024. godine Vijeće Europske Unije donijelo je prvi zakonski akt o umjetnoj inteligenciji. Cilj mu je, između ostalog, osigurati poštivanje temeljnih ljudskih prava građana EU. U Republici Hrvatskoj je još 2021. godine uvedena zakonska izmjena prema kojoj je kao kazneno djelo proglašeno „zlouporaba snimke spolno eksplicitnog sadržaja“ uz sankcioniranje onih nedjela povezanih s deepfake pornografijom, uz propisane kazne zatvora od jedne do tri godine.
Na osnovu već spomenutog istraživanja, udruženje OsnaŽene prijavilo je slučaj i hrvatskoj policiji. Podnijele su prijavu o ilegalnom dijeljenju osvetničke i dječje pornografije. Naime, jedan korisnik u jednoj od grupa tražio je snimke silovanja i slao je slike djevojčica i djevojaka. Poslale su i IP adresu i sve što su od tog korisnika zabilježile. Nisu još javile jesu li dobile kakvu reakciju od policije.
Iako je osvetnička pornografija problem u svim zemljama, one zemlje koje nisu uvele navedene zakonske izmjene i koje ne tretiraju deepfake pornografiju kao kazneno djelo u puno su većem riziku od širenja i distribucije iste, što nam pokazuju i slučajevi u Srbiji.
Kako se boriti protiv pornografskog nasilja nad ženama?
Prema analizi udruženja OsnaŽene, osvetnička pornografija je posljedica nekoliko faktora. Neki od njih su patrijarhalni obrasci ponašanja u društvu, rodna nejednakost, emocionalne traume, kulturni i socijalni utjecaj te nedostatak obrazovanja o pravima i dostojanstvu drugih ljudi, nedostatak empatije kao i osobne frustracije korisnika takvog sadržaja.
Za početak je potrebno dosljedno provođenje mjera za suzbijanje ovakvog oblika nasilja nad ženama. Ako Telegram može podijeliti IP adresu svojih korisnika s policijom u slučaju da je korisnik njezinih botova osumnjičen za npr. terorizam, ne postoji niti jedan razlog da se ista sigurnosna procedura ne implementira i u slučaju kaznenog djela distribucije pornografskog sadržaja tj. osvetničke pornografije.
Umjetna inteligencija je brzorastuća tehnologija današnjice čiji je razvoj nemoguće niti predvidjeti niti zaustaviti. No, moguće je donekle staviti je pod kontrolu. Mnogi kritičari se s pravom pribojavaju njezinog utjecaja na sigurnost i privatnost građana, ali i mogućih zloupotreba od strane raznih interesnih grupa. Nažalost, i ovdje se pokazuje da se najranjivije skupine u društvu, kao što su žene i djeca, ponovno iskorištavaju za nečije kriminalne interese.
Osim radikalnog pooštravanja zakona i dosljednog provođenja, potrebno je poticati, osnaživati i ohrabrivati žene da prijave svaki oblik zlostavljanja koje doživljavaju. Kako u stvarnom, tako i u virtualnom okruženju. Zadaća obrazovnih institucija i udruga civilnog društva jest da upozoravaju na ovakve pojave. Da stalno iznova promiču rodnu ravnopravnost i educiraju žrtvu o njezinim pravima. I, kada je god moguće i poželjno, da pruže podršku.
Ako ste i same doživjele ovakav oblik kaznenog djela, svoj slučaj možete prijaviti nadležnoj policijskoj upravi. A možete se obratiti i nekoj od organizacija koje se time bave, kako bi vam pružile podršku.
*Članak je objavljen u sklopu projekta “Ravnopravno!”. Sufinancira ga Agencija za elektroničke medije (Fond za poticanje pluralizma i raznovrsnosti elektroničkih medija).
