Na Instagramu inicijative „My voice, my choice Croatia“ početkom mjeseca objavljen je post u kojem se navodi da je 98 posto deepfake sadržaja pornografija te da su žene meta u 99 posto slučajeva. Uz to, autori_ice objave su dodali_e: „Ako te ovo ne čini bijesnom, nisi obraćala pažnju“.
S obzirom na to da nije navedeno odakle su podaci, odlučile smo provjeriti te dvije tvrdnje.
O deepfake sadržajima smo pisale prije dvije godine u članku „Žene mete AI generiranih napada“. U njemu navodimo i da je istraživanje „State of deepfakes“ pokazalo da je 2023. godine deepfake videa koji kruže online bilo 550 posto više nego li 2019. godine. U 98 posto slučajeva radilo se o pornografskom sadržaju, a žrtve tog sadržaja su u 99 posto slučajeva bile žene.
Koliko deepfake sadržaja je pornografsko?
Ipak, od tog istraživanja je prošlo tri godine, a razvoj AI alata, a s njima i deepfake sadržaja je u konstantnom uzletu te je sve dostupniji. Pa, što kažu novija istraživanja?
Noviji pregledi literature, znanstveni radovi, kao i provjera točnosti informacija, nakon 2023. godine, pozivaju se upravo na brojke „State of deepfakes“ istraživanja, ali i upozoravaju da je empirijskih istraživanja deepfake pornografije vrlo malo (1,2,3). Nadalje, recentna istraživanja AI generiranu pornografiju opisuju kao širu kategoriju koja obuhvaća različite vrste sadržaja – od deepfake sadržaja koji koriste lica stvarnih osoba, do umjetno generirane pornografije koja prikazuje potpuno izmišljene osobe (1,2). Također, takav sadržaj nije ograničen samo na videozapise. Rad iz 2025. godine „Experiences with AI-Generated Pornography: A Quantitative Content Analysis of Reddit Posts“, navodi da takav sadržaj može biti tekstualan, audio, slikovni ili kombinacija navedenoga.
Na tom tragu, sustavni pregled empirijskih istraživanja Alene Birrer i Natasche Just „What we know and don’t know about deepfakes: An investigation into the state of the reasearch and regulatory landscape“, objavljen 2024. godine, upozorava da u znanstvenoj literaturi ne postoji univerzalna definicija deepfake sadržaja, kao ni konsenzus o medijima koje ti sadržaji obuhvaćaju.
Od 61 analiziranog rada koji je sadržavao deepfake definiciju, njih 36 u nju je uključivalo videozapise, 17 slike, a 15 audio sadržaj. Istraživačice pritom smatraju da nedostaju empirijski dokazi o njihovoj rasprostranjenosti. „Stoga se ne može izvući jasan zaključak o opsegu fenomena deepfakeova i njegovim specifičnim manifestacijama“, piše u radu.
Nastavljaju da su se „neke studije, također, pozivale na izvješće Deeptracea, nizozemske tvrtke za kibernetičku sigurnost, koje je otkrilo da je 96 posto od 14 678 identificiranih deepfake videa u 2019. bilo pornografsko. Prema izvješću Home Security Heroes iz 2023. godine, broj deepfake videa porastao je na 95 820 u toj godini, od čega je 98 posto bilo pornografske prirode. Međutim, teško je procijeniti jesu li to pouzdani brojevi i kako ih treba tumačiti“.
Dakle, iako se relevantna istraživanja i članici pozivaju na postotke koji se nalaze u objavi koju provjeravamo, važno je napomenuti da se postotak od 98 posto odnosi na deepfake video zapise, a ne na sve vrste deepfake sadržaja.
Tvrdnja se temelji na stvarnom podatku, no sustavni pregled literature naglašava da buduća istraživanja trebaju jasno definirati deepfake sadržaj i njegovu raznoliku primjenu te istražiti štetan i koristan utjecaj na pojedinca i društvo koji može imati, posebice izvan globalnog sjevera. Slična ograničenja navodi i International AI Safety Report objavljen ove godine.
Jesu li žene mete u 99 posto sadržaja?
Kao što ranije i navodimo, postotak koji provjeravamo ima svoje uporište u istraživanju „State of deepfakes“ iz 2023. godine. Prema njemu, žene su činile 99 posto osoba prikazanih u deepfake pornografiji. Novija istraživanja i pregledi literature, kao i u prethodnom slučaju, koristili su te podatke u svojim radovima (1,2).
Međutim i noviji podaci ukazuju na izrazitu rodnu neravnotežu među metama deepfake tehnologije. Istraživanje objavljeno prošle godine, „Deepfakes on Demand: The rise of accessible non-consensual deepfake image generators“, analiziralo je metapodatke gotovo 35 000 javno dostupnih deepfake modela, smještenih na vodećim mrežnim platformama koje služe za dijeljenje, preuzimanje i pohranu AI modela, skupova podataka i alata (pretežito na platformi Civitai).
Autori_ice navode da se modeli Stable Diffusion i Flux koriste i za stvaranje intimnih slika bez pristanka, pri čemu je više u više od 2000 detaljno analiziranih deepfake modela, 96 posto njih bilo usmjereno na žene. „Otkrili smo da deepfake modeli ciljaju pojedince, od slavnih osoba do korisnika Instagrama bez značajnog broja pratitelja“, stoji u istraživanju.
Navode i da njihov rad pokazuje da „mnogi deepfake modeli namjeravaju omogućiti izravno generiranje seksualnog sadržaja ili intimnih slika bez pristanka. Iako platforme za hosting modela imaju Uvjete pružanja usluge koji navodno zabranjuju takav sadržaj, naši nalazi sugeriraju da postoje rupe u zakonu i da nedostaje provedba, a deepfake modeli sposobni generirati NCII dostupni su na zahtjev”.
Na rodnu neravnotežu upozorava i ranije spomenuti International AI Safety Report objavljen ove godine. On sadrži zasebnu sekciju usmjerenu na umjetno generiran seksualni sadržaj koji disproporcionalno cilja djevojke i žene. U toj sekciji referiraju se na ranije navedene postotke i istraživanja.
Postoci imaju uporište, no važno je istaknuti i kontekst
Dakle, podaci koje na Instagramu navodi inicijativa „My voice, my choice Croatia“ imaju uporište u široko citiranom istraživanju „State of deepfakes“, uz napomenu da se to istraživanje odnosilo na deepfake video zapise, od kojih je 98 bilo pornografsko, a žene su činile 99 posto osoba prikazanih u njima. U tom kontekstu, tu izjavu možemo smatrati uglavnom točnom.
Ipak, kasniji pregledi literature i međunarodna izvješća upozoravaju da je za preciznije podatke o utvrđivanju rasprostranjenosti deepfake sadržaja, a tako i pornografije, potrebno jasno definirati što pojam deepfake obuhvaća i uzeti u obzir različite vrste sadržaja, kao i njegovu primjenu. Upozoravaju da su, u ovom trenutku, empirijska istraživanja na tu temu ograničena.
Nadalje, pregledi literature i istraživanja – iako sva ne potvrđuju brojku od 99 posto žena kao meta deepfake pornografskog sadržaja – ukazuju na to da postoji izrazita rodna neravnoteža. Odnosno, žene i djevojčice su nerazmjerno izložene seksualnom sadržaju generiranom umjetnom inteligencijom.
