Napredak i bolja sofisticiranost umjetne inteligencije nesumnjivo je pridonijela širenju dezinformacija. Posljedično, dezinformacijske kampanje postale su snažnije, učestalije i uspješnije. Utjecaj AI na izbore diljem svijeta već se puno puta problematizirao (1,2,3). Utjecaj razvoja umjetne inteligencije na širenje rodnih dezinformacija sve je češće prepoznat kao potencijalno velika prijetnja ženama i rodnim manjinama.
S poboljšanjem performansi umjetne inteligencije, otvorene su brojne mogućnosti manipulacije rodnim stereotipima koristeći lažne fotografije, video i audio zapise. Posljedica je nanošenje štete metama takvih dezinformacijskih kampanja i aktivnosti, ali i pritisak da se udalje iz javne arene. O posljedicama rodnih dezinformacija smo već pisale. No, s razvojem umjetne inteligencije one postaju još opasnije oruđe antirodnih pokreta i različitih interesnih grupa. Sadržaj koji se generira kroz AI je sve bolji i realističniji, ali i jeftiniji. Upravo to ga čini i dostupnijim. Više nije potreban tim osoba s različitim znanjima ili značajni resursi da bi se generirao lažan i/ili manipulativan sadržaj. Njegova kreacija danas oduzima znatno manje vremena i mogu ga kreirati različiti akteri/ice (bez obzira na razinu znanja). Upravo to pridonosi velikoj viralnost tog sadržaja.
Iako su i muškarci mete AI generiranih napada, istraživanja pokazuju da su žrtve umjetno generiranog sadržaja većinom žene (1,2,3). Na Libeli smo se te teme dotakle i kad smo pisale o „osvetničkoj pornografiji“ u Telegram grupama. No, za žene i pripadnice rodnih manjina koje su javno istaknute kao što su novinarke, aktivistkinje, političarke, sportašice, pjevačice, glumice i ostale javne osobe, takav sadržaj brzo postaje dio organiziranih dezinformacijskih aktivnosti i kampanja.
Mete AI generiranih rodnih dezinformacija
Krenimo s jednom naoko benignom manipulacijom. Regionalnim društvenim mrežama su se širile fotografije atraktivne žene s velikim grudima za koju se tvrdilo da je japanska ministrica zdravlja. Očekivano, komentari koji su pratili te fotografije su bili mahom seksistički s generalnim zaključkom „zašto mi nemamo takve političarke?“ Ispostavilo se da se radi o AI generiranoj fotografiji koja je nastala nakon zahtjeva da se kreira fotografija „političarke s velikim grudima“. Iako nije izravno nanijela štetu specifičnoj osobi, AI fotografija je produbila seksističke narative o političarkama.
No stvarna političarka kojoj se željela nanijeti šteta bila je Rumeen Farhana, bivša liderica opozicije u Bangladešu (1,2). Za tu AI manipulaciju je iskorišten Instagram video modela Lexi Brooke Rivera u kojem pozira u bikiniju na plaži. Naime, ma mjesto lica od Lexi, stavljeno je ono Rumeen Farhane. Prikaz Farhane u bikiniju u konzervativnoj zemlji usmjeren je na nanošenje štete njezinu ugledu.
Jedna od najčešćih meta dezinformacijskih kampanja je planetarno popularna Taylor Swift (1,2,3). Tako su početkom godine objavljene deepfake pornografske fotografije koje su se širile kroz platformu X. Iako su u nekom trenutku uklonjene, prije toga su dosegnule 47 milijuna pregleda. Recentni napad na Swift dolazi od američkog predsjedničkog kandidata Donalda Trumpa. Naime, on je na svom X profilu objavio da je dobio podršku pjevačice. Podijelio je fotografiju zajednice „Swifties for Trump“ na kojoj se nalaze AI fotografije obožavateljica popularne pjevačice s majicama koje daju podršku njegovoj kandidaturi. Išlo se toliko daleko da su neke fotografije uključivale i natpise da su se obožavatelji/ice Swift okrenuli/e Trumpu nakon otkazivanja koncerta u Austriji zbog prijetnje terorističkim napadom. Time ne samo da se dovodio kredibilitet Swift u pitanje (ranije je kritizirala Trumpa) već se ta dezinformacija „igrala“ i različitim rasističkim narativima kad govorimo o terorističkim prijetnjama.
Osim političarki i javnih osoba, vrlo česte mete rodnih dezinformacija su novinarke. Jedan od primjera je i Monika Tódová, slovačka nezavisna novinarka (1,2,3). Naime, dva dana prije parlamentarnih izbora prošle godine počela je kružiti snimka AI generiranog razgovora o izbornoj krađi na kojem se navodno pojavljuju Tódová i Michal Šimečka, predsjednik stranke „Progresivna Slovačka“. Iako su akteri, kao i portali koji se bave provjerom medijskih činjenica potvrdili neistinitost snimke, ona je već bila podijeljena među tisućama ljudi na različitim društvenim mrežama. A viralna je postala nakon što ju je na Telegramu podijelio bivši ministar pravosuđa Slovačke Štefan Harabin. Sve to jasno pokazuje pokušaje diskreditacije popularne nezavisne novinarke s ciljem širenja specifičnih političkih narativa u toj zemlji (ponajprije da je SAD uključen u ishod izbora).
Osim žena, na meti umjetno generiranih rodnih dezinformacija je često i LGBTIQ+ zajednica. Najrecentniji primjeri su oni za vrijeme ovogodišnjih Olimpijskih igara u Parizu. Uz dezinformacijsku kampanju i različite diskriminatorne napade, boksačicu Imame Khelif pratile su i manipulirane fotografije na kojima je prikazana s istaknutim genitalijama. Isto je kružilo društvenim mrežama i o transrodnoj plivačici Lii Thomas koja se zbog zabrane nije ni natjecala na OI, no društvene su mreže tvrdile drugačije. O tome smo pisale i na Libeli. Osim udara na samu zajednicu, prošle godine je kružila i slika pape Franje koji je ogrnut LGBTIQ zastavom, za koju se pokazalo da je umjetno generirana.
Staro – nova iliti konstantna meta AI generiranih dezinformacija je i Kamala Harris, potpredsjednica SAD-a i kandidatkinja za predsjednicu. Nedavno je Elon Musk objavio promotivni spot u kojem je manipulirano glasom Kamale Harris (1,2,3,4). Umjesto izvornih riječi u videu, Harris govori da je nesposobna, no da ju je Biden naučio kako da se to „zamaskira“, da je u utrci „marioneta“ i da je pogodna kandidatkinja jer je žena i nije bjelkinja. Osim glasa, manipulirano je i osobama koje su na samom videu. Iako Musk nije izvorno objavio taj video (na izvornoj objavi piše da se radi o parodiji), podijelio ju je na svom profilu bez da je naznačio da se radi o AI generiranom sadržaju. Video je pregledan više od 150 milijuna puta.
Time što nije naznačio da se radi o manipuliranom sadržaju, prekršena su pravila platforme X. Platforme koje je sam Musk vlasnik. Ovo, naravno, nije jedina dezinformacija vezana za Harris. Ona je godinama meta dezinformacijskih kampanja, ne samo zbog onog što čini već i zbog toga tko je (1,2,3,4).
Za vrijeme američke kampanje iz 2020 godine, Nina Jankowicz (suosnivačica i izvršna direktorica American Sunlight Projekta koja istražuje dezinformacije usmjerene ka ženama u politici) je rekla da je istraživanje koje se bavilo rodnim uznemiravanjem i dezinformacijama usmjerenim ka ženama u politici pokazalo da je u 78% slučajeva meta tog tipa zlostavljanja na društvenim platformama bila Kamala Harris. Narativ je bio seksistički, rasistički, ali i transfobni. Pisalo se da je „prespavala put do vrha“, da nije dovoljno crnkinja, ali i da je zapravo muškarac. Zanimljivo je da je i Jankowicz, kao osoba koja se bavi rodnim dezinformacijama bila meta AI generiranog pornografskog filma na kojem je navodno ona.
AI generiran sadržaj pojačava posljedice rodnih dezinformacija
AI generiran sadržaj svakako je novo oruđe u širenju rodnih dezinformacija. Takav sadržaj dodatno gradi seksističke i mizogine narative koji potom dodatno pojačavaju posljedice koje imaju rodne dezinformacije. A to je prikaz žena kao neadekvatnih za bavljenje nekim javnim aktivnostima (posebno politikom), utišavanje ženskih glasova u javnoj sferi kao i umanjivanje rada, djelovanja i stručnosti javno istaknutih žena i rodnih manjina (1,2).
Nedovoljne regulacije takvih sadržaja učinile su to da su oni danas prisutni na platformama koje manje – više svi koristimo, različitim društvenim mrežama. Istraživanje „State of deepfakes“ je pokazalo da je 2023. godine „deepfake“ videa koji kruže online bilo 550 posto više nego li 2019. godine, a 98 posto ih otpada na pornografski sadržaj. Žrtve tog tipa sadržaja u 99 posto slučajeva su žene. Također, pokazalo se da svaki treći „deepfake“ alat omogućuje korisniku kreiranje „deepfake” pornografije. Kao i da je potrebno manje od 25 minuta i nula troška da se kreira lažan pornografski video od 60 sekundi za kojeg je dovoljna jedna jasna fotografija lica aktera/ice.
Ono što je posebno problematično kod AI generiranih rodnih dezinformacija je njihova viralnost. Lažni razgovor u kojem se pojavljuje Tódová poslušale su tisuće ljudi u Slovačkoj, pornografske fotografije Taylor Swift imale su više od 47 milijuna pogleda, a AI modificiran promotivni spot Kamale Harris je prikazan više od 150 milijuna puta. Ako i postoji sumnja ili čak znanje da se radi o lažno kreiranom sadržaju, takve fotografije i snimke nanose trajnu štetu ženama koje su dio njih. Utječu na njihove karijere, obiteljske, romantične i ostale odnose. Čak i ako se jako potrude ukloniti ih s Interneta, nikad nisu sto posto sigurne da su uklonjene. Tko zna tko ih je skinuo i kada će ih ponovno plasirati u online sferu?
Takav tip napada stalno nanovo pokazuje da neovisno o tome koliko je žena uspješna, ona se uvijek može svesti na seksualni objekt. Iako se to činilo i kroz „uobičajene“ rodne dezinformacije, viralnost i atraktivnost AI generiranih rodnih dezinformacija to još pojačava. Dodatno je zabrinjavajuće, kao što ranije navedeni primjeri i pokazuju, što je ovaj tip dezinformiranja oruđe koje koriste jako moćni muškarci u javnoj areni kao što su Donald Trump i Elon Musk.
Ograde od odgovornosti ili stvarne regulacije
Različite društvene mreže, aplikacije i programi imaju politike kojima reguliraju manipulirane sadržaje koji se objavljuju ili kreiraju putem njih (1,2,3,4).
Tako primjerice korisnici i korisnice YouTube-a moraju označiti jesu li koristili AI prilikom izrade videa ili im prijeti suspenzija. Open AI programi kao što su DALL-E ili Midjourney kreirali su različita ograničenja povezana s javnim osobama, nasilnim ili seksualnim sadržajem i/ili govorom mržnje. TikTok je u srpnju uveo regulativu da će oglasi koji su koristili AI to morati naznačiti putem AIGC oznake postavljene na oglas. Cara, platforma na kojoj umjetnici i umjetnice stavljaju svoje radove i o njima raspravljaju, je primjerice u potpunosti zabranila AI.
I EU je ove godine donijela prvu uredbu o umjetnoj inteligenciji. Parlament je usvojio zakon o umjetnoj inteligenciji u ožujku od 2024., a Vijeće ga je odobrilo u svibnju ove godine. U potpunosti će biti primjenjiv 24 mjeseca od stupanja na snagu iako će neki dijelovi biti primjenjivi ranije. Prioritet ovog zakona je osigurati da su programi umjetne inteligencije koji se koriste u EU sigurni, transparentni, sljedivi, nediskriminirajući i ekološki prihvatljivi. Smatraju da sustave umjetne inteligencije trebaju nadzirati ljudi, a ne automatizacija, kako bi se spriječili štetni ishodi.
U posljednjih godinu dana jasno je da se kontinuirano radi na AI kontroli kako bi se zaštitile ranjive skupine društva. Ipak, još uvijek postoje načini da se regulacije zaobiđu i da različit manipuliran sadržaj i dalje bude objavljen na mrežama koje su to pitanje načelno regulirale (1,2). Ostaje nam vidjeti jesu li kontrole koje se sve češće kreiraju vezane za AI alate, kao i zakonske uredbe, načelna ograda od odgovornosti ili će polučiti stvarnim regulacijama koje će smanjiti mizogini, seksistički i pornografski sadržaj usmjeren ka ženama. Time se otvara prostor i da se posljedično smanji doseg i mogućnost AI generiranih rodnih dezinformacija. Ako se to ne dogodi, možda smo tek na početku AI rodno dezinformacijskih kampanja.
*Projekt GenderFacts se financira kroz bespovratna sredstva iz sredstava Mehanizma za oporavak i otpornost. Ona su dodijeljena od strane Agencije za elektroničke medije. Izneseni stavovi i mišljenja samo su autorova i ne odražavaju nužno službena stajališta Europske unije ili Europske komisije, kao ni stajališta Agencije za elektroničke medije. Europska unija i Europska komisija ni Agencija za elektroničke medije ne mogu se smatrati odgovornima za njih.
