Negdje između 2022. i 2024. godine, svijet je ušao u novo poglavlje.
ChatGPT je lansiran u studenom 2022. godine i u gotovo dva mjeseca dostigao je 100 milijuna aktivnih korisnika, rekord do tada neviđen u povijesti interneta. Do 2025. godine, prema podacima Microsoftovog AI Economy Instituta, oko 16,3 posto svjetske populacije redovito koristi AI alate, što znači da će jedna od šest osoba, zasigurno koristiti AI. ChatGPT je peta najposjećenija web stranica na planeti, odmah iza Googlea (koji je, usput-budi-rečeno, u svoju tražilicu implementirao AI alat koji je nemoguće potpuno isključiti u postavkama), YouTubea, Facebooka i Instagrama.
Nije pretjerano reći da smo ušli u doba ozbiljne tehnokracije. Stanford HAI AI Index bilježi da je čak 78 posto organizacija koristilo AI u 2024. godini, što je popriličan porast, s obzirom na 55 posto onih koji su koristili AI alate godinu ranije. Investicije u AI kompanije i alate dostigle su 258,7 milijardi dolara u 2025. godini. Drugim riječima, tvrtke koje se bave umjetnom inteligencijom privukle su više od 60 posto globalnih ulaganja rizičnog kapitala prošle godine.
Istovremeno, AI je danas dio našeg svakodnevnog i profesionalnog života. Ugrađen je u tražilice, Gmail, HR software, nadzor zaposlenika i selekciju životopisa, medicinske dijagnostičke sustave i različite javne usluge. I ne čini se da će ugrađivanje AI komponenti uskoro stati.
Koga mijenja AI revolucija?
Kada pogledam iza fasade neutralnosti i efikasnosti umjetne inteligencije, pitam se za koga je, zapravo, ova „revolucija“?
Odgovor baš i nije ohrabrujući – za žene. Prema podacima Međunarodne organizacije rada (ILO), zanimanja u kojima dominiraju žene gotovo su dvostruko više izložena umjetnoj inteligenciji, od onih u kojima dominiraju muškarci, čak njih 29 posto naspram 16 posto. Pri kategoriji najviših razina rizika digitalne automatizacije rada, razlika je još drastičnija: 16 posto zanimanja u kojima dominiraju žene spada u tu kategoriju, nasuprot samo tri posto zanimanja u kojima dominiraju muškarci.
Na razini pojedinih zemalja, žene su više izložene od muškaraca u čak 88 posto analiziranih zemalja, pri čemu ILO identificira tri strukturna razloga: žene su prekomjerno zastupljene u zanimanjima najpodložnijim automatizaciji rada, nedovoljno su zastupljene u AI i STEM sektorima, a i sami AI sustavi perpetuiraju i reproduciraju obrasce rodne pristranosti, već ugrađene u društvo.
Pritom ILO upozorava da najrašireniji utjecaj umjetne inteligencije neće biti nestanak poslova, nego promjena njihove kvalitete, odnosno intenziviranje radnih opterećenja, pojačan nadzor i smanjenje autonomije.
Dakle, nije slučajno da su svi vodeći AI sustavi koji danas oblikuju tržišta rada, javni diskurs i životne prilike milijarde ljudi, nastali u organizacijama kojima upravljaju upravo muškarci. To su redom: Sam Altman (OpenAI/ChatGPT), Sundar Pichai (Google/Gemini), Dario Amodei (Anthropic/Claude), Satya Nadella (Microsoft). Sve od reda muška lica koja donose odluke o infrastrukturi budućnosti pa tako i budućnosti koja se tiče žena.
AI modeli uče na podacima, a podaci odražavaju svijet koji ih je proizveo, sa svim nejednakostima, predrasudama i isključivanjima.
Možda je vrijeme da dosita pogledamo u to ogledalo.
Žene kao uslužne, submisivne figure AI alata
Prema studiji UNESCO-a iz 2024., veliki jezični modeli (LLM) sustavno portretiraju žene u kućanskim ili podređenim ulogama, asocirajući ih s riječima poput „dom“, „obitelj“ i „djeca“, dok muškarcima dodjeljuju termine poput „rukovoditelj“, „posao“, „karijera“. Sjetimo se Alexe, Siri, Cortane, Google Asistenta, AI tehnologije, koje koriste upravo ženski glas kao zadan. Sve su programirane da budu uslužne, empatične, strpljive, submisivne. UNESCO je u svojem izvješću istaknuo da ovaj dizajnerski izbor nije slučajan niti bezazlen jer virtualni osobni asistenti reproduciraju ideju žene kao uslužne, submisivne figure koja je tu da pomaže.
Stanford HAI AI Index potvrđuje da mnogi napredni LLM-ovi, uključujući GPT-4 i Claude 3 Sonnet, još uvijek pokazuju implicitne pristranosti, asocirajući žene s humanističkim, a muškarce sa STEM poljima. Uz to, favoriziraju muškarce u kontekstu rukovodećih uloga, čak i kada su određene mjere za suzbijanje predrasuda ugrađene.
Deepfake i s njim povezano nasilje je u eri AI nevjerojatno lako proizvesti
Nadalje, osim što žene pokušava re-tradicionalizirati, AI tehnologija predstavlja velik problem u kontekstu utiranja puta novim načinima seksualnog uznemiravanja.
Tako su tijekom Zimskih olimpijskih igara ove godine u Milanu, korisnici na 4chanu i sličnim platformama vrlo jednostavno kreirali i dijelili gole, seksualizirane AI slike američkih sportašica, uključujući klizačice Alysu Liu, Amber Glenn i Isabeau Levito, te skijašice Mikaelu Shiffrin i Eileen Gu.
Takve slike muških sportaša jednostavno se nisu pojavile. Njihovo ime i prezime, kao i svi sportski uspjesi u karijeri, u potpunosti zasjenjeni eksplicitnim seksualiziranim slikama, nisu se povlačili po medijima.
Olimpijada je samo potvrdila ono što pokazuju trendovi već neko vrijeme. Upravo deepfake videozapisi i slike premašili su sve ostale AI incidente zajedno od 2023. godine nadalje.
UN-ova analiza iz prošle godine pokazala je da AI pogoršava i intenzivira mogućnost stvaranja deepfakes-a, seksualnog uznemiravanja, sextortion-a i širenja masovnih dezinformacija. Sve navedeno u mnogo većoj mjeri pogađa djevojčice i žene, a posebno one u javnom životu. Jasno je da to utječe, ne samo na profesije žena, već i njihove privatne živote. Ali i na način na koji djevojčice uče percipirati svijet u kojem moraju pronaći svoje mjesto i profesiju.
AI alati za zapošljavanje favoriziraju muške kandidate
Osim izravnog nasilja, AI producira i suptilniju, ali jednako sistematsku štetu kroz sustave koji donose odluke. Amazonov algoritam za skeniranje životopisa favorizirao je muške kandidate u IT industriji, učen i vođen podatcima iz proteklih 10 godina. Sustav je negativno bodovao životopise koji su sadržavali riječ “women’s”, poput članstva u ženskim klubovima ili diplome sa ženskih sveučilišta, dok je pozitivno vrednovao glagole poput “executed” i “captured”, koji se češće pojavljuju u životopisima muških inženjera. Facebookov algoritam za distribuciju oglasa za posao proglašen je nezakonitim od strane francuskog regulatora, utvrdivši da se oglas za voditelja_icu IT organizacije u 85 posto slučajeva prikazuje muškim korisnicima, a oglas za odgajatelja_icu u vrtiću u 94 posto slučajeva ženskim korisnicama, čak i kada oglašivači nisu zadali nikakve rodne parametre.
Iznenađuje li me to? Nažalost, kao ženu, ne.
Važno je shvatiti da rodna pristranost u AI sustavima nije bug koji čeka popravak. Ona je izgrađen i vrlo postojan konstrukt, logična posljedica onoga tko dizajnira sustave, podataka na kojima su sustavi trenirani i (muškog) interesa ovog društva.
AI ima svojih prednosti, no za koga?
Temeljni problem nastaje kada algoritmi uče iz stvarnosti koja je prepuna nejednakosti bez dovođenja u pitanje problematičnosti iste. Tako rodna neravnopravnost i pristranost prestaju biti „eksperimentalna pogreška“ i postaju razvojni problem koji potom isključuje ionako marginalizirane skupine.
Iako EU AI Act (2024.) uspostavlja regulatorni okvir za upravljanje AI sustavima, on se u području zaštite osobnih podataka oslanja na kategorije uspostavljene u GDPR-u. Karagianni argumentira da taj okvir ne adresira nužno strukturne pristranosti ugrađene u AI tehnologije. Konkretno, rod nije izričito naveden kao posebna kategorija osobnih podataka prema članku 9. GDPR-a (za razliku od, primjerice podataka o seksualnoj orijentaciji ili zdravlju), što ograničava mogućnost učinkovite zaštite od rodno uvjetovane diskriminacije u digitalnim sustavima.
Dakle, jasno je da AI tehnologija može imati svoje prednosti. No pitamo li se dovoljno za koga i na koji način? Osim stravičnih ekoloških posljedica koje donosi, deepfake videozapisa, AI psihoze, algoritamska diskriminacija u zapošljavanju i kreditnom scoringu, izgleda da umjetna inteligencija pogoduje obliku društva protiv kojeg se borimo već desetljećima – patrijarhatu.
Žene su, već po ne znam koji put, drugotne, nešto protiv čega sam još jučer marširala. I na to ne smijemo zatvoriti ni oči niti usta. Završit ću s Ricaurte koja ističe da AI nije neutralan tehnički proces, već nastavak kapitalizma, kolonijalizma i patrijarhata u digitalnom obliku.
Kako kaže María Galindo, čiju misao Ricaurte preuzima: “Ne možeš depatrijarizirati bez dekoloniziranja. Ne možeš dekolonizirati bez depatrijariziranja.”
