Generatory obrazów AI mają… uprzedzenia ze względu na płeć

Według sztucznej inteligencji, jeśli ktoś uprawia prestiżowy zawód, to zazwyczaj jest to mężczyzna.

Badacze z Akademii Leona Koźmińskiego – dr Anna Górska i prof. Dariusz Jemielniak – zlecili dziewięciu popularnym generatorom obrazów opartym na AI zadanie wygenerowania wizerunków osób takich jak: prawnik, lekarz, inżynier i naukowiec (są to prestiżowe zawody wg Global Teacher Status Index 2018). Naukowcy opisali to zadanie w języku angielskim, aby zachować pełną neutralność płciową. Jak się jednak okazało, wyniki nie były płciowo neutralne.  

Wykorzystano następujące generatory obrazów AI: Dall-E 2, Crayion, Midjourney, Wombo, Hotpot.AI, NeuralBlender, Hypnogram, HugginFace, StarryAI.

W sumie AI wygenerowała 99 grafik. Mężczyźni byli reprezentowani na 76 proc. z nich, a kobiety jedynie na 8 proc.

Kiedy z analizy wykluczono postacie „nieludzkie” i „dwuznaczne”, dystans pomiędzy reprezentacją obu płci jeszcze się zwiększył – do 91 proc. na korzyść mężczyzn. 

Co ciekawe, najmniejszą reprezentację kobiet zaobserwowano wśród lekarzy – zaledwie 7 proc. Tymczasem według danych OECD (2021) kobiety w niewirtualnym świecie stanowią niemal połowę osób pracujących w tym zawodzie. Z kolei w Polsce – jak podaje Biuletyn Statystyczny – lekarki stanowią niemal 60 proc. uprawnionych do wykonywania tego zawodu.  

Z ciekawości sprawdziłam, jak wygląda reprezentacja obu płci w innych prestiżowych zawodach. Wśród prawników – radców prawnych i adwokatów – kobiety stanowią w Polsce 51 proc. (dane za 2018). Wśród naukowców i inżynierów –  od niespełna 40 proc. w przemyśle do 64 proc. w branży usługowej (Eurostat 2022).

Ale rzeczywistość sobie, a internet sobie. Wcześniejsze analizy algorytmów wyszukiwania obrazów Google wykazały, że kobiety były niedostatecznie reprezentowane na zdjęciach przedstawicieli takich stanowisk jak dyrektor generalny, programista i biolog, zaś nadreprezentowane na gorzej płatnych stanowiskach, takich jak pielęgniarz i nauczyciel w szkole podstawowej. 

W badaniach naukowców z Akademii Koźmińskiego siedem z dziewięciu generatorów AI generowało głównie obrazy postrzegane jako ludzkie. Hypnogram i StarryAI odbiegały od normy, a ich wizualizacje zawodów były często postrzegane jako nieludzkie i/lub niejednoznaczne. Jedynym generatorem sztucznej inteligencji, który prezentował więcej kobiet niż mężczyzn, był HotPotAI – z udziałem kobiet na poziomie 67 proc. Większość pozostałych generatorów prezentowała mężczyzn na ponad trzech czwartych wszystkich wizualizacji, jeśli weźmiemy pod uwagę jedynie odpowiedzi identyfikowane jako męskie lub żeńskie.

Skąd u AI uprzedzenia ze względu na płeć?

Oczywiście trzeba podkreślić, że generatory obrazów AI nie biorą z sufitu nadreprezentacji mężczyzn w prestiżowych zawodach. 

Po pierwsze, czerpią wzorce z internetowych zasobów wytwarzanych przez ludzkość. Badacze z Akademii Koźmińskiego wskazują, że narzędzia AI wykorzystują głównie zachodnie bazy, w tym np. magazyny, seriale i książki, w których stereotypy płciowe są mocno utrwalone, a więc istnieje tam nadreprezentacja starszych białych mężczyzn ukazywanych jako specjalistów. 

Ponadto, zdaniem naukowców, twórcy algorytmów, czyli programiści, importują różnorodne wartości do AI, a niektóre z nich najprawdopodobniej nieświadomie wspierają seksizm. Zdominowana przez mężczyzn branża programistów jest mało inkluzywna, co odzwierciedlają w jakimś stopniu algorytmy.

Dr Górska podkreśla, że generowane przez sztuczną inteligencję obrazy wpływają na postrzeganie opinii publicznej i rzeczywistość społeczną. Prowadzi to do normalizacji stereotypowych poglądów i wzmacniania istniejących nierówności płciowych.

Powszechne przekonanie, że algorytmy i sztuczna inteligencja są z natury obiektywne, jest błędne. Technologia zawsze odzwierciedlała uprzedzenia i stereotypy, bo bazy danych optymalizują i wdrażają ludzie

– mówi dr Górska.

Źródło

Nie jesteśmy portalem. To blog tworzony przez dwie osoby – Olę i Piotra (a ten tekst napisałam ja, czyli Ola). Jeśli mój tekst Ci się spodobał, do czegoś się przydał lub coś wyjaśnił – to świetnie. Wkładamy w nasze materiały dużo pracy, starając się, by były rzetelne i zrozumiałe. Jeśli chcesz, możesz w zamian podarować nam wirtualną kawę. Będzie nam bardzo miło. Dziękujemy 🙂