Algorytmy Facebooka nadal dyskryminują kobiety

Audyt, przeprowadzony przez niezależnych badaczy z Uniwersytetu Południowej Kalifornii (USC), ujawnił, że system dostarczania reklam na Facebooku wyświetla różne ogłoszenia o pracę kobietom i mężczyznom, mimo że praca ta wymaga dokładnie tych samych kwalifikacji. Zgodnie z amerykańskim prawem dotyczącym równych szans w zatrudnieniu, które zakazuje kierowania reklam na podstawie chronionych cech, jest to uważane za dyskryminację ze względu na płeć. Odkrycia pojawiają się pomimo wielu lat propagowania i procesów sądowych, a także po obietnicach Facebooka dotyczących zmiany sposobu dostarczania reklam.

Naukowcy zarejestrowali się jako reklamodawca na Facebooku i kupili pary reklam ofert pracy z identycznymi kwalifikacjami, ale różnymi danymi demograficznymi w świecie rzeczywistym. Ogłosili dwa stanowiska jako kierowca dostawczy, na przykład: jedno dla Domino’s (dostawa pizzy) i drugie dla Instacart (dostawa artykułów spożywczych). Obecnie więcej mężczyzn niż kobiet jeździ dla Domino's i odwrotnie dla Instacart. Chociaż na podstawie danych demograficznych nie określono żadnej grupy odbiorców, algorytmy nadal wyświetlały reklamy statystycznie różnym grupom demograficznym. Reklama Domino była wyświetlana częściej mężczyznom niż kobietom, a reklama Instacart dokładnie odwrotnie. Naukowcy znaleźli ten sam wzorzec w reklamach dwóch innych par zawodów: inżynierów oprogramowania dla Nvidii (preferowany mężczyzna) i Netflix (preferowana kobieta) oraz sprzedawców samochodów (mężczyzna) i biżuterii (kobieta).

Wyniki sugerują, że algorytmy Facebooka w jakiś sposób wychwytują obecną dystrybucję demograficzną tych zawodów, która często różni się ze względów historycznych. Badacze nie byli w stanie stwierdzić, dlaczego tak się dzieje, ponieważ Facebook nie zdradza, jak działa jego algorytm. - Facebook odtwarza te zniekształcenia, gdy dostarcza reklamy, mimo że nie ma uzasadnienia kwalifikacji - mówi Aleksandra Korolova, analityk adiunkt w USC, która była współautorką badania wraz ze swoim kolegą Johnem Heidemannem i ich doradcą doktorskim Basileal Imana.

Badanie dostarcza najnowszych dowodów na to, że Facebook nie rozwiązał problemów związanych z dyskryminacją reklam, odkąd ProPublica po raz pierwszy ujawniła tę kwestię w październiku 2016 r. W tamtym czasie ProPublica ujawniła, że ​​platforma pozwalała reklamodawcom ofert pracy i mieszkań na wykluczenie niektórych odbiorców charakteryzujących się cechami jak płeć i rasa. Stwierdzono na przykład, że domy na sprzedaż były częściej pokazywane użytkownikom białym, a domy do wynajęcia częściej użytkownikom mniejszościowym.