„Facebook“ skelbimų algoritmai vis dar neleidžia moterims matyti darbo

Ponia Tech | Pexelis

Remiantis naujausiu jos skelbimų tarnybos auditu, „Facebook“ sulaiko tam tikrus darbo skelbimus moterims dėl jų lyties.

Auditas Nepriklausomų Pietų Kalifornijos universiteto (USC) mokslininkų atliktas tyrimas atskleidžia, kad „Facebook“ skelbimų pateikimo sistema rodo skirtingus darbo skelbimus moterims ir vyrams, net jei darbas reikalauja tos pačios kvalifikacijos. Tai laikoma diskriminacija dėl lyties pagal JAV lygių įsidarbinimo galimybių įstatymą, kuris draudžia skelbimų taikymą pagal saugomas savybes. Išvados padarytos nepaisant ilgus metus trukusių advokatų ir ieškinių bei po Facebook pažadų peržiūrėti reklamų pateikimą.

Tyrėjai užsiregistravo kaip reklamuotojai „Facebook“ ir nusipirko porą skelbimų apie darbus, turinčius identišką kvalifikaciją, bet skirtingą realaus pasaulio demografiją. Jie skelbė dvi pristatymo vairuotojo darbo vietas, pavyzdžiui: vieną Domino (picos pristatymas) ir kitą Instacart (bakalėjos prekių pristatymas). Šiuo metu daugiau vyrų nei moterų vairuoja „Domino“ ir atvirkščiai – „Instacart“.

Nors auditorija nebuvo nurodyta remiantis demografine informacija, „Facebook“ funkcija išjungta būsto, kredito ir darbo skelbimams 2019 m. kovo mėn., išsprendus kelis ieškinius, algoritmai skelbimus vis tiek rodė statistiškai skirtingoms demografinėms grupėms. Domino reklama buvo parodyta daugiau vyrų nei moterų, o Instacart reklama buvo parodyta daugiau moterų nei vyrų.

Tyrėjai nustatė tą patį modelį su skelbimais apie kitas dvi darbo poras: programinės įrangos inžinierius, skirtus Nvidia (kreiptas vyras) ir Netflix (kreiptas moteris), ir automobilių (kreivos vyriškos lyties) ir papuošalų (kreivos moteriškos lyties atstovų) pardavėjus.

Išvados rodo, kad „Facebook“ algoritmai kažkaip prisitaiko prie dabartinio šių darbų demografinio pasiskirstymo, kuris dažnai skiriasi dėl istorinių priežasčių. (Tyrėjai negalėjo suprasti, kodėl taip yra, nes „Facebook“ nepasakys, kaip veikia jos skelbimų pateikimo sistema.) „Facebook“ atkuria tuos iškrypimus, kai pateikia skelbimus, net jei nėra jokio kvalifikacijos pagrindimo, sako docentė Aleksandra Korolova. USC, kuri kartu su kolega Johnu Heidemannu kartu su savo kolega Johnu Heidemannu ir jų mokslų daktaru patarė Basileal Imana.

Susijusi istorija

Kaip „Facebook“ tapo priklausomas nuo dezinformacijos skleidimo

Bendrovės AI algoritmai suteikė jai nepasotinamą įprotį meluoti ir neapykantą kurstyti. Dabar juos pastatęs žmogus negali išspręsti problemos.

Tyrimas pateikia naujausius įrodymus, kad „Facebook“ neišsprendė savo reklamos diskriminacijos problemų nuo tada, kai pirmą kartą pasirodė „ProPublica“. iškėlė šią problemą 2016 m. spalio mėn . Tuo metu „ProPublica“ atskleidė, kad platforma leido darbo ir būsto reklamuotojams išskirti tam tikras auditorijas, kurioms būdingi tokie bruožai kaip lytis ir rasė. Tokios grupės gauna specialią apsaugą pagal JAV įstatymus, todėl tokia praktika yra neteisėta. „Facebook“ prireikė dvejų su puse metų ir kelių teisinių susirėmimų kad pagaliau pašalintumėte šią funkciją .

Tačiau po kelių mėnesių JAV būsto ir miestų plėtros departamentas (HUD) iškėlė naują ieškinį, teigdamas, kad „Facebook“ skelbimų pateikimo algoritmai vis dar išskiria būsto skelbimų auditorijas, o reklamuotojas nenurodė išimčių. Nepriklausomų tyrinėtojų komanda, įskaitant Korolovą, vadovaujama Šiaurės rytų universiteto Muhammado Ali ir Piotro Sapieżyńskio, po savaitės tuos kaltinimus patvirtino . Pavyzdžiui, jie nustatė, kad parduodami namai dažniau buvo rodomi baltiesiems vartotojams, o nuomojami namai – mažumos naudotojams.

Korolova norėjo dar kartą peržiūrėti šį klausimą atlikdama savo naujausią auditą, nes įrodinėjimo našta dėl diskriminacijos darbo vietoje yra didesnė nei dėl būsto diskriminacijos. Nors bet koks skelbimų rodymo iškreipimas, pagrįstas saugomomis savybėmis, yra neteisėtas būsto atveju, JAV darbo teisės aktai mano, kad tai pateisinama, jei iškreipimas atsiranda dėl teisėtų kvalifikacijos skirtumų. Naujoji metodika kontroliuoja šį veiksnį.

Eksperimento planas yra labai švarus, sako Sapieżyński, kuris nedalyvavo naujausiame tyrime. Nors kai kurie galėtų ginčytis, kad automobilių ir papuošalų pardavimo partneriai iš tiesų turi skirtingą kvalifikaciją, jis sako, kad skirtumai tarp picos pristatymo ir bakalėjos pristatymo yra nereikšmingi. Jis priduria, kad šių lyčių skirtumų negalima paaiškinti lyčių kvalifikacijų skirtumais ar kvalifikacijos trūkumu. „Facebook“ nebegali teigti, kad [tai] ginama pagal įstatymą.

Šis auditas paskelbtas intensyviai tikrinant „Facebook“ AI šališkumą. Kovo mėnesį MIT technologijų apžvalga paskelbė rezultatus devynis mėnesius trukęs tyrimas Į bendrovės atsakingą AI komandą, kuri išsiaiškino, kad komanda, pirmą kartą suformuota 2018 m., nepaisė tokių klausimų kaip algoritminis dezinformacijos stiprinimas ir poliarizacija, nes ji mirksėjo AI šališkumu. Kompanija paskelbė tinklaraščio įrašą Netrukus po to pabrėždami šio darbo svarbą ir ypač sakydami, kad „Facebook“ siekia geriau suprasti galimas klaidas, kurios gali turėti įtakos mūsų skelbimų sistemai, kaip dalį mūsų nuolatinio ir platesnio darbo, skirto tirti skelbimų algoritmų teisingumą.

„Mes ėmėmės prasmingų veiksmų, kad išspręstume diskriminacijos skelbimuose problemas, ir šiandien sudarėme komandas, kurios dirba siekdamos sąžiningumo reklamoje“, – sakoma „Facebook“ atstovo Joe Osborno pranešime. „Mūsų sistema atsižvelgia į daugelį signalų, kad pabandytume teikti žmonėms skelbimus, kurie juos labiausiai domins, tačiau suprantame ataskaitoje iškeltą susirūpinimą... Mes ir toliau glaudžiai bendradarbiaujame su pilietinių teisių bendruomene, reguliavimo institucijomis ir mokslininkais. šiais svarbiais klausimais.

Tačiau nepaisant šių teiginių, Korolova teigia, kad tarp 2019 m. audito ir šio audito nepastebėjo jokių „Facebook“ skelbimų pateikimo algoritmų veikimo pokyčių. Žvelgiant iš šios perspektyvos, tai iš tikrųjų labai nuvilia, nes mes atkreipėme į tai jų dėmesį prieš dvejus metus, sako ji. Ji taip pat pasiūlė bendradarbiauti su „Facebook“ sprendžiant šias problemas, sako ji. 'Mes nieko negirdėjome. Bent jau man jie nepasiekė.

Ankstesniuose pokalbiuose bendrovė teigė negalinti aptarti detalių, kaip ji dirba siekdama sumažinti algoritminę diskriminaciją savo skelbimų tarnyboje dėl vykstančio bylinėjimosi. Skelbimų komanda teigė, kad jos pažangą ribojo techniniai iššūkiai.

Sapieżyńskis, dabar atlikęs tris platformos auditus, sako, kad tai neturi nieko bendra su šia problema. Jis sako, kad „Facebook“ vis dar turi pripažinti, kad yra problema. Kol komanda sprendžia techninius nesklandumus, priduria jis, yra ir lengvas tarpinis sprendimas: jis gali išjungti algoritminį skelbimų taikymą būtent būsto, užimtumo ir skolinimo skelbimams, nepaveikdamas likusių paslaugų. Iš tikrųjų tai tik politinės valios klausimas, sako jis.

Christo Wilsonas, kitas Northeastern tyrėjas, tyrinėjantis algoritminį šališkumą, bet nedalyvavęs Korolovos ar Sapieżyńskio tyrime, sutinka: kiek kartų tyrėjams ir žurnalistams reikia rasti šias problemas, kad sutiktume, kad visa skelbimų taikymo sistema bankrutuoja?

paslėpti