„LinkedIn“ darbo suderinimo AI buvo šališkas. Įmonės sprendimas? Daugiau AI.

Ponia Tech | Envato

Prieš daugelį metų „LinkedIn“ atrado, kad rekomendacijų algoritmai, kuriuos ji naudoja siekdama suderinti kandidatus su galimybėmis, davė šališkus rezultatus. Algoritmai kandidatus reitingavo iš dalies pagal tai, kokia tikimybė, kad jie kandidatuos į pareigas arba atsakys į darbdavį. Sistema baigė daugiau vyrų nei moterų nukreipti į atvirus vaidmenis vien todėl, kad vyrai dažnai agresyviau ieško naujų galimybių.

„LinkedIn“ atrado problemą ir sukūrė kitą AI programą, kad pašalintų šališkumą pirmosios programos rezultatuose. Tuo tarpu kai kurios didžiausios pasaulyje darbo paieškos svetainės, įskaitant „CareerBuilder“, „ZipRecruiter“ ir „Monster“, taiko labai skirtingus požiūrius į šališkumą savo platformose, kaip pranešame naujausioje „MIT Technology Review“ podcast'o „In Machines We Trust“ serijoje. Kadangi šios platformos tiksliai neatskleidžia, kaip veikia jų sistemos, darbo ieškantiems asmenims sunku žinoti, kaip veiksminga bet kuri iš šių priemonių užkertant kelią diskriminacijai.

Jei šiandien pradėtumėte ieškotis naujo darbo, dirbtinis intelektas greičiausiai turės įtakos jūsų paieškai. AI gali nustatyti, kokius skelbimus matote darbo paieškos platformose, ir nuspręsti, ar perduoti jūsų gyvenimo aprašymą įmonės įdarbintojams. Kai kurios įmonės gali paprašyti jūsų žaisti AI varomi vaizdo žaidimai kurie išmatuoja jūsų asmenybės bruožus ir įvertina, ar tiktumėte tam tikriems vaidmenims.

Susijusi istorija

Auditoriai išbando samdymo algoritmus, kad būtų išvengta šališkumo, tačiau nėra lengva pataisyti

AI auditas gali nepastebėti tam tikrų tipų šališkumo ir nebūtinai patikrina, ar samdymo įrankis atrenka geriausius kandidatus į darbą.

Vis daugiau įmonių naudoja dirbtinį intelektą, kad įdarbintų ir samdytų naujus darbuotojus, o DI gali į tai atsižvelgti beveik bet kuriame įdarbinimo proceso etape . Covid-19 paskatino naują šių technologijų paklausą. Abu Įdomus dalykas ir HireVue , bendrovės, besispecializuojančios interviu su dirbtiniu intelektu, pranešė apie verslo padidėjimą pandemijos metu.

Tačiau dauguma darbo paieškos prasideda nuo paprastos paieškos. Ieškantys darbo kreipiasi į tokias platformas kaip LinkedIn , Pabaisa , arba „ZipRecruiter“. , kur jie gali įkelti savo gyvenimo aprašymus, naršyti po darbo skelbimus ir pateikti paraiškas dėl darbo vietų.

Šių svetainių tikslas – suderinti kvalifikuotus kandidatus su laisvomis pareigomis. Norint organizuoti visas šias angas ir kandidatus, daugelyje platformų naudojami AI pagrįsti rekomendacijų algoritmai. Algoritmai, kartais vadinami atitikimo varikliais, apdoroja informaciją iš darbo ieškančio asmens ir darbdavio, kad sudarytų rekomendacijų sąrašą kiekvienam.

Paprastai girdite anekdotą, kad verbuotojas praleidžia šešias sekundes žiūrėdamas į jūsų gyvenimo aprašymą, tiesa? sako Derekas Kanas, „Monster“ produktų valdymo viceprezidentas. Žvelgdami į mūsų sukurtą rekomendacijų variklį, galite sutrumpinti šį laiką iki milisekundžių.

Dauguma atitinkančių variklių yra optimizuoti programoms generuoti, sakoma Džonas Jersinas , buvęs LinkedIn produktų valdymo viceprezidentas. Šios sistemos savo rekomendacijas grindžia trijų kategorijų duomenimis: informacija, kurią vartotojas pateikia tiesiogiai platformai; duomenys, priskirti vartotojui remiantis kitais, turinčiais panašių įgūdžių, patirties ir pomėgių; ir elgsenos duomenis, pvz., kaip dažnai naudotojas atsako į pranešimus arba sąveikauja su darbo skelbimais.

„LinkedIn“ atveju šie algoritmai neįtraukia asmens vardo, amžiaus, lyties ir rasės, nes įtraukus šias charakteristikas gali atsirasti šališkumo automatizuotuose procesuose. Tačiau Jersino komanda nustatė, kad net ir tokiu atveju paslaugos algoritmai vis tiek gali aptikti elgesio modelius, kuriuos demonstruoja grupės, turinčios tam tikrą lytį.

Pavyzdžiui, vyrai labiau linkę pretenduoti į darbus, kuriems reikalinga darbo patirtis, viršijanti jų kvalifikaciją, moterys dažniausiai renkasi tik tuos darbus, kurių kvalifikacija atitinka pareigybės reikalavimus. Algoritmas interpretuoja šį elgesio skirtumą ir pakoreguoja savo rekomendacijas taip, kad netyčia nukentėtų moterys.

Pavyzdžiui, vienai žmonių grupei galite rekomenduoti daugiau aukštesnių darbų nei kitai, net jei jie turi tą patį lygį, sako Jersinas. Tie žmonės gali nepasinaudoti tokiomis pat galimybėmis. Ir iš tikrųjų tai yra poveikis, apie kurį mes čia kalbame.

Vyrai savo gyvenimo aprašymuose taip pat įtraukia daugiau įgūdžių, kurių įgūdžių lygis yra mažesnis nei moterys, ir jie dažnai agresyviau bendrauja su įdarbintojais platformoje.

Norėdami išspręsti tokias problemas, Jersinas ir jo komanda „LinkedIn“. sukūrė naują AI sukurta siekiant gauti reprezentatyvesnius rezultatus ir įdiegta 2018 m. Iš esmės tai buvo atskiras algoritmas, skirtas neutralizuoti rekomendacijas, nukreiptas į tam tikrą grupę. Naujasis AI užtikrina, kad prieš nukreipiant pirminio variklio kuruojamas atitiktis, rekomendacijų sistema apimtų reprezentatyvų vartotojų pasiskirstymą pagal lytį.

Kan sako, kad Monster, kuriame bet kuriuo metu yra 5–6 milijonai darbo vietų, į rekomendacijas taip pat įtraukiami elgsenos duomenys, tačiau nepataisoma šališkumo taip, kaip daro „LinkedIn“. Vietoj to, rinkodaros komanda sutelkia dėmesį į tai, kad vartotojai iš įvairių sluoksnių prisiregistruotų naudotis paslauga, o įmonė pasikliauja darbdaviais, kad jie atsiskaitytų ir praneštų Monster, ar ji perdavė reprezentatyvų kandidatų rinkinį.

Irina Novoselsky , „CareerBuilder“ generalinė direktorė, sako, kad ji daugiausia dėmesio skiria tarnybos renkamiems duomenims, kad mokytų darbdavius, kaip pašalinti šališkumą savo darbo skelbimuose. Pavyzdžiui, kai kandidatas skaito darbo aprašymą su žodžiu „roko žvaigždė“, kandidatuojančių moterų procentas yra iš esmės mažesnis, sako ji.

Ianas Sealas , „ZipRecruiter“ generalinis direktorius ir vienas iš įkūrėjų, teigia, kad įmonės algoritmai, vertindami kandidatus, neatsižvelgia į tam tikras identifikavimo savybes, pvz., vardus; vietoj to jie klasifikuoja žmones pagal 64 kitų tipų informaciją, įskaitant geografinius duomenis. Jis sako, kad bendrovė neaptaria savo algoritmų detalių, remdamasi intelektinės nuosavybės problemomis, tačiau priduria: manau, kad esame taip arti nuopelnais pagrįsto žmonių vertinimo, kaip tai įmanoma padaryti šiuo metu.

Kiekviename įdarbinimo proceso etape automatizuodami darbo ieškantys asmenys turi išmokti išsiskirti tiek pagal algoritmą, tiek nuo samdos vadovų. Tačiau neturėdami aiškios informacijos apie tai, ką šie algoritmai daro, kandidatai susiduria su dideliais iššūkiais.

Manau, kad žmonės neįvertina algoritmų ir rekomendacijų variklių poveikio darbo vietoms, sako Kan. Tai, kaip prisistatote, greičiausiai pirmiausia perskaito tūkstančiai mašinų ir serverių, kol tai net nepateks į žmogaus akis.

Šis straipsnis buvo atnaujintas 6/25/21, siekiant atspindėti, kad naujasis LinkedIn AI užtikrina reprezentatyvų vartotojų pasiskirstymą (ne tolygų paskirstymą). tarp lyčių rekomenduojami darbams.

paslėpti