Dirbtinį intelektą samdanti įmonė teigia, kad, remdamasi jūsų pokalbiais, ji gali numatyti darbo vietų skaičių

„PredictiveHire“ ekrano kopija.

Nuo pandemijos pradžios didėjantis įmonių skaičius kreipėsi į AI, kad padėtų jiems įdarbinti. Dažniausios sistemos apima veido nuskaitymo algoritmus, žaidimus, klausimus ar kitus vertinimus, padedančius nustatyti, su kuriais kandidatais interviu.

Nors aktyvistai ir mokslininkai įspėja, kad šios atrankos priemonės gali tęsti diskriminaciją, patys kūrėjai teigia, kad algoritminis samdymas padeda ištaisyti žmogus šališkumo. Algoritmus galima išbandyti ir koreguoti, o žmogaus šališkumą daug sunkiau ištaisyti – ar taip mąstoma. A 2019 m. gruodžio mėn. laikraštis Kornelio mokslininkai apžvelgė algoritminės patikros įmonių aplinką, kad išanalizuoti jų teiginius ir praktiką. Iš 18 tinklalapių, kuriuos jie susitapatino su anglų kalbos svetainėmis, dauguma reklamavo save kaip teisingesnę alternatyvą samdant žmones, o tai rodo, kad jie vis labiau rūpinasi šiomis problemomis, siekdami parodyti savo įrankių pranašumus ir pritraukti daugiau klientų.

Tačiau diskriminacija nėra vienintelis susirūpinimas dėl algoritminio samdymo, o kai kurie mokslininkai nerimauja, kad rinkodaros kalba, kurioje pagrindinis dėmesys skiriamas šališkumui, leidžia įmonėms atsikratyti kitų klausimų, pavyzdžiui, darbuotojų teisių. Naujas išankstinis spausdinimas Vienos iš šių firmų dabar yra svarbus priminimas: neturėtume leisti, kad dėmesys, kurį žmonės pradėjo skirti šališkumo ir diskriminacijos problemoms, išstumtų faktą, kad yra daugybė kitų problemų, sako profesorius Solonas Barocas. Kornelio universitete ir „Microsoft Research“ vyriausiasis mokslininkas, tiriantis algoritmų teisingumą ir atskaitomybę.

Aptariama įmonė yra Australijoje įsikūrusi „PredictiveHire“, įkurta 2013 m. spalį. Ji siūlo pokalbių robotą, užduodantį kandidatams daugybę atvirų klausimų. Tada jis analizuoja jų atsakymus, kad įvertintų su darbu susijusius asmenybės bruožus, tokius kaip potraukis, iniciatyvumas ir atsparumas. Pasak įmonės generalinės direktorės Barbaros Hyman, jos klientai yra darbdaviai, kurie turi valdyti daugybę programų, pavyzdžiui, mažmeninės prekybos, pardavimo, skambučių centrų ir sveikatos priežiūros paslaugų. Kaip nustatyta Kornelio tyrime, ji taip pat aktyviai naudojasi sąžiningesnio samdymo pažadais savo rinkodaros kalboje. Savo pagrindiniame puslapyje ji drąsiai skelbia: Susipažinkite su Phai. Jūsų antrasis pilotas samdant. Interviu kūrimas SUPER GREITAS. ĮSKAIČIUOTA, PAGALIAU. PAGALIAU, BE ŠALINIŲ.

Kaip jau rašėme anksčiau, algoritmų be šališkumo idėja yra tokia labai klaidinantis . Tačiau „PredictiveHire“. naujausius tyrimus kelia nerimą dėl kitos priežasties. Jame pagrindinis dėmesys skiriamas naujo mašininio mokymosi modelio kūrimui, kuriuo siekiama numatyti kandidato tikimybę pereiti prie darbo, praktiką keisti darbą dažniau, nei to nori darbdavys. Darbas atliekamas remiantis neseniai atliktais bendrovės recenzuotais tyrimais, kuriuose buvo nagrinėjama, kaip pateikiami atviri interviu klausimai koreliuoja su asmenybe (savaime a labai ginčytina praktika ). Kadangi organizacijų psichologai jau parodė ryšį tarp asmenybės ir darbo šuolio, Hyman sako, kad bendrovė norėjo išbandyti, ar jie galėtų panaudoti turimus duomenis prognozei. Ji priduria, kad daugelis įmonių, su kuriomis dirbame, daug dėmesio skiria darbuotojų išlaikymui, atsižvelgiant į didelio darbuotojų atleidimo išlaidas, kurios sudaro 16 % kiekvieno darbuotojo atlyginimo išlaidų.

Tyrime buvo naudojami 45 899 kandidatų, kurie naudojo „PredictiveHire“ pokalbių robotą, laisvo teksto atsakymai. Iš pradžių pareiškėjai buvo užduodami nuo penkių iki septynių atvirų klausimų ir savęs vertinimo klausimų apie jų ankstesnę patirtį ir situacijos sprendimą. Tai apima klausimus, skirtus atskleisti bruožus, kurie, kaip anksčiau tyrimais įrodyta, stipriai koreliuoja su tendencija ieškoti darbo, pvz., atviresnis patirčiai, mažiau praktiškas ir ne toks žemiškas. Bendrovės mokslininkai teigia, kad šis modelis galėjo numatyti statistiškai reikšmingą darbo vietų pasikeitimą. PredictiveHire svetainėje šis darbas jau reklamuojamas kaip skrydžio rizikos įvertinimas netrukus .

Naujasis „PredictiveHire“ darbas yra puikus pavyzdys, kaip Nathanas Newmanas teigia, kad tai yra vienas didžiausių neigiamų didelių duomenų padarinių darbui. Newmanas, Johno Jay baudžiamojo teisingumo koledžo docentas, rašė 2017 metų teisės dokumentas kad be susirūpinimo dėl diskriminacijos užimtumo srityje, didelių duomenų analizė taip pat buvo naudojama daugybe būdų sumažinti darbuotojų atlyginimus.

Pavyzdžiui, mašininiu mokymusi pagrįsti asmenybės testai vis dažniau naudojami samdant, kad būtų atrinkti potencialūs darbuotojai, kurie labiau linkę agituoti dėl didesnių atlyginimų arba remti sąjungą. Darbdaviai vis dažniau stebi darbuotojų el. laiškus, pokalbius ir kitus duomenis, siekdami įvertinti, kas gali išeiti, ir apskaičiuoti minimalų atlyginimo padidinimą, reikalingą, kad jie liktų. O algoritminės valdymo sistemos, tokios kaip „Uber“, decentralizuoja darbuotojus nuo biurų ir skaitmeninių susirinkimų erdvių, leidžiančių jiems derinti veiksmus ir kartu reikalauti geresnio gydymo bei atlyginimo.

Nė vienas iš šių pavyzdžių neturėtų stebinti, teigė Newmanas. Tai tiesiog šiuolaikinė apraiška to, ką darbdaviai istoriškai darė, kad sumažintų atlyginimus, nukreipdami ir suardydami profesinių sąjungų veiklą. Asmenybės vertinimas įdarbinant, pradėtas 1930-aisiais JAV, iš tikrųjų prasidėjo kaip mechanizmas, skirtas pašalinti žmones, kurie greičiausiai taps darbo organizatoriais. Testai ypač išpopuliarėjo septintajame ir aštuntajame dešimtmečiuose, kai organizacijų psichologai juos patobulino, kad įvertintų darbuotojų simpatijas profesinėms sąjungoms.

Šiame kontekste PredictiveHire kovos rizikos vertinimas yra tik dar vienas šios tendencijos pavyzdys. Barocas pažymi, kad šuolis į darbą arba grėsmė, kad darbuotojai gali padidinti savo pajamas. Bendrovė netgi sukūrė savo vertinimą remdamasi organizacijų psichologų parengtais asmenybės patikrinimais.

Barocas nebūtinai pasisako už priemonių išmetimą iš viso. Jis mano, kad tikslas, kad įdarbinimas būtų geresnis visiems, yra kilnus ir gali būti pasiektas, jei reguliavimo institucijos įpareigotų didesnis skaidrumas . Šiuo metu nė vienas iš jų negavo griežto, recenzuojamo vertinimo, sako jis. Tačiau jei įmonės būtų atviresnės apie savo praktiką ir pateiktų savo įrankius tokiam patvirtinimui, tai galėtų padėti priversti jas atsakyti. Tai taip pat galėtų padėti mokslininkams lengviau bendradarbiauti su įmonėmis ir ištirti priemonių poveikį darbui ir diskriminacijai.

Nepaisant viso pastarųjų poros metų darbo, išreiškusio susirūpinimą dėl šių dalykų, jis sako, kad aš iš tikrųjų tikiu, kad daugelis šių priemonių gali žymiai pagerinti dabartinę padėtį.

paslėpti