Pagal numatytuosius nustatymus visa automatizuota samdymo programinė įranga yra linkusi į šališkumą

Kategorija: Technikos politika Paskelbta Gruodžio 13 d

KAM nauja ataskaita iš ne pelno organizacijos „Upturn“ išanalizavo kai kuriuos ryškiausius įdarbinimo algoritmus rinkoje ir nustatė, kad pagal numatytuosius nustatymus tokie algoritmai yra linkę į šališkumą.

Įdarbinimo žingsniai: Buvo sukurti algoritmai, skirti automatizuoti keturis pagrindinius įdarbinimo proceso etapus: tiekimą, atranką, interviu ir atranką. Analizė parodė, kad nors nuspėjamieji įrankiai retai buvo naudojami galutiniam pasirinkimui, ką samdyti, jie dažniausiai buvo naudojami visais šiais etapais siekiant atstumti žmones.

Kai atsiranda šališkumas: Jei naudojami ankstesni įdarbinimo duomenys, mokymo informacija gali būti šališka arba nereprezentatyvi, o tai perkeliama į programinę įrangą. Vien pašalinus duomenis apie lytį ir rasę, programinė įranga nepakenks. Kita informacija, pvz., atstumas nuo biuro, gali stipriai susieti su jautresniais veiksniais. „Amazon“ tai pamatė samdymo algoritme, kurį bandė sukurti. Samdydami vadybininkus taip pat gali būti per daug pasitikėjimo samdymo algoritmų pateiktomis rekomendacijomis.

Reguliuojantis AI: Tyrimas taip pat parodė, kad dabartiniai įstatymai nėra tinkami šiai problemai spręsti. Įstatymai, skirti reguliuoti sprendimus dėl žmonių įdarbinimo, nesudaro galimybės lengvai ištirti ir vykdyti kovą su mašinine diskriminacija.

Teigiami dalykai: Kita vertus, nuspėjamieji įrankiai gali padėti atskleisti praeities žmonių šališkumą ir prielaidas, kurios anksčiau buvo nepastebėtos. Tai leistų įmonėms daryti teigiamus pokyčius savo praktikoje. Keletas pardavėjų imasi veiksmų ne tik tikrindami savo produktus, ar nėra šališkumo, bet ir į savo gaminius įveda kapitalą skatinančias funkcijas, sako viena iš ataskaitos autorių Miranda Bogen. Tikimės, kad daugiau pardavėjų imsis tokio pobūdžio intervencijų, tačiau dar reikia daug nuveikti, kol galime būti tikri, kad nuspėjamieji įrankiai nedaro daugiau žalos nei naudos.

Problemos sprendimas: Kad dirbtinio intelekto samdymas būtų sąžiningesnis, ataskaitoje rekomenduojama:

— leidžia atlikti nepriklausomą darbdavio ir pardavėjo programinės įrangos auditą
— vyriausybės atnaujina savo reglamentus, kad apimtų nuspėjamąją samdymo programinę įrangą
— išsamiau išnagrinėti skelbimų ir darbo platformas, siekiant išanalizuoti didėjančią jų įtaką samdant

Kadangi šiame procese yra tiek daug skirtingų taškų, kuriuose gali atsirasti šališkumo, darbdaviai tikrai turėtų elgtis atsargiai, sako Bogenas. Jie turėtų aiškiai pasakyti, kokius nuspėjamuosius įrankius naudoja, ir imtis visų galimų veiksmų, kad aktyviai aptiktų ir pašalintų kylančius paklaidas, o jei negali užtikrintai to padaryti, turėtų ištraukti kištuką.

Šis straipsnis iš pradžių buvo paskelbtas mūsų ateities darbo informaciniame biuletenyje „Clocking In“. Registruotis galite čia.