AI samdymo pramonė yra tikrinama, tačiau ją bus sunku ištaisyti

Kategorija: Technikos politika Paskelbta Lapkričio 07 d

Elektroninis privatumo informacijos centras (EPIC) turi paprašė Federalinės prekybos komisijos ištirti HireVue AI įrankis, padedantis įmonėms išsiaiškinti, kuriuos darbuotojus samdyti.

Kas yra HireVue? „HireVue“ yra viena iš vis daugiau dirbtinio intelekto įrankių, kuriuos įmonės naudoja kandidatams į darbą vertinti. Algoritmas analizuoja vaizdo interviu, naudodamas viską nuo žodžių pasirinkimo iki veido judesių, kad išsiaiškintų įsidarbinimo balą, kuris lyginamas su kitų kandidatų balais. Daugiau nei 100 įmonių jau naudojo jį daugiau nei milijonui pareiškėjų, kaip rašo „Washington Post“. .

Kokia problema? Sunku numatyti, kurie darbuotojai bus sėkmingi pagal tokius dalykus kaip veido išraiškos. Dar blogiau, kritikai nerimauja, kad algoritmas parengtas remiantis ribotais duomenimis, todėl labiau tikėtina, kad tradiciniai kandidatai (baltieji, vyrai) bus labiau tinkami įsidarbinti. Dėl to kandidatai, kurie nukrypsta nuo tradicinės kalbos, įskaitant žmones, kurie nekalba angliškai kaip gimtoji kalba arba yra neįgalūs, gali gauti mažesnius balus, sako ekspertai . Be to, tai skatina kandidatus žaisti su sistema interviu tokiu būdu, kuris jiems patiks „HireVue“.

Kas toliau? Dirbtinio intelekto samdymo įrankiai nėra gerai reglamentuojami, o išspręsti problemą bus sunku dėl kelių priežasčių.

-Dauguma įmonių neskelbia savo duomenų ir nepaaiškins, kaip veikia algoritmai, todėl labai sunku įrodyti bet kokį šališkumą. Dėl šios priežasties iki šiol nebuvo didelių ieškinių. EPIC skundas, kuriame teigiama, kad „HireVue“ pažadas pažeidžia FTC taisykles dėl nesąžiningos ir apgaulingos veiklos, yra pradžia. Bet neaišku, ar kas nors nutiks. FTC gavo skundą, tačiau nepasakė, ar jį nagrinės.

– Kiti bandymai užkirsti kelią šališkumui yra geri, tačiau riboti. Anksčiau šiais metais Ilinojaus įstatymų leidėjai priėmė įstatymą, reikalaujantį darbdavių bent jau pasakykite ieškantiems darbo kad jie naudos šiuos algoritmus, ir gauti jų sutikimą. Bet tai nėra labai naudinga. Daugelis žmonių tikriausiai sutinka vien todėl, kad nenori prarasti galimybės.

– Galiausiai, kaip ir dirbtinis intelektas sveikatos srityje ar dirbtinis intelektas teismo salėje, dirbtinis intelektas samdant iš naujo sukurs visuomenės šališkumą, o tai yra sudėtinga problema. Reguliavimo institucijos turės išsiaiškinti, kokią atsakomybę turėtų prisiimti įmonės, kad išvengtų išankstinių nusistatymų visuomenės klaidų.