„Amazon“ atsisakė dirbtinio intelekto įdarbinimo programinės įrangos, nes ji buvo šališka prieš moteris

Kategorija: Silicio slėnis Paskelbta Spalio 10 d

Duomenys, kuriais remiantis buvo parengtas dirbtinio intelekto algoritmas, suteikė pirmenybę kandidatams vyrams.

Naujienos: Remiantis ataskaita, kurią pateikė Reuters 2014 m. „Amazon“ pradėjo kurti automatizuotą sistemą, kad darbo ieškantys asmenys būtų vertinami nuo vienos iki penkių žvaigždučių. Tačiau praėjusiais metais bendrovė atsisakė projekto, kai pamatė, kad pirmenybę teikia vyriškos lyties kandidatams į techninius vaidmenis.

Kodėl? AI įrankis buvo apmokytas remiantis 10 metų įmonės gautais gyvenimo aprašymais. Kadangi technologijos yra vyrų dominuojama pramonė, dauguma šių gyvenimo aprašymų buvo iš vyrų.

Rezultatas: Sistema buvo netyčia išmokyta pasirinkti kandidatus vyrus, o ne moteris. Pranešama, kad tai būtų baudžiama už gyvenimo aprašymus, kuriuose yra žodis „moterys“ arba tam tikrų moterų kolegijų pavadinimai. Nors „Amazon“ padarė pakeitimus, kad šios sąlygos būtų neutralios, bendrovė prarado pasitikėjimą, kad programa iš tikrųjų buvo neutrali lyčių atžvilgiu visose kitose srityse.

Kodėl tai svarbu: Negalime dirbtinio intelekto traktuoti kaip iš prigimties nešališko. Sistemų mokymas apie šališkus duomenis reiškia, kad algoritmai taip pat tampa šališki. Jei nesąžiningos dirbtinio intelekto samdymo programos, kaip ši, nebus atskleistos prieš jas įgyvendinant, jos įamžins ilgalaikes verslo įvairovės problemas, o ne jas išspręs.

Norite neatsilikti nuo to, kaip technologijos keičia ateities darbo vietą? Prisiregistruokite gauti mūsų ateities darbo naujienlaiškį „Clocking In“.