211service.com
Ar koncertų ekonomika suklastota?
Matthew Hollisterio iliustracija
Programos ir svetainės, kurias galima naudoti samdant žmones individualioms užduotims, pvz., pasiimti bakalėjos prekes ar kurti naują logotipą, pastaraisiais metais pradėjo populiarėti, o tai žada efektyvesnę ir sąžiningesnę darbo rinką. Tačiau naujas Bostono Šiaurės rytų universiteto tyrimas rodo, kad rasinė ir seksualinė diskriminacija gali būti įprasta dviejose populiariose koncertų ekonomikos platformose.
Tyrėjai, vadovaujami Christo Wilson , Šiaurės rytų profesoriaus asistentas ir Ancsa Hannak , doktorantas, išnagrinėjo „TaskRabbit“ – žmonių samdymo platformą pavedimams vykdyti ir „Fiverr“ – kūrybinių paslaugų rinką. Abiem atvejais jie rado šališkumo pagal rasę ir lytį įrodymų.
Tai tik vienas pavyzdys, kaip šališkumas įsiskverbia į internetines platformas ir paslaugas. Ir tai kelia nerimą, nes koncertų ekonomika pažadėjo būti ne tik efektyvesnė ir lankstesnė, bet ir mažiau šališka, nes algoritmai atlieka žmonių sujungimo darbą.
„Fiverr“ svetainėje mokslininkai rado įrodymų, kad juodaodžiai ir Azijos darbuotojai gavo žemesnius įvertinimus nei baltieji. Ir „TaskRabbit“ svetainėje moterys sulaukė mažiau atsiliepimų nei vyrai, o juodaodžiai darbuotojai gavo žemesnius įvertinimus nei baltieji. Galbūt labiausiai nerimą kelia tai, kad tyrėjai taip pat rado tokio šališkumo įrodymų „TaskRabbit“ rekomendacijų algoritme. Tyrimas bus pristatytas šią savaitę Niujorke vyksiančioje akademinėje konferencijoje.
Neįmanoma tiksliai pasakyti, kad Wilsono ir Hannako nustatyta koreliacija atsirado dėl samdytojų rasinio ir lyties šališkumo, o ne dėl kažkokio nežinomo klaidinančio veiksnio, tačiau Wilsonas teigia, kad šis modelis kelia nerimą. Mums sakoma, kad tai yra darbo ateitis, sako jis. Jei ketinate įdiegti algoritmą, kurį naudos milijonai žmonių, turite tam tikrą atsakomybę prieš visuomenę ištirti, ką diegiate, įvertinti ir pažiūrėti, ar jame bus kuris nors iš šių neigiamas šalutinis poveikis.
„Fiverr“ atstovas teigia, kad tyrimo metodika buvo ydinga, nes neatsižvelgiama į tokius veiksnius kaip tarptautinės ribos ir kalbų skirtumai. Ji taip pat pažymi, kad vartotojai, norėdami naudotis paslauga, neprivalo pateikti jokios demografinės informacijos, todėl lengva išvengti diskriminacijos. „TaskRabbit“ neatsakė į prašymą pakomentuoti.
Tačiau vis daugėja įrodymų, kad šališkumas gali turėti įtakos visų rūšių skaitmeninėms paslaugoms. Praėjusį mėnesį mokslininkai iš MIT, Stanfordo ir Vašingtono universiteto atrado tai kad Uber vairuotojai Bostone dažniau atšaukdavo keliones klientams afroamerikietiškai skambančiais vardais ir kad juodaodžiai Uber klientai Sietle laukdavo ilgiau nei jų baltieji kolegos. Praėjusiais metais paskelbtame tyrime CMU mokslininkai rado įrodymų kad skelbimai apie gerai apmokamus darbus buvo rodomi dažniau vyrams nei moterims.
Daugeliu atvejų pastebėtas šališkumas tik atspindi tai, kas yra realiame pasaulyje, pvz., sąmoningas ir nesąmoningas išankstinis darbdavių nusistatymas, kurį gali sukelti priimant sprendimus dėl samdymo. Taigi, kalbant apie rekomendacinius variklius ar mašininio mokymosi sistemas, kyla klausimas, kaip būtų galima pašalinti šališkumą – iš duomenų rinkinių, pateikiamų algoritmams, arba iš pačių algoritmų.
Žmonės galvoja, kad kadangi tai yra kompiuteris, jis yra neutralus, priduria Wilsonas. Jei turite šališkų duomenų, prasminga parengti šališką algoritmą.
Donas MacKenzie , Vašingtono universiteto docentas ir vienas iš neseniai atlikto Uber tyrimo autorių, pabrėžia, kad tyrimas neįrodo rasinio ar lyties šališkumo. Tačiau jis sako, kad svarbu atsižvelgti į šališkumą koncertų ekonomikoje ir pagrindinius algoritmus, pridurdamas, kad problema turėtų būti valdoma, jei įmonės bus atsargios.
Tai nauja sritis, ir jei yra gerosios praktikos rinkinys, aš apie tai nežinau, sako MacKenzie. Mano požiūriu, įmonės, kūrėjai ir duomenų mokslininkai turėtų būti budrūs, klausytis atsiliepimų ir nebijoti išbandyti įvairių sprendimų. Manau, kad jei visi į šias problemas spręstų sąžiningai, konstruktyviai ir su noru išbandyti įvairius dalykus, galėtume priartėti prie šališkumo šiose sistemose pašalinimo.