211service.com
JK atsisako imigracijos algoritmo, kuris, pasak kritikų, yra rasistinis
Jamesas Cridlandas / „Flickr“.
Naujienos: JK Vidaus reikalų ministerija pareiškė, kad tai padarys nustokite naudoti algoritmą nagrinėti prašymus išduoti vizą, kurie, kritikų teigimu, yra rasistiškai neobjektyvūs. Priešininkai tam ginčytis kad algoritmas, naudodamas pilietybę, sprendžiant, kurios paraiškos bus greitai stebimos, lėmė sistemą, kurioje žmonės iš turtingų baltųjų šalių gauna greitąjį įlaipinimą; skurdesni spalvoti žmonės nustumiami į eilės galą.
Laikas pertvarkyti: Vidaus reikalų ministerija neigia, kad jos sistema yra rasistiškai šališka, o bylinėjimasis vis dar vyksta. Nepaisant to, Vidaus reikalų ministerija sutiko atsisakyti algoritmo ir planuoja vėliau šiais metais iš naujo paleisti pertvarkytą versiją, atlikusi visą peržiūrą, kurioje bus ieškoma nesąmoningo šališkumo. Tuo tarpu JK priims laikiną sistemą, pagal kurią prašymams rūšiuoti nenaudojama pilietybė.
Eismo sistema: Nuo 2015 m. JK filtravo prašymus išduoti vizą naudodama šviesoforų sistemą, kuri kiekvienam prašytojui priskiria raudoną, gintarinį arba žalią rizikos lygį. Žmonės, kuriems priskirtas raudonas rizikos lygis, dažniau buvo atsisakyta.
Platesnė tendencija: Algoritmai yra žinomi įtvirtinti institucinį šališkumą , ypač rasistinių. Tačiau jie vis dažniau naudojami siekiant padėti priimti svarbius sprendimus – nuo kredito patikros iki prašymų išduoti vizą iki ikiteisminiai posėdžiai ir policijos darbas . Kritikai skundėsi, kad JAV imigracijos sistema yra rasiškai šališkas taip pat. Tačiau daugeliu atvejų sunku tiksliai atskleisti, kaip šie algoritmai veikia, ir atskleisti jų šališkumo įrodymus, nes daugelis jų yra patentuoti, o jų naudojimas mažai prižiūrimas.
Tačiau kritikos daugėja. JAV kai kurių policijos departamentų veikla sustabdoma prieštaringi prognozavimo algoritmai ir technologijų įmonės turi nustojo tiekti šališką veido atpažinimo technologiją . Vasarį nusprendė Nyderlandų teismas kad sistema, numatanti, kokia tikimybė, kad asmuo gali sukčiauti gerovės srityje arba sukčiauti mokesčių srityje, buvo neteisėta, nes nesąžiningai nukreipta į mažumas. JK Vidaus reikalų ministerijos sprendimas peržiūrėti savo sistemą nelaukiant teisinio sprendimo gali būti svarbus įvykis.