Yra paprastas būdas padaryti skolinimą moterims teisingesnį. Bėda ta, kad tai neteisėta.

Kredito balai padengti vyrų ir moterų simboliais.

Kredito balai padengti vyrų ir moterų simboliais. Selmano dizainas





Anksčiau šią savaitę Niujorko finansinių paslaugų departamentas pradėjo Goldman Sachs tyrimą dėl galimos kredito diskriminacijos dėl lyties. Tyrimas buvo pradėtas po to, kai interneto verslininkas Davidas Heinemeieris Hanssonas tviteryje paskelbė, kad „Apple Card“, kurią valdo Goldmanas, jam 20 kartų suteikė kredito limitą, kuris buvo pratęstas jo žmonai, nors jiedu pateikė bendras mokesčių deklaracijas ir jos kredito balas buvo geresnis.

Atsakydama į tai, Goldman paskelbė pareiškimą, kuriame teigiama, kad nustatydama kreditingumą neatsižvelgia į lytį. Ši logika greičiausiai turėjo būti gynyba – kaip galima diskriminuoti moteris, kai net nežinote, kad kažkas yra moteris? Tačiau iš tikrųjų problema yra neatsižvelgimas į lytį. Algoritminio teisingumo tyrimai anksčiau parodė, kad lyties įvertinimas iš tikrųjų padeda sušvelninti lyties šališkumas. Ironiška, tačiau tai daryti JAV yra neteisėta.



Dabar preliminarūs JT fondo ir Pasaulio banko finansuojamo tyrimo rezultatai vėl meta iššūkį aklųjų lyčių kredito skolinimo sąžiningumui. Tyrimas parodė, kad sukūrus visiškai atskirus kreditingumo modelius vyrams ir moterims, daugumai moterų buvo suteikta daugiau kredito.

Taigi: ar reikia atnaujinti įstatymą?

Seksizmas būti aklu nuo lyties

Jei nenorite daryti diskriminacijos pagal lytį, kodėl gi iš lygties tiesiog nepašalinus lyties? Tai buvo prielaida Lygių kredito galimybių įstatymas (ECOA), priimtas JAV 1974 m., tuo metu, kai moterims reguliariai buvo atsisakyta suteikti kreditą. Dėl jo buvo neteisėta bet koks kreditorius diskriminuoti dėl lyties arba atsižvelgti į lytį vertinant kreditingumą. (1976 m. jis buvo atnaujintas, kad būtų uždrausta diskriminacija dėl rasės, tautinės kilmės ir kitų federalinės vyriausybės saugomų savybių.)



Tačiau mašininio mokymosi problema gali būti lyčių aklumas. Net jei lytis nenurodyta, ją galima lengvai nustatyti iš kitų kintamųjų, kurie su ja labai koreliuoja. Dėl to modeliai, parengti remiantis istoriniais duomenimis be lyties, vis dar sustiprina praeities nelygybę. Tas pats pasakytina apie rasę ir kitas savybes. Tikėtina, kad taip atsitiko Apple Card atveju: kadangi moterims istoriškai buvo suteikta mažiau kredito, algoritmas išmoko išlaikyti šį modelį.

Į 2018 metų tyrimas , bendradarbiaujant kompiuterių mokslininkams ir ekonomistams nustatyta, kad geriausias būdas sušvelninti šias problemas buvo iš naujo į modelį įtraukti tokias savybes kaip lytis ir rasė. Tai leidžia geriau kontroliuoti ir pakeisti bet kokį pasireiškusį šališkumą, todėl apskritai bus teisingiau.

Pagal lytį diferencijuotas kredito skolinimas

Naujausiame tyrime tikrinama nauja hipotezė: ar atskiri vyrų ir moterų modeliai dar labiau sumažintų lyčių šališkumą? Antradienį JT fondo surengtame renginyje Seanas Higginsas, Šiaurės Vakarų universiteto docentas ir tyrimo tyrėjas, pristatė preliminarias išvadas, kurios rodo, kad taip būtų.



Bendradarbiaudami su Dominikos Respublikos komerciniu banku, mokslininkai atliko dvi atskiras 20 000 mažas pajamas gaunančių asmenų, iš kurių pusė buvo moterys, analizes. Pirmoje analizėje mokslininkai naudojo asmenų paskolų grąžinimo istorijas ir lytį, kad parengtų vieną mašininio mokymosi modelį, skirtą kreditingumui numatyti. Antrojoje analizėje mokslininkai parengė modelį, kuriame buvo tik moterų paskolos grąžinimo duomenys. Jie nustatė, kad 93% moterų gavo daugiau nuopelnų šiame modelyje nei tame, kuriame vyrai ir moterys buvo maišomi.

Taip atsitinka, sako Higginsas, nes moterų ir vyrų kredito istorija ir paskolų grąžinimo elgesys skiriasi – nesvarbu, ar dėl istorinių, kultūrinių ar kitų priežasčių. Pavyzdžiui, moterys yra labiau linkusios grąžinti paskolas, sako jis. Tačiau į šiuos skirtumus neatsižvelgiama kombinuotame modelyje, kuris mokosi numatyti kreditingumą pagal moterų ir vyrų vidurkius. Vadinasi, tokie modeliai sumažina tikimybę, kad moterys grąžins savo paskolas ir galiausiai suteiks joms mažiau kredito, nei jos nusipelnė.

Nors Higginsas ir jo bendradarbiai išbandė šią hipotezę specialiai mažas pajamas gaunančioms moterims Dominikos Respublikoje, kokybiniai rezultatai turėtų būti teisingi, nepaisant konteksto. Jie taip pat turėtų būti taikomi kitoms ypatybėms nei lytis ir kitose srityse nei finansai.



Ką daryti su įstatymu

Problema ta, kad toks vienos lyties modelis yra neteisėtas. Kyla klausimas, ar politikos formuotojai turėtų atnaujinti ECOA.

Higginsas yra už. Pasak jo, neseniai atliktas algoritminio teisingumo tyrimas padarė gana aiškią išvadą, kad algoritmuose turėtume naudoti tokius dalykus kaip rasė ir lytis. Jei bankai neturi prieigos prie tų kintamųjų ir net negali atlikti saugos patikrų, kad įsitikintų, jog jų algoritmai nėra šališki, vienintelis būdas sužinoti apie šiuos šališkumus yra tada, kai žmonės tviteryje praneša apie skirtumus, kuriuos jie susiduriu laukinėje gamtoje.

Tačiau Andrew Selbstas, UCLA teisės profesoriaus padėjėjas, besispecializuojantis dirbtinio intelekto ir teisės sankirtoje, įspėja, kad nejudėtų per greitai. Taip perrašant įstatymą, blogi veikėjai gali pradėti įtraukti rasės ir lyties kintamuosius ir žiauriai diskriminuoti tokiu būdu, kurį labai sunku kontroliuoti, sako jis. Jis taip pat nerimauja, kad šis sprendimas nepaisytų dvejetainių ar translyčių žmonių ir netyčia nepadarytų jiems žalos.

Jei norite, kad daugiau tokių istorijų būtų pristatyta tiesiai į jūsų pašto dėžutę, užsiprenumeruokite Webby nominuotą AI informacinį biuletenį The Algorithm. Tai nemokama.

paslėpti