„Apple Card“ yra tiriamas dėl pretenzijų, kad ji suteikia moterims mažesnius kredito limitus

Kategorija: Dirbtinis intelektas Paskelbta Lapkričio 11 d

Algoritmas, nustatantis kredito limitą naujosios „Apple“ kredito kortelės, pradėtos naudoti rugpjūtį JAV, naudotojams, yra tiriamas, nes atrodo, kad jis vyrams suteikia didesnius limitus nei moterims.

Naujienos: Lapkričio 7 d. interneto verslininkas Davidas Heinemeieris Hanssonas paskelbė dabar virusinį tviterį sakydamas, kad „Apple Card“ jam suteikė 20 kartų didesnį kredito limitą nei jo žmona. Taip buvo nepaisant to, kad jie pateikė bendras mokesčių deklaracijas ir kad po tyrimo jo žmonos kredito balas buvo geresnis nei jo. „Apple“ įkūrėjas Steve'as Wozniakas atsakė tviteryje ir teigė, kad jam taip pat buvo suteiktas 10 kartų didesnis kredito limitas nei jo žmona, nors jie neturi atskiro turto ar banko sąskaitų.

Rezultatas: Dabar Niujorko finansinių paslaugų departamentas pradeda tyrimą dėl kortelę valdančios Goldman Sachs. Jos vadovė Linda Lacewell, sakė dienoraščio įraše kad sargas išnagrinėtų, ar algoritmas, naudojamas priimant šiuos kredito limito sprendimus, nepažeidžia valstybės įstatymų, draudžiančių diskriminaciją dėl lyties. Reguliatorius jau padarė neseniai pradėjo tyrimą į ataskaitas, kad algoritmas lėmė, kad juodaodžiai pacientai gavo mažiau išsamią priežiūrą nei baltieji pacientai.

Platesnė problema: „Goldman Sachs“ savaitgalį socialiniame tinkle „Twitter“ paskelbė pareiškimą, kuriame teigiama, kad nustatant kreditingumą į lytį neatsižvelgiama. Tačiau nepaaiškinamas kortelės kredito limitų skirtumas yra dar vienas pavyzdys, kaip netyčia gali būti sukurtas algoritminis šališkumas. Tokie algoritmai, kurie naudojami kreditingumui įvertinti, yra parengti remiantis daugelio metų istoriniais duomenimis, o šališkumas į procesą gali patekti įvairiais būdais .