211service.com
„Facebook“ skelbimų teikimo algoritmas diskriminuoja pagal lytį ir rasę
Ms. Tech/ Logotipas: facebook
Algoritmai yra šališki, o „Facebook“ nėra išimtis.
Dar praėjusią savaitę JAV būsto ir miestų plėtros departamentas padavė į teismą technologijų milžiną dėl to, kaip jis leido reklamuotojams tikslingai taikyti savo skelbimus pagal rasę, lytį ir religiją – visas pagal JAV įstatymus saugomas klases. Bendrovė paskelbė, kad nustos tai leisti.
Bet naujų įrodymų rodo, kad „Facebook“ algoritmas, kuris automatiškai nusprendžia, kam bus rodomas skelbimas, bet kuriuo atveju vykdo tokią pat diskriminaciją, pateikdamas skelbimus daugiau nei dviem milijardams vartotojų, remdamasis jų demografine informacija.
Šiaurės rytų universiteto Muhammado Ali ir Piotro Sapiezynskio vadovaujama komanda paleido seriją kitaip identiškų skelbimų su nedideliais turimo biudžeto, antraštės, teksto ar vaizdo skirtumais. Jie išsiaiškino, kad šie subtilūs patobulinimai turėjo reikšmingą poveikį auditorijai, kurią pasiekia kiekvienas skelbimas, ypač kai skelbimai buvo apie darbą ar nekilnojamąjį turtą. Pavyzdžiui, ikimokyklinio ugdymo mokytojų ir sekretorių skelbimai buvo rodomi didesnei moterų daliai, o kiemsargių ir taksi vairuotojų skelbimai buvo rodomi didesnei mažumų daliai. Skelbimai apie parduodamus namus taip pat buvo rodomi daugiau baltųjų vartotojų, o skelbimai apie nuomą buvo rodomi daugiau mažumų.
„Facebook“ atstovas spaudai padarė svarbių skelbimų taikymo įrankių pakeitimų ir žinome, kad tai tik pirmas žingsnis. sakė pareiškime, atsakydama į išvadas. Peržiūrėjome savo skelbimų pateikimo sistemą ir šia tema įtraukėme pramonės lyderius, akademikus ir pilietinių teisių ekspertus – ir svarstome daugiau pakeitimų.
Tam tikra prasme tai neturėtų stebinti – rekomendacijų algoritmų šališkumas buvo žinomas daugelį metų. Pavyzdžiui, 2013 m. Latanya Sweeney, Harvardo vyriausybės ir technologijų profesorė, paskelbė straipsnį, kuriame buvo parodyta netiesioginė rasinė diskriminacija, susijusi su „Google“ skelbimų teikimo algoritmu. Problema grįžta į tai, kaip šie algoritmai veikia iš esmės. Visi jie yra pagrįsti mašininiu mokymusi , kuris randa modelius dideliame duomenų kiekyje ir iš naujo taiko juos priimant sprendimus. Yra daug būdų, kaip šio proceso metu gali atsirasti šališkumas, tačiau du ryškiausi „Facebook“ atveju yra susiję su problemų formavimo ir duomenų rinkimo problemomis.
Šališkumas atsiranda kuriant problemą, kai mašininio mokymosi modelio tikslas yra nesuderinamas su poreikiu vengti diskriminacijos. „Facebook“ reklamavimo įrankis leidžia reklamuotojams pasirinkti iš trijų optimizavimo tikslų: skelbimo peržiūrų skaičiaus, paspaudimų skaičiaus ir įtraukimo į jį bei sugeneruotų pardavimų kiekio. Tačiau tie verslo tikslai niekaip nesusiję su, tarkime, vienodų galimybių gauti būstą išlaikymu. Todėl, jei algoritmas sužinotų, kad jis galėtų užsitikrinti didesnį įsitraukimą, parodydamas daugiau baltųjų vartotojų namų, kuriuos galima įsigyti, juodaodžiai vartotojai būtų diskriminuojami.
Šališkumas atsiranda renkant duomenis, kai mokymo duomenys atspindi esamus išankstinius nusistatymus. „Facebook“ reklamos įrankis savo optimizavimo sprendimus grindžia istorinėmis žmonių pasirinktomis nuostatomis. Jei anksčiau su nuomos skelbimais užsiimdavo daugiau mažumų, mašininio mokymosi modelis atpažins tą modelį ir visam laikui taikys iš naujo. Vėlgi, tai aklai stos į užimtumo ir būsto diskriminacijos kelius – to daryti aiškiai neįpareigojant.
Nors toks elgesys mašininio mokymosi srityje buvo tiriamas gana ilgą laiką, naujajame tyrime galima tiesiogiai pažvelgti į jo poveikį žmonių galimybei gauti būstą ir įsidarbinimo galimybėms. Šios išvados yra sprogstamos! Christianas Sandvigas, Mičigano universiteto Etikos, visuomenės ir skaičiavimo centro direktorius, pasakojo „The Economist“. Straipsnyje mums sakoma, kad [...] dideli duomenys, naudojami tokiu būdu, niekada negali mums suteikti geresnio pasaulio. Tiesą sakant, tikėtina, kad šios sistemos daro pasaulį dar blogesnį, nes paspartina pasaulio problemas, dėl kurių viskas yra neteisinga.
Geros naujienos yra tai, kad gali būti būdų, kaip išspręsti šią problemą, tačiau tai nebus lengva. Daugelis AI tyrinėtojų šiuo metu ieško techninių mašininio mokymosi šališkumo pataisų, kurios galėtų sukurti teisingesnius internetinės reklamos modelius. Neseniai popierius Pavyzdžiui, Jeilio universiteto ir Indijos technologijos instituto mokslininkai teigia, kad gali būti įmanoma apriboti algoritmus, kad būtų sumažintas diskriminacinis elgesys, nors ir nedidelėmis pajamomis iš reklamos. Tačiau politikos formuotojai turės atlikti didesnį vaidmenį, jei platformos pradės investuoti į tokius pataisymus, ypač jei tai gali turėti įtakos jų rezultatams.
Tai iš pradžių pasirodė mūsų AI informaciniame biuletenyje „Algoritmas“. Jei norite, kad jis būtų pristatytas tiesiai į jūsų pašto dėžutę, prisiregistruokite čia nemokamai.