AI tyrinėtojai teigia, kad mokslo leidėjai padeda išlaikyti rasistinius algoritmus

Kategorija: Dirbtinis intelektas Paskelbta birželio 23 d

Naujienos: An atviras laiškas iš augančios dirbtinio intelekto tyrėjų koalicijos kviečia mokslo leidėją Springer Nature konferencijos pranešimui, kurį, kaip pranešama, ketino įtraukti į būsimą knygą. Skaičiavimo mokslo ir skaičiavimo žvalgybos sandoriai . Straipsnyje, pavadintame „Gilaus neuroninio tinklo modelis, skirtas nuspėti nusikalstamumą naudojant vaizdo apdorojimą“, pateikiama veido atpažinimo sistema, galinti nuspėti, ar kas nors yra nusikaltėlis. originalus pranešimas spaudai . Jį sukūrė Harisburgo universiteto mokslininkai ir jis turėjo būti pristatytas būsimoje konferencijoje.

Reikalavimai: Cituojant pirmaujančio juodojo AI darbą mokslininkai , laiške paneigiamas mokslinis straipsnio pagrindas ir tvirtinama, kad nusikaltimų numatymo technologijos yra rasistinės. Jame taip pat išvardyti trys reikalavimai: 1) Springer Nature atšaukti savo pasiūlymą paskelbti tyrimą; 2) paskelbti pareiškimą, smerkiantį statistinių metodų, pvz., mašininio mokymosi, naudojimą nusikalstamumui prognozuoti ir pripažinti jo vaidmenį skatinant tokius tyrimus; ir 3) visiems mokslo leidėjams įsipareigoti ateityje neleisti panašių straipsnių. Laišką, kuris pirmadienį buvo išsiųstas Springer Nature, iš pradžių parašė penki mokslininkai iš MIT, Rensselaer politechnikos instituto, McGill universiteto ir AI dabar instituto. Per kelias dienas ji surinko daugiau nei 600 parašų ir suskaičiavo AI etikos ir akademinių bendruomenių atstovus, įskaitant tokius lyderius kaip Meredith Whittaker, AI Now instituto įkūrėja ir Ethanas Zuckermanas, buvęs Pilietinės žiniasklaidos centro direktorius. MIT žiniasklaidos laboratorija.

Kodėl tai svarbu: Nors laiške pabrėžiamas konkretus dokumentas, autorių tikslas yra parodyti sistemingą problemą, susijusią su tuo, kaip mokslinė publikacija skatina tyrėjus tęsti neetiškas normas. Štai kodėl mes nuolat matome, kaip lenktynių mokslas vis atsiranda, – sakė Chelsea Barabas, MIT doktorantė ir viena iš laiško bendraautorių. Taip yra todėl, kad leidėjai tai skelbia. Tikroji šio Springerio kūrinio reikšmė yra ta, kad jis nėra visiškai unikalus, pakartojo Theodora Dryer, „AI Now“ doktorantūros tyrėja ir kita bendraautorė. Tai simbolizuoja problemą ir kritiką, kuri tęsiasi taip ilgai.

Springerio atsakymas: Atsakydamas į laišką, Springeris pasakė, kad jis neleis laikraščio. Straipsnis, apie kurį kalbate, buvo pateiktas būsimai konferencijai, kurios medžiagą Springeris planavo paskelbti. Po kruopštaus tarpusavio vertinimo proceso dokumentas buvo atmestas. Harisburgo universitetas taip pat atsiėmė savo pranešimą spaudai , kuriame teigiama, kad fakultetas atnaujina dokumentą, kad išspręstų iškilusias problemas. Harisburgo universitetas ir straipsnio bendraautoris atmetė prašymą pakomentuoti, taip pat prašymą dėl originalaus dokumento kopijos. Laišką pasirašę asmenys teigė ir toliau sieksiantys įvykdyti antrąjį ir trečiąjį jų reikalavimus.

Didesnis paveikslas: Nuo tada, kai George'o Floydo mirtis sukėlė tarptautinį judėjimą už rasinį teisingumą, dirbtinio intelekto sritis ir apskritai technologijų pramonė turėjo atsiskaityti dėl vaidmens, kurį jie atliko stiprinant struktūrinį rasizmą. Pavyzdžiui, per savaitę, birželio 8 d., IBM, „Microsoft“ ir „Amazon“ paskelbė apie savo veido atpažinimo produktų sustabdymą arba dalinį sustabdymą. Šis žingsnis buvo kulminacija dveji metai advokacijos tyrėjai ir aktyvistai, norėdami parodyti ryšį tarp šių technologijų ir mažumų bendruomenių perdėto valdymo. Atviras laiškas yra naujausias šio judėjimo, siekiant didesnės etinės atskaitomybės dirbtinio intelekto srityje, pasiekimas.

Labai norėjome prisidėti prie šio augančio judėjimo, – sakė McGill universiteto Žiniasklaidos, technologijų ir demokratijos centro tyrimų direktorė Sonja Solomun. Ypač tada, kai žiūrime pro langus ir matome, kas šiuo metu vyksta JAV ir visame pasaulyje, statymai yra tokie dideli.

Atnaujinimas: Po publikavimo „Springer Nature“ paskelbė pareiškimą, kuriame paaiškino, kad „[straipsnis] niekada nebuvo priimtas publikuoti... Serialo redaktoriaus sprendimas atmesti galutinį straipsnį buvo priimtas antradienį, birželio 16 d., ir buvo oficialiai perduotas autoriams pirmadienį, 22 d. birželį.