Žinoma, technologijos išlaiko rasizmą. Jis buvo sukurtas taip.

Šaltinio nuotrauka: Getty / Ms Tech

Šiandien Jungtinės Valstijos griūva nuo dviejų pandemijų: koronaviruso ir policijos žiaurumo.

Abu naudoja fizinį ir psichologinį smurtą. Abu neproporcingai žudo ir sekina juodaodžius ir rudus žmones. Ir abu yra suaktyvinti technologijų, kurias mes projektuojame, perkuriame ir diegiame – nesvarbu, ar tai būtų kontaktų sekimas, veido atpažinimas ar socialinė žiniasklaida.

Ši istorija buvo mūsų 2020 m. liepos mėn. numerio dalis

• Žr. likusią numerio dalį
• Prenumeruoti

Mes dažnai pasitelkiame technologijas, kad padėtų išspręsti problemas. Tačiau kai visuomenė apibrėžia, įrėmina ir reprezentuoja spalvotus žmones kaip problemą, tie sprendimai dažnai atneša daugiau žalos nei naudos. Mes sukūrėme veido atpažinimo technologijos kurios nukreiptos į įtariamuosius nusikaltėliais pagal odos spalvą. mes turime apmokytos automatizuotos rizikos profiliavimo sistemos kurie neproporcingai identifikuoja lotynų tautybės žmones kaip nelegalius imigrantus. mes turime sukurti kredito balų skaičiavimo algoritmai kurie neproporcingai įvardija juodaodžius kaip rizikingus ir neleidžia jiems įsigyti būsto, gauti paskolų ar susirasti darbo.

Taigi klausimas, su kuriuo turime susidurti, yra tai, ar toliau kursime ir diegsime įrankius, kurie tarnautų rasizmo ir baltųjų viršenybės interesams,

Žinoma, tai visai ne naujas klausimas.

Nepilietinės teisės

1960 m. Demokratų partijos lyderiai susidūrė su savo problema: kaip jų kandidatas į prezidentus Johnas F. Kennedy galėjo paremti silpstančią juodaodžių ir kitų rasinių mažumų paramą?

Iniciatyvus politologas iš MIT, Ithiel de Sola baseinas , kreipėsi į juos su sprendimu. Jis rinktų rinkėjų duomenis iš ankstesnių prezidento rinkimų, padėtų juos į naują skaitmeninio apdorojimo mašiną, sukurtų algoritmą balsavimo elgsenai modeliuoti, numatytų, kokios politikos pozicijos lemtų palankiausius rezultatus, o tada patartų Kenedžio kampanijai atitinkamai veikti. Poolas įkūrė naują įmonę Simulmatics Corporation ir įvykdė savo planą. Jam pavyko, Kennedy buvo išrinktas, o rezultatai parodė šio naujo nuspėjamojo modeliavimo metodo galią.

Rasinė įtampa eskalavo visą septintą dešimtmetį. Tada atėjo ilga, karšta 1967 m. vasara. Sudegė miestai visoje šalyje – nuo ​​Birmingamo (Alabamos valstijoje), iki Ročesterio (Niujorko valstijoje), Mineapolio, Minesotos ir daug kitų. Juodieji amerikiečiai protestavo prieš priespaudą ir diskriminaciją, su kuria jie susidūrė Amerikos baudžiamojo teisingumo sistemos rankose. Tačiau prezidentas Johnsonas pavadino tai pilietine netvarka ir sudarė Kernerio komisiją, kad suprastų geto riaušių priežastis. Komisija kreipėsi į Simulmatics.

Vykdydama DARPA projektą, kuriuo siekiama pakeisti Vietnamo karo bangą, Poolo įmonė sunkiai dirbo rengdama didžiulę propagandinę ir psichologinę kampaniją prieš Vietkongą. Prezidentas Johnsonas nekantravo panaudoti Simulmatics elgesio įtakos technologiją, kad numalšintų šalies vidaus grėsmę, o ne tik jos užsienio priešus. Prisidengdama tuo, ką jie vadino žiniasklaidos tyrimu, „Simulmatics“ subūrė komandą, kuri prilygo didelio masto stebėjimo kampanijai riaušių paveiktose vietovėse, kuri tą 1967 m. vasarą patraukė tautos dėmesį.

Trijų narių komandos išvyko į vietoves, kuriose tą vasarą vyko riaušės. Jie atpažino ir apklausė strategiškai svarbius juodaodžius. Jie stebėjo ir apklausė kitus juodaodžius gyventojus visose vietose – nuo ​​kirpyklų iki bažnyčių. Jie klausė gyventojų, ką jie mano apie žiniasklaidos pranešimus apie riaušes. Tačiau jie taip pat rinko duomenis apie daug daugiau: kaip žmonės judėjo mieste ir aplink jį per neramumus, su kuo jie kalbėjosi prieš ir per juos ir kaip jie ruošėsi pasekmėms. Jie rinko duomenis apie mokesčių punktų naudojimą, pardavimus degalinėse ir autobusų maršrutus. Jie pateko į šias bendruomenes apsimestinai bandydami suprasti, kaip žiniasklaida tariamai pakurstė riaušes. Tačiau Johnsonas ir tautos politiniai lyderiai bandė išspręsti problemą. Jie siekė panaudoti Simulmatics surinktą informaciją, kad atsektų informacijos srautą protestų metu, kad nustatytų įtaką darančius asmenis ir nukirstų protestų vadovybę.

Jie to nepadarė tiesiogiai. Jie nežudė žmonių, nesodino į kalėjimą ir nedingo jų slapta.

Tačiau septintojo dešimtmečio pabaigoje tokia informacija padėjo sukurti tai, kas buvo žinoma kaip baudžiamosios justicijos informacinės sistemos. Bėgant dešimtmečiams jų daugėjo, padėdami pagrindą rasiniam profiliavimui, nuspėjamai policijos veiklai ir rasiškai nukreiptam stebėjimui. Jie paliko palikimą, apimantį milijonus juodaodžių ir rudų moterų ir vyrų, įkalintų.

Perfrazuojant problemą

Juoda ir juodaodžiai žmonės. Abu tebėra mūsų tautos – drįsčiau sakyti, net mūsų pasaulio – problema. Kai kontaktų atsekimas pirmą kartą pasirodė pandemijos pradžioje, buvo lengva suprasti, kad tai būtina, bet gera sveikatos priežiūros priemonė. Koronavirusas buvo mūsų problema, todėl pradėjome kurti naujas stebėjimo technologijas kontaktų sekimo, temperatūros stebėjimo ir grėsmių žemėlapių programomis, kad padėtume ją išspręsti.

Tačiau atsitiko kažkas keisto ir tragiško. Mes išsiaiškinome, kad juodaodžiai, lotynų tautybės žmonės ir vietinės populiacijos buvo neproporcingai užkrėstos ir paveiktos. Staiga mes taip pat tapome nacionaline problema; neproporcingai grasinome išplisti virusą. Tai dar labiau apsunkino, kai tragiška George'o Floydo žmogžudystė, kurią įvykdė baltasis policijos pareigūnas, išsiuntė tūkstančius protestuotojų į gatves. Prasidėjus plėšikavimui ir riaušėms, mes – juodaodžiai – vėl buvome suvokiami kaip grėsmė įstatymui ir tvarkai, grėsme sistemai, kuri išlaiko baltųjų rasinę galią. Tai verčia susimąstyti, kiek laiko užtruks, kol teisėsauga įdiegs tas technologijas, kurias pirmiausia sukūrėme kovai su COVID-19, kad numalšintų grėsmę, kurią juodaodžiai tariamai kelia tautos saugumui.

Jei nenorime, kad mūsų technologijos būtų naudojamos rasizmui įamžinti, turime užtikrinti, kad nepainiotume tokių socialinių problemų kaip nusikalstamumas, smurtas ar ligos su juodaodžiais ir rudais žmonėmis. Tai darydami rizikuojame paversti tuos žmones problemomis, kurioms išspręsti pasitelkiame savo technologiją, grėsme, kurią planuojame jas panaikinti.

Charlton McIlwain yra žiniasklaidos, kultūros ir komunikacijos profesorius Niujorko universitete ir autorius Juodoji programinė įranga: internetas ir rasinis teisingumas, nuo AfroNet iki juodųjų gyvenimų

paslėpti