Tobulėja prie teisingesnio AI

Susijęs su Pardavimų galia

Per pastaruosius metus visame pasaulyje siautusi pandemija šaltai ir sunkiai nušvietė daugelį dalykų – skirtingą pasirengimo reaguoti lygį; kolektyvinis požiūris į sveikatą, technologijas ir mokslą; ir didžiulė finansinė ir socialinė nelygybė. Pasauliui ir toliau naršant dėl ​​COVID-19 sveikatos krizės, o kai kuriose vietose net palaipsniui grįžtama į darbą, mokyklą, keliones ir poilsį, labai svarbu teisingai išspręsti konkuruojančius visuomenės sveikatos apsaugos prioritetus ir užtikrinti privatumą.

Dėl užsitęsusios krizės sparčiai pasikeitė darbo ir socialinis elgesys, taip pat padidėjo priklausomybė nuo technologijų. Dabar kaip niekad svarbu, kad įmonės, vyriausybės ir visuomenė būtų atsargūs taikydami technologijas ir tvarkydamos asmeninę informaciją. Išplėstas ir greitas dirbtinio intelekto (AI) pritaikymas parodo, kaip prisitaikančios technologijos gali susikirsti su žmonėmis ir socialinėmis institucijomis potencialiai rizikingais ar neteisiais būdais.

Mūsų santykiai su visomis technologijomis po pandemijos labai pasikeitė, sako Yoav Schlesinger, etikos AI praktikos „Salesforce“ vadovas. Vyks žmonių, įmonių, vyriausybės ir technologijų derybų procesas; kaip jų duomenų srautai tarp visų tų šalių bus iš naujo derinami naujoje socialinių duomenų sutartyje.

AI veikia

2020 m. pradžioje pradėjus vystytis COVID-19 krizei, mokslininkai tikėjosi dirbtinio intelekto, kad padėtų įvairiems medicininiams tikslams, pvz., nustatytų galimus vaistus vakcinoms ar gydymui, padėtų nustatyti galimus COVID-19 simptomus ir paskirstytų ribotus išteklius, pvz., intensyvų. - priežiūros skyriaus lovos ir ventiliatoriai. Konkrečiai, jie rėmėsi dirbtinio intelekto papildytų sistemų analitine galia kurdami pažangiausias vakcinas ir gydymo būdus.

Nors pažangūs duomenų analizės įrankiai gali padėti gauti įžvalgų iš didžiulio duomenų kiekio, rezultatas ne visada buvo teisingesnis. Tiesą sakant, dirbtinio intelekto valdomi įrankiai ir duomenų rinkiniai, su kuriais jie dirba, gali išlaikyti būdingą šališkumą arba sisteminę nelygybę. Per visą pandemiją tokios agentūros kaip Ligų kontrolės ir prevencijos centrai ir Pasaulio sveikatos organizacija surinko labai daug duomenų, tačiau duomenys nebūtinai tiksliai atspindi populiacijas, kurios buvo neproporcingai ir neigiamai paveiktos, įskaitant juodaodžius, ruduosius ir vietinius gyventojus. žmonių, taip pat kai kurių jų padarytos diagnostikos pažangos, sako Schlesingeris.

Pavyzdžiui, biometriniai nešiojamieji prietaisai, tokie kaip „Fitbit“ ar „Apple Watch“, rodo daug žadą gebėjimu aptikti galimus COVID-19 simptomus, tokius kaip temperatūros pokyčiai ar deguonies prisotinimas. Tačiau šios analizės remiasi dažnai ydingais arba ribotais duomenų rinkiniais ir gali sukelti šališkumą arba nesąžiningumą, kuris neproporcingai paveikia pažeidžiamus žmones ir bendruomenes.

Yra keletas tyrimų, kurie rodo žalia LED lemputė jam sunkiau nuskaityti pulsą ir deguonies prisotinimą esant tamsesniems odos atspalviams, sako Schlesingeris, kalbėdamas apie puslaidininkinį šviesos šaltinį. Taigi juodos ir rudos odos savininkams tai gali neveikti vienodai gerai kovojant su koronaviruso simptomais.

AI parodė didesnį veiksmingumą padedant analizuoti didžiulius duomenų rinkinius. Pietų Kalifornijos universiteto Viterbi inžinerijos mokyklos komanda sukūrė dirbtinio intelekto sistemą, padedančią analizuoti kandidatus į Covid-19 vakciną. Nustačius 26 potencialius kandidatus, lauką susiaurino iki 11, kuriems greičiausiai pasiseks. Analizės duomenų šaltinis buvo imuninių epitopų duomenų bazė, kurioje yra daugiau nei 600 000 užkratą lemiančių veiksnių, atsirandančių iš daugiau nei 3 600 rūšių.

Kiti mokslininkai iš Viterbi taiko AI, kad tiksliau iššifruotų kultūrinius kodus ir geriau suprastų socialines normas, kuriomis vadovaujamasi etninių ir rasinių grupių elgesys. Dėl religinių ceremonijų, tradicijų ir kitų socialinių papročių, galinčių palengvinti viruso plitimą, tai gali turėti didelės įtakos tam, kaip tam tikros populiacijos elgiasi tokios krizės metu kaip pandemija.

Pagrindiniai mokslininkai Kristina Lerman ir Fred Morstatter savo tyrimus grindė Moralinių pagrindų teorija , kuri apibūdina intuityvią etiką, formuojančią kultūros moralines konstrukcijas, tokias kaip rūpestingumas, sąžiningumas, lojalumas ir autoritetas, padedantis informuoti individualų ir grupės elgesį.

Mūsų tikslas yra sukurti sistemą, kuri leistų mums suprasti dinamiką, kuri lemia kultūros sprendimų priėmimo procesą gilesniu lygmeniu, sako Morstatter. USC paskelbta ataskaita . Tai darydami sukuriame labiau kultūriškai pagrįstas prognozes.

Tyrime taip pat nagrinėjama, kaip dirbtinį intelektą diegti etiškai ir sąžiningai. Dauguma žmonių, bet ne visi, yra suinteresuoti padaryti pasaulį geresne vieta, sako Schlesingeris. Dabar turime pereiti į kitą lygį – kokius tikslus norime pasiekti ir kokius rezultatus norėtume matyti? Kaip išmatuosime sėkmę ir kaip ji atrodys?

Numalšinti etinius rūpesčius

Labai svarbu išnagrinėti prielaidas apie surinktus duomenis ir AI procesus, sako Schlesingeris. Mes kalbame apie teisingumo siekimą per sąmoningumą. Jis sako, kad kiekviename proceso etape darote vertybinius sprendimus arba darote prielaidas, kurios pasvers jūsų rezultatus tam tikra kryptimi. Tai yra pagrindinis iššūkis kuriant etišką AI, ty pažvelgti į visas vietas, kur žmonės yra šališki.

Dalis šio iššūkio yra kritinis duomenų rinkinių, informuojančių AI sistemas, tyrimas. Labai svarbu suprasti duomenų šaltinius ir duomenų sudėtį bei atsakyti į tokius klausimus: kaip sudaromi duomenys? Ar ji apima įvairias suinteresuotąsias šalis? Koks yra geriausias būdas panaudoti tuos duomenis į modelį, kad būtų sumažintas šališkumas ir maksimalus teisingumas?

Kai žmonės grįžta į darbą, darbdaviai dabar gali būti naudojant jutimo technologijas su integruotu AI , įskaitant šilumines kameras aukštai temperatūrai aptikti; garso jutikliai, skirti aptikti kosulį ar pakeltą balsą, kurie prisideda prie kvėpavimo takų lašelių plitimo; ir vaizdo srautai, skirti stebėti rankų plovimo procedūras, fizinio atstumo taisykles ir kaukės reikalavimus.

Tokios stebėjimo ir analizės sistemos ne tik turi techninio tikslumo iššūkių, bet ir kelia pagrindinę riziką Žmonių teisės , privatumą, saugumą ir pasitikėjimą . Postūmis sustiprinti stebėjimą buvo nerimą keliantis šalutinis pandemijos poveikis. Vyriausybinės agentūros naudojo stebėjimo kamerų filmuotą medžiagą, išmaniųjų telefonų buvimo vietos duomenis, kreditinių kortelių pirkimo įrašus ir net pasyvius temperatūros nuskaitymus perpildytose viešose vietose, pavyzdžiui, oro uostuose, kad padėtų atsekti žmonių, kurie galėjo užsikrėsti COVID-19 ar buvo paveikti jį, judėjimą ir nustatyti viruso plitimą. grandines.

Pirmas klausimas, į kurį reikia atsakyti, yra ne tik ar galime tai padaryti, bet ar turėtume? sako Šlesingeris. Asmenų biometrinių duomenų nuskaitymas be jų sutikimo kelia etinių susirūpinimą, net jei tai vertinama kaip nauda didesnės naudos labui. Turėtume turėti tvirtą pokalbį kaip visuomenė apie tai, ar yra rimta priežastis įdiegti šias technologijas.

Kaip atrodo ateitis

Visuomenei grįžtant prie įprasto būdo, laikas iš esmės iš naujo įvertinti santykį su duomenimis ir nustatyti naujas duomenų rinkimo normas, taip pat tinkamą duomenų naudojimą ir galimą netinkamą naudojimą. Kurdami ir diegdami dirbtinį intelektą, technologai ir toliau darys tas būtinas prielaidas apie duomenis ir procesus, tačiau reikėtų suabejoti tų duomenų pagrindu. Ar duomenys gauti teisėtai? Kas jį surinko? Kokiomis prielaidomis jis grindžiamas? Ar tiksliai pateikta? Kaip galima išsaugoti piliečių ir vartotojų privatumą?

Kadangi dirbtinis intelektas naudojamas plačiau, būtina pagalvoti, kaip sukurti pasitikėjimą. Vienas iš būdų yra dirbtinio intelekto naudojimas siekiant pagerinti žmogaus sprendimų priėmimą, o ne visiškai pakeisti žmogaus indėlį.

Bus daugiau klausimų apie AI vaidmenį visuomenėje, jo santykį su žmonėmis ir kokios yra tinkamos užduotys žmonėms ir kokios yra tinkamos dirbtinio intelekto, sako Schlesingeris. Yra tam tikros sritys, kuriose dirbtinio intelekto galimybės ir jos gebėjimas išplėsti žmogaus galimybes padidins mūsų pasitikėjimą ir pasitikėjimą. Vietose, kur AI nepakeičia žmonių, bet padidina jų pastangas, tai yra kitas horizontas.

Visada bus situacijų, kai žmogus turi dalyvauti priimant sprendimus. Pavyzdžiui, reguliuojamose pramonės šakose, tokiose kaip sveikatos priežiūra, bankininkystė ir finansai, tam, kad būtų laikomasi reikalavimų, reikia turėti žmogų, sako Schlesingeris. Negalite tiesiog naudoti AI, kad priimtumėte priežiūros sprendimus be gydytojo indėlio. Kad ir kaip norėtume tikėti, kad dirbtinis intelektas gali tai padaryti, dirbtinis intelektas dar neturi empatijos ir tikriausiai niekada neturės.

Labai svarbu, kad dirbtinio intelekto surinkti ir sukurti duomenys ne padidintų, o sumažintų nelygybę. Turi būti pusiausvyra tarp būdų, kaip dirbtinis intelektas padėti paspartinti žmogaus ir socialinę pažangą, skatinti teisingus veiksmus ir atsakymus, ir tiesiog pripažinti, kad tam tikras problemas reikės spręsti žmogiškai.

Šį turinį sukūrė „Insights“, „MIT Technology Review“ tinkinto turinio dalis. Ją parašė ne „MIT Technology Review“ redakcija.

paslėpti