211service.com
Suteikus algoritmams netikrumo jausmą, jie galėtų tapti etiškesni
Algoritmai geriausiai padeda siekti vieno matematinio tikslo, tačiau žmonės dažnai nori kelių nesuderinamų dalykų. 2019 m. sausio 18 d
Ponia Tech
Algoritmai vis dažniau naudojami priimant etinius sprendimus. Galbūt geriausias to pavyzdys yra aukštųjų technologijų požiūris į etinę dilemą, žinomą kaip vežimėlio problema: jei savarankiškai važiuojantis automobilis negali susilaikyti nuo vieno iš dviejų pėsčiųjų nužudymo, kaip automobilio valdymo programinė įranga turėtų pasirinkti, kas gyvena ir kas miršta. ?
Tiesą sakant, ši mįslė nėra labai tikroviškas savarankiškų automobilių elgesys. Tačiau daugelis kitų sistemų, kurios jau yra čia arba netoli, turės padaryti visokius tikrus etinius kompromisus. Šiuo metu baudžiamojo teisingumo sistemoje naudojamos vertinimo priemonės turi atsižvelgti į visuomenei kylančius pavojus dėl žalos atskiriems kaltinamiesiems; autonominiai ginklai turės pasverti karių ir civilių gyvybes.
Problema ta, kad algoritmai niekada nebuvo sukurti tokiems sudėtingiems pasirinkimams. Jie sukurti siekiant vieno matematinio tikslo, pavyzdžiui, maksimaliai padidinti išgelbėtų karių gyvybių skaičių arba sumažinti civilių mirčių skaičių. Kai pradedate siekti kelių, dažnai konkuruojančių, tikslų arba bandote atsižvelgti į neapčiuopiamus dalykus, tokius kaip laisvė ir gerovė, patenkinamas matematinis sprendimas ne visada egzistuoja.
Mes, žmonės, norime kelių nesuderinamų dalykų, sako Peteris Eckersley, AI partnerystės tyrimų direktorius, neseniai išleidęs popierius kuri nagrinėja šią problemą. Yra daug didelių situacijų, kai iš tikrųjų netikslinga – galbūt pavojinga – užprogramuoti vieną tikslinę funkciją, kuri bando apibūdinti jūsų etiką.
Šios neišsprendžiamos dilemos nėra būdingos algoritmams. Etikai juos tyrinėjo dešimtmečius ir vadina jas neįmanomumo teoremomis. Taigi, kai Eckersley pirmą kartą pripažino jų pritaikymą dirbtiniam intelektui, jis pasiskolino idėją tiesiai iš etikos srities, kad pasiūlytų sprendimą: kas būtų, jei į savo algoritmus įtrauktume neapibrėžtumą?
Mes, kaip žmonės, dažnai priimame sprendimus gana neapibrėžtais būdais, sako jis. Mūsų, kaip moralinių būtybių, elgesys kupinas netikrumo. Tačiau kai bandome priimti tokį etišką elgesį ir pritaikyti jį dirbtiniu intelektu, jis dažniausiai konkretizuojasi ir patikslinamas. Vietoj to, Eckersley siūlo, kodėl gi nesukūrus mūsų algoritmų taip, kad nebūtume tikri dėl teisingo veiksmo?
Eckersley pateikia du galimus būdus, kaip išreikšti šią idėją matematiškai. Jis pradeda nuo prielaidos, kad algoritmai paprastai užprogramuojami laikantis aiškių taisyklių, susijusių su žmogaus pageidavimais. Pavyzdžiui, turėtume pasakyti, kad mes neabejotinai teikiame pirmenybę draugiškiems kariams, o ne draugiškiems civiliams, o draugiškiems civiliams, o ne priešo kareiviams – net jei iš tikrųjų nebuvome tikri arba nemanėme, kad taip turėtų būti visada. Algoritmo dizainas palieka mažai vietos netikrumui.
Pirmoji technika, žinoma kaip dalinis užsakymas, pradeda įvesti tik menkiausio netikrumo. Galite užprogramuoti algoritmą, kad pirmenybė būtų teikiama draugiškiems kariams, o ne priešo kariams, o draugiškiems civiliams, o ne priešo kareiviams, bet nenurodytumėte pirmenybės tarp draugiškų karių ir draugiškų civilių.
Naudodami antrąją techniką, vadinamą neapibrėžtu išdėstymu, turite keletą absoliučių nuostatų sąrašų, tačiau kiekvienas iš jų turi tam tikrą tikimybę. Tris ketvirtadalius laiko galite teikti pirmenybę draugiškiems kariams, o ne draugiškiems civiliams, o ne priešo kareiviams. Ketvirtį kartų jums labiau patinka draugiški civiliai, o ne draugiški kariai, o ne priešo kareiviai.
Algoritmas galėtų susidoroti su šiuo neapibrėžtumu, apskaičiuodamas kelis sprendimus ir tada suteikdamas žmonėms parinkčių meniu su susijusiais kompromisais, sako Eckersley. Tarkime, AI sistema buvo skirta padėti priimti medicininius sprendimus. Vietoj to, kad būtų rekomenduojamas vienas gydymas, o ne kitas, jame galėtų būti pateikti trys galimi variantai: vienas – maksimaliai padidinti paciento gyvenimo trukmę, kitas – sumažinti paciento kančias ir trečias – sumažinti išlaidas. Jis sako, kad sistema būtų aiškiai netikra, ir grąžinkite dilemą žmonėms.
Carla Gomes, Kornelio universiteto kompiuterių mokslų profesorė, savo darbe eksperimentavo su panašiais metodais. Viename projekte ji kūrė automatizuotą sistemą, skirtą įvertinti naujų hidroelektrinių užtvankų projektų Amazonės upės baseine poveikį. Užtvankos yra švarios energijos šaltinis. Tačiau jie taip pat labai pakeičia upių dalis ir sutrikdo laukinės gamtos ekosistemas.
Tai visiškai kitoks scenarijus nuo autonominių automobilių ar kitų [dažnai minimų etinių dilemų], tačiau tai dar viena aplinka, kurioje šios problemos yra tikros, sako ji. Yra du prieštaraujantys tikslai, taigi ką daryti?
Ji priduria, kad bendra problema yra labai sudėtinga. Visoms problemoms išspręsti prireiks daugybės tyrimų, tačiau Petro požiūris žengia svarbų žingsnį teisinga kryptimi.
Tai problema, kuri tik didės, kai pasikliaujame algoritminėmis sistemomis. Vis daugiau sudėtingų sistemų reikalauja, kad dirbtinis intelektas būtų atsakingas, sako Romanas V. Yampolskiy, Luisvilio universiteto kompiuterių mokslo docentas. Nė vienas žmogus negali suprasti visos akcijų rinkos ar karinių reagavimo sistemų sudėtingumo. Taigi neturėsime kito pasirinkimo, kaip tik atiduoti dalį savo valdymo mašinoms.
Ankstesnė šios istorijos versija iš pradžių pasirodė mūsų AI informaciniame biuletenyje „Algoritmas“. Jei norite, kad jis būtų pristatytas tiesiai į jūsų pašto dėžutę, užsiprenumeruokite čia nemokamai.