AI gali būti teisiškai atsakinga už savo sprendimus

Dirbtinis intelektas vaidins žymiai didesnį vaidmenį visuomenėje. Ir tai kelia atsakomybės klausimą. Jei priimdami vis svarbesnius sprendimus pasikliausime mašinomis, turėsime turėti žalos atlyginimo mechanizmus, jei rezultatai būtų nepriimtini arba sunkiai suprantami.

Tačiau priversti AI sistemas paaiškinti jų sprendimus nėra visiškai paprasta. Viena problema yra ta, kad paaiškinimai nėra nemokami; jie reikalauja nemažų išteklių tiek kuriant dirbtinio intelekto sistemą, tiek tai, kaip ji tiriama praktikoje.

Kitas susirūpinimas yra tai, kad paaiškinimai gali atskleisti komercines paslaptis, priversdami kūrėjus paskelbti AI sistemos vidinę veiklą. Be to, vienas šių sistemų pranašumų yra tas, kad jos gali suprasti sudėtingus duomenis žmonėms nepasiekiamais būdais. Taigi, norint, kad jų paaiškinimai būtų suprantami žmonėms, gali reikėti sumažinti našumą.

Harvardo komanda teigia, kad paaiškinimo sistemos turi būti atskirtos nuo AI sistemų

Taigi, kaip priversti dirbtinį intelektą atsakingą už savo sprendimus, neslopindami naujovių?

Šiandien mes gauname atsakymą dėl Finale Doshi-Velez, Mason Kortz ir kitų Harvardo universiteto Kembridže, Masačusetso valstijoje, darbo. Šie žmonės yra kompiuterių mokslininkai, kognityviniai mokslininkai ir teisės mokslininkai, kurie kartu nagrinėjo AI sistemų keliamas teisines problemas, nustatė pagrindines problemas ir pasiūlė galimus sprendimus. Jie sako, kad kartu esame teisės aiškinimo, dirbtinio intelekto sistemų kūrimo ir žmogaus samprotavimo galimybių bei apribojimų ekspertai.

Jie pradeda apibrėžti paaiškinimą. Kalbėdami apie sprendimo paaiškinimą, paprastai turime omenyje to konkretaus rezultato priežastis ar pagrindimą, o ne apskritai sprendimo priėmimo proceso aprašymą.

Skirtumas yra svarbus. Doshi-Velez ir bendradarbiai pabrėžia, kad galima paaiškinti, kaip AI sistema priima sprendimus ta pačia prasme, kaip galima paaiškinti, kaip veikia gravitacija arba kaip iškepti pyragą. Tai daroma nustatant taisykles, kurių sistema laikosi, nenurodant jokio konkretaus krentančio objekto ar pyrago.

Tai baiminasi pramonininkai, norintys išlaikyti savo AI sistemų veikimą paslaptyje, kad apsaugotų savo komercinį pranašumą.

Tačiau toks skaidrumas daugeliu atvejų nėra būtinas. Pavyzdžiui, norint paaiškinti, kodėl objektas nukrito per pramoninę avariją, paprastai nereikia paaiškinti gravitacijos. Vietoj to, norint atsakyti į tokius klausimus, paprastai reikia paaiškinimų: kokie buvo pagrindiniai sprendimo veiksniai? Ar pakeitus tam tikrą veiksnį būtų pasikeitęs sprendimas? Kodėl dvi panašiai atrodančios bylos privedė prie skirtingų sprendimų?

Norint atsakyti į šiuos klausimus, nebūtinai reikia išsamiai paaiškinti AI sistemos veikimą.

Taigi kada turėtų būti pateikti paaiškinimai? Iš esmės, kai nauda viršija išlaidas. Manome, kad yra trys sąlygos, apibūdinančios situacijas, kai visuomenė mano, kad sprendimų priėmėjas yra įpareigotas – moraliai, socialiai ar teisiškai – pateikti paaiškinimą, sako Doshi-Velez ir kt.

Komanda teigia, kad sprendimas turi turėti įtakos kitam asmeniui, o ne sprendimus priimančiam asmeniui. Turi būti vertinga žinoti, ar sprendimas buvo priimtas klaidingai. Ir turi būti tam tikrų priežasčių manyti, kad sprendimo priėmimo procese įvyko (arba įvyks) klaida.

Pavyzdžiui, stebėtojai gali įtarti, kad sprendimui įtakos turėjo koks nors nereikšmingas veiksnys, pavyzdžiui, chirurgas atsisakė atlikti operaciją dėl mėnulio fazės. Arba jie gali nepasitikėti sistema, jei ji priėmė tą patį sprendimą dviem visiškai skirtingomis aplinkybėmis. Tokiu atveju jie gali įtarti, kad nebuvo atsižvelgta į svarbų veiksnį. Kitas susirūpinimas kyla dėl sprendimų, kurie atrodo nesąžiningai naudingi vienai grupei, pavyzdžiui, kai įmonių direktoriai priima sprendimus, kurie yra naudingi jiems patiems akcininkų sąskaita.

Kitaip tariant, prieš reikalaujant paaiškinimo turi būti rimta priežastis manyti, kad sprendimas yra netinkamas. Tačiau gali būti ir kitų priežasčių pateikti paaiškinimus, pavyzdžiui, bandymas padidinti vartotojų pasitikėjimą.

Taigi Doshi-Velez ir kiti nagrinėja konkrečias teisines situacijas, kai reikia paaiškinimų. Jie nurodo, kad protingi protai gali ir skiriasi dėl to, ar moraliai pateisinama, ar socialiai pageidautina reikalauti paaiškinimo. Kita vertus, įstatymai yra kodifikuoti, ir nors galima ginčytis, ar įstatymas yra teisingas, bent jau žinome, kas yra įstatymas, sako jie.

Pagal JAV įstatymus paaiškinimai reikalingi labai įvairiomis situacijomis ir įvairaus detalumo. Pavyzdžiui, paaiškinimai reikalingi griežtos atsakomybės, skyrybų ar diskriminacijos atvejais; už administracinius sprendimus; ir teisėjams bei prisiekusiųjų komisijoms. Tačiau detalumo lygis labai skiriasi.

Visa tai turi svarbių pasekmių AI sistemoms. Doshi-Velez ir bendradarbiai daro išvadą, kad dirbtinio intelekto sistemoms galimi teisiškai įmanomi paaiškinimai. Taip yra todėl, kad sprendimo paaiškinimas gali būti pateiktas atskirai nuo jo vidinio veikimo aprašymo. Be to, komanda teigia, kad paaiškinimo sistema turėtų būti atskirta nuo AI sistemos.

Tai reikšmingas rezultatas. Tai nereiškia, kad visada bus lengva gauti patenkinamus paaiškinimus. Pavyzdžiui, kaip galime parodyti, kad apsaugos sistema, kuri kaip įvestį naudoja veido atvaizdus, ​​nediskriminuoja dėl lyties? Tai įmanoma tik naudojant alternatyvų veidą, kuris yra panašus visais atžvilgiais, išskyrus lytį, sako komanda.

Tačiau AI sistemų priimamų sprendimų paaiškinimai paprastai yra įmanomi. Ir tai veda komandą prie aiškios išvados. Rekomenduojame, kad šiuo metu dirbtinio intelekto sistemos galėtų ir turėtų būti laikomos panašiais paaiškinimo standartais, kaip ir šiuo metu, sako jie.

Tačiau mūsų naudojimas ir supratimas apie AI greičiausiai pasikeis taip, kaip mes dar nesuprantame (o galbūt niekada nesuprantame). Dėl šios priežasties šį metodą reikės peržiūrėti. Ateityje galbūt norėtųsi, kad dirbtinis intelektas atitiktų kitą standartą, sako Doshi-Velez ir kt.

Gana!

Nuoroda: arxiv.org/abs/1711.01134 : AI atskaitomybė pagal įstatymą: paaiškinimo vaidmuo

paslėpti