„Patikimas AI“ yra sistema, padedanti valdyti unikalią riziką

„Patikimas AI“ yra sistema, padedanti valdyti unikalią riziką

Pateikė Deloitte AI institutas

Dirbtinio intelekto (DI) technologija ir toliau sparčiai tobulėja ir greitai tampa potencialiu trikdytoju ir esminiu veiksniu beveik kiekvienai įmonei kiekvienoje pramonės šakoje. Šiame etape viena iš kliūčių plačiai paplitusiam AI diegimui nebėra pati technologija; veikiau tai iššūkių rinkinys, kuris, kaip ironiška, yra kur kas žmogiškesnis: etika, valdymas ir žmogiškosios vertybės.

Irfanas Saifas yra „Deloitte“ rizikos ir finansų konsultacijų skyriaus vadovas. Beena Ammanath yra „Deloitte Consulting LLP“ generalinė direktorė.

Dirbtiniam intelektui plečiantis beveik visuose šiuolaikinio gyvenimo aspektuose, netinkamo DI elgesio rizika didėja eksponentiškai – iki tokio lygio, kai ši rizika tiesiogine prasme gali tapti gyvybės ir mirties klausimu. Realūs AI pavyzdžiai yra klaidingi, tai sistemos, diskriminuojančios žmones dėl jų rasės, amžiaus ar lyties, ir socialinės žiniasklaidos sistemos, kurios netyčia skleidžia gandus, dezinformaciją ir kt.

Dar blogiau, kad šie pavyzdžiai yra tik ledkalnio viršūnė. Kadangi dirbtinis intelektas diegiamas didesniu mastu, susijusi rizika greičiausiai tik didės – tai gali turėti rimtų pasekmių visai visuomenei ir dar didesnių pasekmių atsakingoms įmonėms. Verslo požiūriu šios galimos pasekmės apima viską nuo ieškinių, reguliavimo baudų ir piktų klientų iki sumišimo, žalos reputacijai ir akcininkų vertės sunaikinimo.

Tačiau dabar, kai dirbtinis intelektas tampa būtina verslo galimybe – ne tik malonu turėti – įmonės nebeturi galimybės išvengti unikalios DI rizikos tiesiog visiškai vengdamos AI. Vietoj to jie turi išmokti efektyviai nustatyti ir valdyti AI riziką. Kad išnaudotų žmonių ir mašinų bendradarbiavimo potencialą, organizacijos turi pateikti AI planą, kuris būtų priimtas ir išsakytas nuo pašto skyriaus iki posėdžių salės. Turėdamos etinę sistemą, organizacijos kuria bendrą kalbą, kuria išreikšti pasitikėjimą ir padeda užtikrinti duomenų vientisumą tarp visų savo vidinių ir išorinių suinteresuotųjų šalių. Turint bendrą sistemą ir objektyvą, leidžiantį nuosekliai visoje įmonėje taikyti su DI susijusios rizikos valdymą ir valdymą, dirbtinis intelektas gali būti pritaikytas greičiau ir nuosekliau.

Patikima AI sistema

Norint geriau spręsti su AI etika ir valdymu susijusius iššūkius, tai padeda panaudoti sistemą. Deloitte patikimo dirbtinio intelekto sistemoje pateikiami šeši pagrindiniai aspektai, kurie, bendrai įvertinus AI sistemos projektavimo, kūrimo, diegimo ir eksploatavimo etapus, gali padėti apsaugoti etiką ir sukurti patikimą AI strategiją.

Patikima dirbtinio intelekto sistema skirta padėti įmonėms nustatyti ir sumažinti galimas su AI etika susijusias rizikas kiekviename DI gyvavimo ciklo etape. Čia atidžiau pažvelkite į kiekvieną iš šešių sistemos matmenų.

Patikima AI sistema

1. Teisingas, nešališkas

Patikimas dirbtinis intelektas turi būti sukurtas ir išmokytas laikytis sąžiningo, nuoseklaus proceso ir priimti teisingus sprendimus. Ji taip pat turi apimti vidinius ir išorinius patikrinimus, kad būtų sumažintas diskriminacinis šališkumas.

Šališkumas yra nuolatinis iššūkis žmonėms ir visuomenei, ne tik AI. Tačiau dirbtinio intelekto iššūkis yra dar didesnis, nes jam trūksta niuansų supratimo apie socialinius standartus – jau nekalbant apie nepaprastą bendrą intelektą, reikalingą sveikam protui pasiekti – dėl to gali būti priimti sprendimai, kurie yra techniškai teisingi, bet socialiai nepriimtini. AI mokosi iš duomenų rinkinių, naudojamų jam mokyti, o jei šiuose duomenų rinkiniuose yra realaus pasaulio paklaidų, AI sistemos gali išmokti, sustiprinti ir skleisti tą paklaidą skaitmeniniu greičiu ir mastu.

Pavyzdžiui, dirbtinio intelekto sistema, kuri nusprendžia, kur dėti internetinius darbo skelbimus, gali nesąžiningai nukreipti skelbimus apie geriau apmokamus darbus svetainės lankytojams vyrams, nes realūs duomenys rodo, kad vyrai paprastai uždirba daugiau nei moterys. Panašiai finansinių paslaugų įmonė, kuri naudoja dirbtinį intelektą hipotekos paraiškoms tikrinti, gali pastebėti, kad jos algoritmas nesąžiningai diskriminuoja žmones dėl socialiai nepriimtinų veiksnių, pvz., rasės, lyties ar amžiaus. Abiem atvejais už dirbtinį intelektą atsakinga įmonė gali susidurti su rimtomis pasekmėmis, įskaitant reglamentuojamas baudas ir žalą reputacijai.

Kad išvengtų problemų, susijusių su sąžiningumu ir šališkumu, įmonės pirmiausia turi nustatyti, kas yra sąžininga. Tai gali būti daug sunkiau, nei atrodo, nes bet kuriai problemai apskritai nėra vieno sąžiningumo apibrėžimo, dėl kurio visi žmonės sutiktų. Įmonės taip pat turi aktyviai ieškoti šališkumo savo algoritmuose ir duomenyse, atlikti reikiamus koregavimus ir įgyvendinti valdiklius, kad padėtų užtikrinti, kad netikėtai neatsirastų papildomų paklaidų. Aptikus šališkumą, jį reikia suprasti ir sušvelninti taikant nustatytus problemos sprendimo ir klientų pasitikėjimo atkūrimo procesus.

AI nebegali būti traktuojamas kaip juodoji dėžė, kuri gauna įvestis ir generuoja išvestį be aiškaus supratimo, kas vyksta viduje.

2. Skaidrus ir paaiškinamas

Kad dirbtinis intelektas būtų patikimas, visi dalyviai turi teisę suprasti, kaip naudojami jų duomenys ir kaip AI priima sprendimus. AI algoritmai, atributai ir koreliacijos turi būti atviri tikrinimui, o jos sprendimai turi būti visiškai paaiškinami.

Didėjant DI sprendimų ir procesų skaičiui ir svarbai, dirbtinis intelektas nebegali būti traktuojamas kaip juodoji dėžė, kuri gauna įvestis ir generuoja išvestį be aiškaus supratimo, kas vyksta viduje.

Pavyzdžiui, internetiniai mažmenininkai, kurie naudoja dirbtinį intelektą teikdami klientams produktų rekomendacijas, patiria spaudimą paaiškinti savo algoritmus ir kaip priimami rekomendacijų sprendimai. Panašiai JAV teismų sistema susiduria su nuolatiniais ginčais dėl nepermatomų AI sistemų naudojimo informuojant apie baudžiamosios atsakomybės sprendimus.

Svarbūs klausimai, į kuriuos reikia atsižvelgti šioje srityje, yra AI naudojimo atvejų, kurių skaidrumas ir paaiškinamumas yra ypač svarbūs, nustatymas ir supratimas, kokie duomenys naudojami ir kaip priimami sprendimai dėl šių naudojimo atvejų. Be to, didėja spaudimas skaidrumui aiškiai informuoti žmones kai jie bendrauja su dirbtiniu intelektu, užuot AI apsimetę tikru asmeniu.

3. Atsakingas ir atsakingas

Patikimos AI sistemos turi apimti politiką, kuri aiškiai nustato, kas yra atsakingas ir atskaitingas už jų rezultatus. Kaltinti pačią technologiją dėl prastų sprendimų ir klaidingų skaičiavimų tiesiog nepakanka – ne žmonėms, kuriems daroma žala, ir tikrai ne vyriausybės reguliavimo institucijoms. Tai yra pagrindinė problema, kuri greičiausiai taps dar svarbesnė, nes dirbtinis intelektas naudojamas vis daugybei vis svarbesnių programų, tokių kaip ligų diagnostika, turto valdymas ir savarankiškas vairavimas.

Pavyzdžiui, jei transporto priemonė be vairuotojo sukelia susidūrimą, kas yra atsakingas ir atsakingas už žalą? Vairuotojas? Transporto priemonės savininkas? Gamintojas? AI programuotojai? Generalinis direktorius?

Panašiai apsvarstykite pavyzdį, kai investicinė įmonė naudoja automatizuotą AI valdomą platformą prekybai savo klientų vardu. Jei klientas investuoja savo gyvenimo santaupas per įmonę ir praranda viską dėl prastų algoritmų, turėtų būti sukurtas mechanizmas, leidžiantis nustatyti, kas atsakingas už problemą ir kas atsakingas už tai, kad viskas būtų ištaisyta.

Pagrindiniai veiksniai, į kuriuos reikia atsižvelgti, yra tai, kurie įstatymai ir taisyklės gali nustatyti teisinę atsakomybę ir ar AI sistemos yra audituojamos ir ar jai taikomi esami informatorių įstatymai. Taip pat, kaip apie problemas bus pranešama visuomenei ir reguliavimo institucijoms ir su kokiomis pasekmėmis susidurs atsakingos šalys?

4. Tvirtas ir patikimas

Kad dirbtinis intelektas būtų plačiai naudojamas, jis turi būti bent jau toks pat tvirtas ir patikimas, kaip ir tradicinės sistemos, procesai ir žmonės, kuriuos jis papildo ar pakeičia.

Kad dirbtinis intelektas būtų laikomas patikimu, jis turi būti pasiekiamas tada, kai jis turėtų būti prieinamas, ir generuoti nuoseklius bei patikimus rezultatus – tinkamai atlikti užduotis ne idealiomis sąlygomis ir kai susiduriama su netikėtomis situacijomis ir duomenimis. Patikimas AI turi gerai plėstis, išlikti tvirtas ir patikimas, kai jo poveikis plečiasi ir auga. O jei nepavyksta, tai turi žlugti nuspėjamai, tikėtinu būdu.

Apsvarstykite pavyzdį apie sveikatos priežiūros įmonę, kuri naudoja dirbtinį intelektą, kad nustatytų smegenų nuskaitymo sutrikimus ir paskirtų tinkamą gydymą. Kad būtų galima pasitikėti, labai svarbu, kad Al algoritmai gautų nuoseklius ir patikimus rezultatus, nes gali kilti gyvybė.

Įmonės turi atsižvelgti į visas rizikas – išorines, fizines, skaitmenines – ir jas spręsti, o vėliau apie tai pranešti vartotojams.

Kad dirbtinis intelektas būtų tvirtas ir patikimas, įmonės turi užtikrinti, kad jų AI algoritmai pateiktų tinkamus kiekvieno naujo duomenų rinkinio rezultatus. Jiems taip pat reikia nusistovėjusių problemų ir neatitikimų sprendimo procesų, jei ir kai jie iškyla. Žmogiškasis veiksnys čia yra esminis elementas: supratimas, kaip žmogaus indėlis veikia patikimumą; nustatyti, kurie žmonės turi pateikti informaciją; ir užtikrinti, kad tie žmonės būtų tinkamai aprūpinti ir apmokyti, ypač atsižvelgiant į šališkumą ir etiką.

5. Gerbiantis privatumą

Privatumas yra labai svarbi visų tipų duomenų sistemų problema, tačiau ji ypač svarbi dirbtiniam intelektui, nes sudėtingos AI sistemų įžvalgos dažnai kyla iš duomenų, kurie yra išsamesni ir asmeniškesni. Patikimas dirbtinis intelektas turi laikytis duomenų taisyklių ir naudoti duomenis tik nurodytais ir sutartais tikslais.

AI privatumo problema dažnai neapsiriboja pačios įmonės sienomis. Pavyzdžiui, AI asistentų užfiksuotų garso duomenų privatumas pastaruoju metu nuskambėjo antraštėse, kyla ginčų dėl to, kiek įmonės pardavėjams ir partneriams suteikiama prieiga prie duomenų ir ar šie duomenys turėtų būti dalijami su teisėsaugos institucijomis.

Įmonės turi žinoti, kokie klientų duomenys ir kodėl renkami, ar duomenys naudojami taip, kaip klientai suprato ir sutiko. Be to, klientams turėtų būti suteiktas reikiamas duomenų kontrolės lygis, įskaitant galimybę pasirinkti arba atsisakyti dalintis savo duomenimis. Ir jei klientai nerimauja dėl duomenų privatumo, jiems reikia būdų, kaip tuos rūpesčius išreikšti.

6. Saugu ir patikima

Kad dirbtinis intelektas būtų patikimas, jis turi būti apsaugotas nuo kibernetinio saugumo rizikos, kuri gali sukelti fizinę ir (arba) skaitmeninę žalą. Nors sauga ir saugumas yra neabejotinai svarbūs visoms kompiuterinėms sistemoms, jie yra ypač svarbūs dirbtiniam intelektui dėl didelio ir didėjančio AI vaidmens ir poveikio realaus pasaulio veiklai.

Pavyzdžiui, jei įsilaužta į dirbtinio intelekto finansų sistemą, gali būti pažeista reputacija ir prarasti pinigai ar duomenys. Tai, žinoma, rimtos pasekmės. Tačiau jie nėra beveik tokie rimti, kaip galimos AI varomos transporto priemonės įsilaužimo pasekmės, dėl kurių gali kilti pavojus žmonių gyvybėms.

Kitas AI kibernetinio saugumo rizikos pavyzdys yra neseniai įvykęs duomenų pažeidimas, apimantis milijonus žmonių pirštų atspaudų ir veido atpažinimo įrašai . Šis pažeidimas buvo ypač rimtas, nes buvo susiję su žmonių biometriniais duomenimis, kurie yra nuolatiniai ir negali būti pakeisti (skirtingai nuo pavogto slaptažodžio ar kitų standartinių duomenų, kuriuos galima greitai ir lengvai pakeisti siekiant apriboti žalą).

Siekdamos užtikrinti savo dirbtinio intelekto sistemų saugą ir saugą, įmonės turi nuodugniai apsvarstyti ir spręsti visų rūšių rizikas – išorines, fizines ir skaitmenines bei daugelį kitų – ir tada pranešti apie tai naudotojams. Nors išorinė rizika dažniausiai sulaukia daugiausiai dėmesio, vidinė rizika, pvz., sukčiavimas, gali būti tokia pat rimta. Kiekvienu DI naudojimo atveju įmonės turi įvertinti, ar galima nauda pakankamai atsveria susijusią riziką.

AI galite pasitikėti

Dirbtinio intelekto etika tampa vieninteliu didžiausiu iššūkiu nuolatinei AI pažangai ir plačiai paplitusiam diegimui – tai iššūkis, kurio įmonės nebegali ignoruoti dabar, kai dirbtinis intelektas tampa esminiu verslo pajėgumu. Patikima dirbtinio intelekto sistema siūlo struktūruotą ir visapusišką būdą galvoti apie AI etiką, padedant įmonėms kurti, kurti, diegti ir eksploatuoti AI sistemas. gali pasitikėti.

Norėdami gauti daugiau informacijos, apsilankykite www.deloitte.com/us/trustai .

paslėpti