Nerimaujate dėl savo įmonės AI etikos? Šie startuoliai yra čia, kad padėtų.

Getty

Rumman Chowdhury darbas buvo susijęs su daugybe vertimų. Būdama atsakinga konsultantų įmonės „Accenture“ dirbtinio intelekto vadovė, ji dirbs su klientais, kuriems sunku suprasti savo AI modelius. Kaip jie žinojo, ar modeliai daro tai, ką turėjo? Sumišimas dažnai kildavo iš dalies dėl to, kad bendrovės duomenų mokslininkai, teisininkai ir vadovai kalbėjo skirtingomis kalbomis. Jos komanda veiktų kaip tarpininkė, kad visos šalys galėtų patekti į tą patį puslapį. Tai buvo švelniai tariant neefektyvu: vieno modelio auditas gali užtrukti mėnesius.

Taigi 2020 m. pabaigoje Chowdhury paliko savo postą ir pradėjo savo įmonę. Skambino Paritetinis AI , ji siūlo klientams įrankių rinkinį, kuriuo siekiama sutrumpinti procesą iki kelių savaičių. Pirmiausia tai padeda nustatyti, kaip jie nori patikrinti savo modelį – ar tai šališka, ar teisinė atitiktis? – ir tada pateikia rekomendacijas, kaip išspręsti problemą.

„Parity“ yra viena iš augančių pradedančių įmonių, žadančių organizacijoms būdų kurti, stebėti ir taisyti savo AI modelius. Jie siūlo daugybę produktų ir paslaugų nuo šališkumo mažinimo įrankių iki paaiškinamumo platformų. Iš pradžių dauguma jų klientų buvo iš griežtai reguliuojamų pramonės šakų, tokių kaip finansai ir sveikatos priežiūra. Tačiau padidėjo moksliniai tyrimai ir žiniasklaidos dėmesys šališkumo klausimai , privatumas ir skaidrumas pakeitė pokalbio dėmesį. Nauji klientai dažnai tiesiog nerimauja dėl atsakomybės, o kiti nori pasitvirtinti ateityje, laukdami reguliavimo.

Tiek daug įmonių su tuo susiduria pirmą kartą, sako Chowdhury. Beveik visi jie iš tikrųjų prašo pagalbos.

Nuo rizikos iki poveikio

Dirbdamas su naujais klientais Chowdhury vengia vartoti terminą atsakomybė. Žodis per daug neryškus ir prastai apibrėžtas; palieka per daug vietos nesusikalbėjimui. Vietoj to ji pradeda nuo labiau pažįstamo verslo kalbos: rizikos idėja. Daugelis įmonių turi rizikos ir atitikties skyrius bei nusistovėjusius rizikos mažinimo procesus.

AI rizikos mažinimas nesiskiria. Įmonė turėtų pradėti nuo įvairių dalykų, dėl kurių ji nerimauja. Tai gali būti teisinė rizika, galimybė pažeisti įstatymą; organizacinė rizika, galimybė prarasti darbuotojus; ar reputacijos rizika, galimybė patirti PR katastrofą. Iš ten jis gali dirbti atgal, kad nuspręstų, kaip atlikti savo AI sistemų auditą. Finansų bendrovė, veikianti pagal sąžiningo skolinimo įstatymus JAV, norėtų patikrinti savo skolinimo modelius, kad jie būtų šališki, kad sumažintų teisinę riziką. Telesveikatos įmonė, kurios sistemos naudoja jautrius medicininius duomenis, gali atlikti privatumo auditą, kad sumažintų reputacijos riziką.

„Parity“ apima siūlomų klausimų biblioteką, padedančią įmonėms įvertinti savo AI modelių riziką.

PARITETAS

Paritetas padeda organizuoti šį procesą. Platforma pirmiausia prašo įmonės sukurti vidinį poveikio vertinimą – iš esmės tai atvirų apklausos klausimų rinkinį apie tai, kaip veikia jos verslas ir dirbtinio intelekto sistemos. Jis gali pasirinkti rašyti pasirinktinius klausimus arba pasirinkti juos iš Parity bibliotekos, kurioje yra daugiau nei 1000 raginimų, pritaikytų pagal AI etikos gaires ir atitinkamus teisės aktus iš viso pasaulio. Kai įvertinimas yra parengtas, visos įmonės darbuotojai skatinami jį užpildyti pagal savo pareigas ir žinias. Tada platforma paleidžia laisvo teksto atsakymus naudodama natūralios kalbos apdorojimo modelį ir verčia juos atsižvelgdama į pagrindines įmonės rizikos sritis. Kitaip tariant, paritetas yra naujas tarpininkas, sutraukiantis duomenų mokslininkus ir teisininkus tame pačiame puslapyje.

Toliau platforma rekomenduoja atitinkamą rizikos mažinimo veiksmų rinkinį. Tai gali apimti prietaisų skydelio, skirto nuolatiniam modelio tikslumui stebėti, sukūrimą arba naujų dokumentacijos procedūrų įgyvendinimą, kad būtų galima stebėti, kaip modelis buvo apmokytas ir koreguojamas kiekviename jo kūrimo etape. Jame taip pat yra atvirojo kodo sistemų ir įrankių, kurie gali padėti, rinkinys, pvz., IBM AI Fairness 360 šališkumo stebėjimui arba „Google“ modelių kortelės dokumentacijai.

Chowdhury tikisi, kad jei įmonės galės sutrumpinti savo modelių audito laiką, jos taps drausmingesnės tai darydamos reguliariai ir dažnai. Ji tikisi, kad laikui bėgant tai taip pat gali paskatinti juos galvoti ne tik apie rizikos mažinimą. Mano slaptas tikslas iš tikrųjų yra priversti daugiau įmonių galvoti apie poveikį, o ne tik apie riziką, sako ji. Rizika yra kalba, kurią žmonės supranta šiandien, ir tai labai vertinga kalba, tačiau rizika dažnai yra reaktyvi ir reaguojanti. Poveikis yra aktyvesnis, ir tai iš tikrųjų yra geresnis būdas apibrėžti tai, ką turėtume daryti.

Atsakomybės ekosistema

Nors „Parity“ daugiausia dėmesio skiria rizikos valdymui, kitas startuolis, Smuikininkas , daugiausia dėmesio skiriama paaiškinamumui. Dirbdamas „Facebook“ naujienų kanalo komandos inžinerijos vadovu, generalinis direktorius Krishna Gade pradėjo galvoti apie tai, kad reikia daugiau skaidrumo, kaip dirbtinio intelekto modeliai priima sprendimus. Po 2016 m. prezidento rinkimų bendrovė padarė didelį vidinį postūmį, kad geriau suprastų, kaip jos algoritmai reitinguoja turinį. Gade komanda sukūrė vidinį įrankį, kuris vėliau tapo pagrindu Kodėl aš tai matau? funkcija .

Susijusi istorija

Penki būdai, kaip dirbtinį intelektą paversti didesne jėga 2021 m AI įtakai skiriama daugiau dėmesio nei bet kada anksčiau. Suskaičiuokime.

Netrukus po to, 2018 m. spalį, „Gade“ pristatė „Fiddler“. Ji padeda duomenų mokslo komandoms sekti besikeičiančius modelių našumą ir, remdamasi rezultatais, sukuria aukšto lygio ataskaitas verslo vadovams. Jei modelio tikslumas laikui bėgant blogėja arba rodo šališką elgesį, „Fiddler“ padeda išsiaiškinti, kodėl taip gali nutikti. Gade'as mano, kad stebėjimo modeliai ir paaiškinamumo gerinimas yra pirmieji žingsniai siekiant sąmoningesnio dirbtinio intelekto kūrimo ir diegimo.

Artūras , įkurta 2019 m., ir Svoriai ir poslinkiai , įkurta 2017 m., yra dar dvi įmonės, siūlančios stebėjimo platformas. Kaip ir Fiddleris, Arthuras pabrėžia paaiškinamumą ir šališkumo mažinimą, o Weights & Biases seka mašininio mokymosi eksperimentus, kad pagerintų tyrimus. atkuriamumas . Visos trys įmonės pastebėjo laipsnišką didžiausių įmonių susirūpinimą keliančių klausimų perėjimą nuo teisės aktų laikymosi ar modelio veikimo prie etikos ir atsakomybės.

Ciniška mano dalis iš pradžių nerimavo, kad pamatysime, kad klientai ateina ir galvoja, kad jie gali tiesiog pažymėti langelį, susiedami savo prekės ženklą su kitu, atsakingai dirbančiu dirbtiniu intelektu, sako Liz O'Sullivan, Arthuro atsakingo dirbtinio intelekto viceprezidentė. taip pat eina aktyvistų organizacijos „Surveillance Technology Oversight Project“ technologijų direktoriaus pareigas. Tačiau daugelis Artūro klientų stengėsi galvoti ne tik apie techninius savo valdymo struktūrų pataisymus ir požiūrį į įtraukų dizainą. Buvo taip įdomu matyti, kad jie tikrai investuoja į teisingą dalyką, sako ji.

O'Sullivanas ir Chowdhury taip pat džiaugiasi matydami daugiau tokių startuolių, kaip jie, prisijungę prie interneto. O'Sullivanas sako, kad norint atlikti atsakingą AI, reikia atlikti ne tik vieną įrankį ar vieną dalyką. Chowdury sutinka: tai bus ekosistema.

paslėpti