211service.com
Ei, Google, atsiprašome, kad praradote etikos tarybą, todėl sukūrėme ją jums
Na, tai truko neilgai. Praėjus šiek tiek daugiau nei savaitei, „Google“ atsisakė sukurti savo Pažangių technologijų išorinę patariamąją tarybą arba ATEAC – komitetą, kurio tikslas – suteikti įmonei gaires, kaip etiškai kurti naujas technologijas, tokias kaip AI. Paveldo fondo prezidentės Kay Coles James įtraukimas į tarybą sukėlė pasipiktinimą dėl jos antiekologinių, LGBTQ ir antiimigrantų pažiūrų. vadovavo beveik 2500 „Google“ darbuotojų pasirašyti prašymą dėl jos nušalinimo. Vietoj to, interneto milžinas tiesiog nusprendė uždaryti visą reikalą.
Kaip viskas susiklostė taip blogai? Ir ar „Google“ gali juos pritaikyti? Turime keliolika AI, technologijų ir etikos ekspertų, kurie mums pasakytų, kur įmonė pasiklydo ir ką ji galėtų daryti toliau. Jei šie žmonės būtų buvę ATEAC, istorija galėjo turėti kitokį rezultatą.
„Būkite skaidrūs ir konkretūs apie etikos tarybų vaidmenis ir atsakomybę“
Rashida Richardson, AI dabar instituto politikos tyrimų direktorė
„Neturime supratimo, ar etikos lentos iš tikrųjų yra moralinis kompasas, ar tik dar vienas guminis antspaudas“
Teoriškai etikos tarybos galėtų būti labai naudingos, kai reikia užtikrinti, kad dirbtinio intelekto produktai būtų saugūs ir nediskriminuojantys. Tačiau tam, kad etikos tarybos turėtų reikšmingą poveikį, jos turi būti viešai atskaitingos ir turėti realius priežiūros įgaliojimus.
Tai reiškia, kad technologijų įmonės turėtų būti pasirengusios pasidalinti kriterijais, kuriais vadovaujasi atrinkdamos, kas gali dalyvauti šiose etikos tarybose. Jie taip pat turėtų būti skaidrūs ir konkrečiai nurodyti savo etikos tarybų vaidmenis ir atsakomybę, kad visuomenė galėtų įvertinti jų veiksmingumą. Priešingu atveju mes neturime supratimo, ar etikos lentos iš tikrųjų yra moralinis kompasas, ar tik dar vienas guminis antspaudas. Atsižvelgiant į pasaulinę didelių AI įmonių įtaką ir atsakomybę, toks skaidrumo ir atskaitomybės lygis yra labai svarbus.
Apsvarstykite, ką iš tikrųjų reiškia efektyviai ir teisingai valdyti technologijas
Jake'as Metcalfas, duomenų ir visuomenės technologijų etikos tyrėjas
ATEAC hullabaloo parodo, koks sunkus ir ginčytinas gali būti šis naujas technologijų etikos amžius. Šiuo atveju „Google“ aiškiai neteisingai perskaitė kambarį. Tikėtina, kad politiškai marginalios populiacijos, kurioms taikomos AI/ML technologijų klasifikavimo užgaidos, patirs didesnę etinę žalą dėl automatizuoto sprendimų priėmimo. „Google“ teikia pirmenybę Kay Coles James požiūrių įvairovei, o ne atvirai neapykantai translyčiams žmonėms, rodo, kad jie nepakankamai svarsto, ką iš tikrųjų reiškia efektyviai ir teisingai valdyti technologijas.
„Etika reiškia du skirtingus dalykus, kurie praktikoje gali prieštarauti. Įmonės yra palankios pirmiesiems ir bijo pastarųjų“.
Tai sudėtinga įmonėms, nes etika reiškia du skirtingus dalykus, kurie praktikoje gali prieštarauti: tai kasdienis darbas siekiant suprasti ir sušvelninti pasekmes (pvz., šališkumo aptikimo įrankio naudojimas arba apgalvoto projektavimo susitikimo surengimas), ir sprendimas apie tai, kaip visuomenė. gali būti užsakytas teisingiausiai (pavyzdžiui, ar skirtinga žala marginalizuotoms bendruomenėms reiškia, kad produktų linija turėtų būti padidinta). Korporacijos yra palankios pirmiesiems ir bijo pastarųjų. Tačiau jei dirbtinio intelekto etika nėra skirta automatizuoto piktnaudžiavimo prevencijai, pavojingų technologijų perdavimo autokratinėms vyriausybėms blokavimu ar valstybės smurto automatizavimo uždraudimu, sunku žinoti, kas technologijų kompanijų nuomone tai yra, išskyrus tuščius gestus. Po puikiu nauju etikos ataskaitų įrankiu, kuris suderinamas su įmonės KPI metrika, yra tikras susirūpinimas, kad gyvybės gresia. Sulaikyti tuos dalykus savo galvoje vienu metu yra iššūkis įmonėms biurokratiškai ir etikams, investuojantiems į teisingesnių technologijų laimėjimą.
Pirmiausia pripažinkite dramblį kambaryje: „Google“ AI principai
Evanas Selingeris, Ročesterio technologijos instituto filosofijos profesorius
„Google“ įdėjo kibosą ATEAC, prieš tai nepripažindama dramblio kambaryje: AI principai kad generalinis direktorius Sundaras Pichai išsakė vasarą. Žymiausi akademikai, pilietinės visuomenės organizacijų žmonės ir aukšto rango technologijų įmonių darbuotojai man nuolat kartojo, kad nors principai gerai atrodo ant popieriaus, jie yra pakankamai lankstūs, kad būtų interpretuojami taip, kad „Google“ nereikėtų daryti kompromisų ilgalaikiam augimui. strategijų, ypač dėl to, kad principų pažeidimo vykdymo mechanizmai nėra tiksliai apibrėžti, o galiausiai visa įmonė išlieka savireguliavimo pastangomis.
Be to, tai neabejotinai padėtų vadovybei tapti labiau atskaitinga etikos tarybai, jei grupė būtų (a) tinkamai sudaryta; b) suteiktos aiškios ir tvirtos institucinės galios (o ne tik patarti); ir (c) taip pat turi būti laikomasi skaidrių atskaitomybės standartų, siekiant užtikrinti, kad jis netaptų racionalizuojančios, etikos skalbimo mašinos sraigteliu.
Pakeiskite žmones, atsakingus už šių grupių sudarymą
Ellen Pao, „Project Include“ įkūrėja
Šios nesėkmingos pastangos tiksliai parodo, kodėl „Google“ reikia geresnių patarėjų. Bet galbūt jiems taip pat reikia pakeisti žmones, atsakingus už šių grupių sudarymą, o galbūt šį darbą turėtų atlikti ir jų vidinės komandos. Buvo keletas problemų, susijusių su rezultatu, kaip mes visi matėme, bet taip pat problemų su procesu. Kai nebendrauji su visa grupe apie tai, su kuo jie dirbs, tai didžiulė klaida. Žmonių, kurie labiau atspindi pasaulį, kuriame gyvename, suvedimas turėjo vykti viduje, prieš bandant suburti išorinę grupę.
Šalutinė pastaba: žmonės prieš įsipareigodami turėtų išnagrinėti grupes, prie kurių prisijungia, konferencijų paneles, kuriose jie kalba, ir savo komandas, kad žinotų, prie ko prisiregistruoja. Nuostabu, kiek galite jiems daryti įtaką ir kaip galite pakeisti grupės sudėtį vien klausdami.
Įgalinkite priešiškumą – ne šias draugiškas vidines partnerystes ir palaikymo pastangas
Meg Leta Jones, Džordžtauno universiteto komunikacijos, kultūros ir technologijų docentė
Etikos tarybos nėra niekieno kasdienis darbas ir siūlo tik aukšto lygio nedažnus pokalbius, kurie geriausiu atveju suteikia įžvalgos, o blogiausiu – priedanga. Jei norime sukurti pasitikėjimą institucijomis, įskaitant technologijas, technologijų įmones, žiniasklaidą ir vyriausybę, mūsų dabartinė politinė kultūra reikalauja priešpriešos, o ne šios draugiškos vidaus partnerystės ir palaikymo pastangų. Antagonistų įgalinimas ir antagonizmo palaikymas gali tinkamiau ir veiksmingiau pasiekti „etiško AI“ tikslus.
„Etikos tarybos geriausiu atveju suteikia įžvalgos, o blogiausiu – uždengia“
Pažvelkite į vidų ir įgalinkite darbuotojus, kurie solidarizuojasi su pažeidžiamomis grupėmis
Anna Lauren Hoffmann, Vašingtono universiteto Informacijos mokyklos docentė
Žlugusi „Google“ ATEAC taryba aiškiai parodo, kad dirbtinio intelekto etika yra ne tik tai, kaip mes sugalvojame, vystome ir diegiame dirbtinio intelekto technologijas, bet ir apie tai, kaip laikomės etikos. Pažeidžiamumas, galios ir įtakos pasiskirstymas ir pakylėtas balsas – visa tai neatsiejama siekiant etikos realiame pasaulyje. Tuo tikslu ATEAC žlugimas ir kiti atstūmimo atvejai (pavyzdžiui, prieš Project Maven , Dragonfly ir seksualinio priekabiavimo politiką ) aiškiai parodo, kad „Google“ jau turi didžiulius išteklius daugeliui savo darbuotojų. Nors mums taip pat reikalingas prasmingas reguliavimas ir išorinė priežiūra, įmonė turėtų žvelgti į vidų ir įgalinti jau marginalizuojamus darbuotojus, pasiruošusius organizuotis ir solidarizuotis su pažeidžiamomis grupėmis, kad galėtų spręsti paplitusias transfobijos, rasizmo, ksenofobijos ir neapykantos problemas.
Valdyba negali būti tik „kai kurie svarbūs žmonės, kuriuos pažįstame“. Jums reikia tikrų etikų
Patrick Lin, direktorius Etika + naujų mokslų grupė Cal Poly mieste
Aaliyah žodžiais tariant, manau, kad kitas „Google“ žingsnis yra nusivalyti dulkes ir bandyti dar kartą. Tačiau jie turi labiau apgalvoti, ką įtrauks į valdybą – tai negali būti tik sąrašas „paklauskime kai kurių mums pažįstamų svarbių žmonių“, kaip atrodė tarybos 1.0 versija. Pirma, jei esate nuoširdžiai suinteresuoti gauti etikos gaires, jums reikia tikrų etikų – ekspertų, turinčių profesionalų teorinės ir taikomosios etikos išsilavinimą. Priešingu atveju tai būtų kompetencijos vertės atmetimas, kurio jau šiais laikais matome per daug, pavyzdžiui, kalbant apie pagrindinius mokslus.
„Įsivaizduokite, jei įmonė norėtų sušaukti AI teisės tarybą, bet joje būtų tik vienas teisininkas“
Įsivaizduokite, jei įmonė norėtų sušaukti AI teisės tarybą, bet joje buvo tik vienas teisininkas (kaip ir AI etikos tarybos v1.0 versijoje buvo tik vienas filosofas). Tai iškeltų rimtas raudonas vėliavas. Neužtenka, kad kas nors dirba teisiškai svarbiais klausimais – tai daro daugybė žmonių, įskaitant mane, ir jie gali puikiai papildyti teisės mokslininkų ir teisininkų ekspertinę nuomonę. Tačiau tam, kad ši taryba būtų tikrai veiksminga, jos centre turi būti tikri domenų ekspertai.
Pastarosios savaitės parodė, kad tiesioginis organizavimas veikia
Os Keyes, Vašingtono universiteto Duomenų ekologijos laboratorijos doktorantas
Tiesą sakant, „Google“ neturiu patarimų. „Google“ daro būtent tai, ką mūsų visuomenės įmonės turi daryti; dirba siekdami politinio (taigi reguliavimo ir finansinio) pranašumo, neįsileisdami į jų ketvirčio rezultatus ar strateginį planą moralės pėdsakų. Mano patarimas tinka visiems, išskyrus „Google“. Žmonėms, nepriklausantiems „Google“: skambinkite savo atstovams. Paklauskite, ką jie daro dėl AI reguliavimo. Paklauskite, ką jie daro dėl lobizmo kontrolės. Paklauskite, ką jie daro dėl įmonių reguliavimo. Žmonėms iš akademinės bendruomenės: skambinkite savo instruktoriams. Paklauskite, ką jie daro mokydami etikos studentus, kad etika yra svarbi tik tada, jei ji taikoma ir išgyvenama. Žmonėms, dirbantiems „Google“: paskambinkite žmonėms iš išorės ir paklauskite, ko jiems reikia iš jūsų. Pastarųjų savaičių įvykiai parodė, kad tiesioginiai organizavimo darbai; solidarumo darbai.
Keturi susitikimai per metus greičiausiai neturės įtakos. Mums reikia judrios etikos indėlio
Irina Raicu, Santa Klaros universiteto interneto etikos programos direktorė
Manau, kad tai buvo puiki praleista galimybė. Man kilo klausimas, kas „Google“ dalyvauja priimant sprendimą, ką pakviesti. (Šis sprendimas pats savaime reikalavo įvairių indėlių.) Tačiau čia kalbama apie platesnę problemą: tai, kad „Google“ paskelbė apie valdybos sukūrimą nepaaiškindama dalyvių atrankos kriterijų. Taip pat buvo labai mažai diskutuojama apie priežastis, kodėl jie sukūrė valdybą, koks, jų manymu, bus valdybos poveikis ir pan. Jei būtų pateikę daugiau konteksto, vėlesnė diskusija būtų buvusi kitokia.
Yra ir kitų problemų; Atsižvelgiant į tai, kaip sparčiai DI vystosi ir diegiamas, keturi susitikimai (net su įvairia PG etikos patarėjų grupe) per metus greičiausiai neturės reikšmingo poveikio, t. iš tikrųjų pakeisti tyrimų ar produktų kūrimo trajektoriją. Kol modelis yra judrus, mums reikia ir judrios etikos indėlio.
Grupė turi turėti teisę pasakyti „ne“ projektams
Samas Gregory, „Witness“ programos direktorius
Jei „Google“ nori iš tikrųjų įtraukti pagarbą etikai ar žmogaus teisėms į AI iniciatyvas, ji pirmiausia turi pripažinti, kad patariamoji taryba ar net valdymo taryba yra tik dalis didesnio požiūrio. Jiems nuo pat pradžių turi būti aišku, kad grupė iš tikrųjų turi teisę pasakyti „ne“ projektams ir būti išklausyta. Tada jie turi būti aiškiai išdėstyti sistemoje – rekomenduojame, kad ji būtų grindžiama nustatyta tarptautine žmogaus teisių teise ir normomis, todėl asmuo ar grupė, kurie yra buvę diskriminuojantys ar piktnaudžiaujantys, neturėtų būti jos dalimi.
Venkite etiką traktuoti kaip PR žaidimą ar techninę problemą
Anna Jobin, Šveicarijos federalinio technologijos instituto Sveikatos etikos ir politikos laboratorijos mokslininkė
Jei „Google“ rimtai žiūri į etišką AI, įmonė turi vengti etiką traktuoti kaip PR žaidimą ar techninę problemą ir įtraukti tai į savo verslo praktiką ir procesus. Jai gali tekti pertvarkyti savo valdymo struktūras, kad būtų geriau atstovaujama savo vidaus darbo jėgai ir visai visuomenei ir būtų geriau jai atskaitinga. Visų pirma ji turi teikti pirmenybę mažumų ir pažeidžiamų bendruomenių gerovei visame pasaulyje, ypač žmonių, kuriems jos technologija daro arba gali turėti neigiamą poveikį.
„Ieškokite ne tik tradicinės patirties, bet ir žmonių, kurie yra savo išgyventos patirties ekspertai, įžvalgų“
Joy Buolamwini, Algorithmic Justice League įkūrėjas
Mąstydami apie dirbtinio intelekto valdymą turime siekti ne tik tradicinės patirties, bet ir žmonių, kurie yra savo išgyventos patirties ekspertai, įžvalgų. Kaip galėtume įtraukti marginalizuotus balsus formuojant AI? Kaip galėtų atrodyti dalyvaujamasis DI, sutelkiantis tų, kuriems gresia neigiamas dirbtinio intelekto poveikis, nuomonę?
„Neįsivaizduoju, kad tokios patariamosios grupės rekomendacija trukdytų to, ko reikalauja rinka“
Mokymasis iš ATEAC patirties, kurdama savo produktus ir paslaugas, Google turėtų įtraukti atlyginamus bendruomenės peržiūros procesus. Tam reikės prasmingo skaidrumo ir nuolatinės priežiūros. Be to, „Google“ ir kiti AI partnerystės nariai turėtų atidėti dalį pelno konsorciumui finansuoti AI etikos ir atskaitomybės mokslinius tyrimus, nekreipdami dėmesio tik į DI sąžiningumo tyrimus, kurie kelia tik technines perspektyvas.
Galbūt tai yra geriausia, kad „etinio vystymosi“ figos lapas buvo nušluostytas
Adamas Greenfieldas, autorius Radikalios technologijos
Viskas, ką girdėjome apie šią lentą, buvo gėdinga – nuo pradinio instinkto pakviesti Jamesą iki sprendimo ją uždaryti, o ne skirti energijos to pasirinkimo pasekmių tvarkymui. Tačiau kadangi mano jausmai apie AI yra daugiau ar mažiau tokie kaip Butlerio džihadas, galbūt geriausia, kad „etinio vystymosi“ figos lapas buvo pašalintas. Galiausiai neįsivaizduoju jokios tokios patariamosios grupės rekomendacijos, kad ir kaip ji būtų sudaryta, trukdanti to, ko reikalauja rinka, ir (arba) suvokiamai būtinybei konkuruoti su kitais dirbtinio intelekto kūrimo dalyviais.
„Džiugu matyti darbuotojų aktyvumo galią“
Tess Posner, AI4ALL generalinė direktorė
Puiku matyti įmones, organizacijas ir tyrėjus, kurie kuria etines dirbtinio intelekto sistemas. Technologijų pramonė šioje srityje patiria vis didesnį skausmą – išsiaiškinti, kaip tai padaryti teisingai, yra sudėtinga ir prireiks laiko bei kartojimosi. Manome, kad tai galimybė toliau klausti, kuriuos balsus reikia įtraukti, ir būtinai įtraukti įvairius balsus ir balsus, kuriems gali turėti tiesioginės įtakos priimtų sprendimų rezultatai. Džiugu matyti darbuotojų aktyvumo galią, įtakojančią pokyčius, susijusius su šia ir kitais technologijų klausimais.