Jei AI padės mums ištikus krizei, mums reikia naujos rūšies etikos

Ponia Tech | Pixabay

Jess Whittlestone iš Kembridžo universiteto Leverhulme žvalgybos ateities centro ir jos kolegos paskelbė komentaro dalis Nature Machine Intelligence šią savaitę teigdamas, kad jei dirbtinis intelektas tai padarys pagalba ištikus krizei , mums reikia naujo, greitesnio DI etikos būdo, kurį jie vadina etika skubos tvarka.

JESS WHITTLESTONE

Whittlestone'ui tai reiškia, kad reikia numatyti problemas prieš joms atsirandant, ieškoti geresnių būdų, kaip sukurti dirbtinio intelekto sistemų saugą ir patikimumą, ir pabrėžti technines žinias visais technologijos kūrimo ir naudojimo lygiais. Šių rekomendacijų esmė yra mintis, kad etika turi tapti tiesiog AI kūrimo ir naudojimo dalimi, o ne priedu ar pasekme.

Galiausiai, prireikus dirbtinis intelektas bus greičiau įdiegtas, jei jis bus sukurtas atsižvelgiant į etiką, teigia ji. Paprašiau jos pakalbėti, ką tai reiškia.

Šis interviu buvo redaguotas siekiant ilgio ir aiškumo.

Kodėl mums reikia naujos rūšies AI etikos?

Dėl šios pandemijos staiga atsidūrėme situacijoje, kai žmonės iš tikrųjų kalba apie tai, ar dirbtinis intelektas gali būti naudingas, ar jis gali išgelbėti gyvybes. Tačiau krizė parodė, kad neturime pakankamai tvirtų etikos procedūrų, kad dirbtinis intelektas būtų įdiegtas saugiai, ir tikrai ne tų, kurias būtų galima greitai įgyvendinti.

Kas negerai su mūsų turima etika?

Pastaruosius porą metų praleidau peržiūrėdamas AI etikos iniciatyvas, nagrinėdamas jų apribojimus ir klausdamas, ko dar mums reikia. Palyginti su biomedicinos etika, AI etika nėra labai praktiška. Jame per daug dėmesio skiriama aukšto lygio principams. Visi galime sutikti, kad dirbtinis intelektas turėtų būti naudojamas gerai. Bet ką tai iš tikrųjų reiškia? O kas atsitinka, kai kertasi aukšto lygio principai?

Pavyzdžiui, dirbtinis intelektas gali išgelbėti gyvybes, tačiau tai gali kainuoti pilietines laisves, pvz., privatumą. Kaip spręsti šiuos kompromisus daugeliui skirtingų žmonių priimtinais būdais? Nesugalvojome, kaip spręsti neišvengiamus nesutarimus.

AI etika taip pat linkusi reaguoti į esamas problemas, o ne numatyti naujas. Dauguma klausimų, apie kuriuos šiandien diskutuoja apie algoritminį šališkumą, iškilo tik tada, kai iškilo daug svarbių dalykų, pavyzdžiui, dėl policijos ir lygtinio paleidimo.

Tačiau etika turi būti aktyvi ir ruoštis tam, kas gali suklysti, o ne tam, kas jau nutiko. Akivaizdu, kad mes negalime numatyti ateities. Tačiau kai šios sistemos taps galingesnės ir pritaikomos daugiau didelių investicijų reikalaujančiose srityse, rizika padidės.

Kokias galimybes praleidome neturėdami šių procedūrų?

Nesunku pervertinti tai, kas įmanoma, ir AI tikriausiai niekada nevaidins didžiulio vaidmens šioje krizėje. Mašininio mokymosi sistemos nėra pakankamai subrendusios.

Tačiau yra keletas atvejų, kai dirbtinis intelektas yra tikrinamas dėl medicininės diagnozės arba išteklių paskirstymo ligoninėse. Galbūt būtume galėję plačiau panaudoti tokias sistemas, sumažindami sveikatos priežiūros apkrovą, jei jos būtų sukurtos nuo pat pradžių atsižvelgiant į etiką.

Visų pirma paskirstydami išteklius, jūs nusprendžiate, kuriems pacientams yra didžiausias prioritetas. Prieš naudodami dirbtinį intelektą, kad padėtų priimti tokius sprendimus, jums reikia sukurti etikos sistemą.

Taigi ar skubos etika yra tiesiog raginimas pagerinti esamą AI etiką?

Tai dalis. Tai, kad neturime tvirtų, praktiškų DI etikos procesų, apsunkina situaciją krizės atveju. Tačiau tokiais laikais jums taip pat reikia daugiau skaidrumo. Žmonės daug kalba apie skaidrumo trūkumą naudojant mašininio mokymosi sistemas kaip juodąsias dėžes. Tačiau yra ir kitokio pobūdžio skaidrumas, susijęs su sistemų naudojimu.

Tai ypač svarbu krizės metu, kai vyriausybės ir organizacijos priima neatidėliotinus sprendimus, reikalaujančius kompromisų. Kieno sveikatai teikiate pirmenybę? Kaip išgelbėti gyvybes nesugriaunant ekonomikos? Jei dirbtinis intelektas naudojamas priimant viešuosius sprendimus, skaidrumas yra svarbesnis nei bet kada anksčiau.

Ką reikia keisti?

Turime kitaip galvoti apie etiką. Tai neturėtų būti kažkas, kas atsitinka šone ar vėliau – kažkas, kas jus sulėtina. Tai tiesiog turėtų būti dalis to, kaip mes sukuriame šias sistemas: projektavimo etika.

Kartais manau, kad etika yra netinkamas žodis. Mes sakome, kad mašininio mokymosi tyrėjai ir inžinieriai turi būti išmokyti galvoti apie tai, ką jie kuria, ar jie atlieka fundamentinius tyrimus, pvz., kuria naują sustiprinimo mokymosi algoritmą, ar ką nors praktiškesnio, pavyzdžiui, kuria. sveikatos priežiūros programa. Jei jų darbas atsidurs realaus pasaulio produktuose ir paslaugose, kaip tai galėtų atrodyti? Kokių problemų tai gali sukelti?

Dalis to jau prasidėjo. Dirbame su kai kuriais ankstyvosios karjeros AI tyrėjais ir kalbamės su jais apie tai, kaip tokį mąstymą pritaikyti jų darbui. Tai šiek tiek eksperimentas, norint pamatyti, kas atsitiks. Tačiau net NeurIPS [pirmaujanti AI konferencija] dabar prašo mokslininkų savo darbų pabaigoje įtraukti pareiškimą, kuriame būtų apibūdintas galimas jų darbo poveikis visuomenei.

Sakėte, kad mums reikia žmonių, turinčių techninių žinių visais DI projektavimo ir naudojimo lygiais. Kodėl taip?

Nesakau, kad techninė kompetencija yra etikos pagrindas ir pabaiga, bet tai yra perspektyva, kuriai reikia atstovauti. Ir nenoriu atrodyti, kad visa atsakomybė tenka tyrėjams, nes daug svarbių sprendimų, kaip dirbtinio intelekto pritaikymas yra priimami toliau grandinėje, pramonės ar vyriausybių.

Tačiau nerimauju, kad žmonės, kurie priima tuos sprendimus, ne visada visiškai supranta, kaip tai gali suklysti. Taigi jūs turite įtraukti žmones, turinčius techninių žinių. Mūsų nuojauta apie tai, ką AI gali ir ko negali padaryti, nėra labai patikima.

Visuose AI plėtros lygiuose jums reikia žmonių, kurie tikrai supranta mašininio mokymosi detales, kad dirbtų su žmonėmis, kurie tikrai supranta etiką. Tačiau tarpdisciplininis bendradarbiavimas yra sunkus. Žmonės, turintys skirtingas kompetencijos sritis, dažnai kalba apie dalykus skirtingais būdais. Tai, ką mašininio mokymosi tyrinėtojas reiškia privatumu, gali labai skirtis nuo to, ką teisininkas turi omenyje sakydamas privatumą, ir gali baigtis tuo, kad žmonės prabyla vieni už kitus. Štai kodėl šioms skirtingoms grupėms svarbu priprasti prie darbo kartu.

Jūs siekiate gana didelio institucinio ir kultūrinio pertvarkymo. Kodėl jūs manote, kad žmonės norės tai daryti, o ne steigti etikos tarybas ar priežiūros komitetus – dėl kurių aš visada šiek tiek atsidusu, nes jie linkę būti be dantų?

Taip, aš irgi atsidūstu. Tačiau manau, kad ši krizė verčia žmones suprasti praktinių sprendimų svarbą. Galbūt, užuot sakę „O, turėkime šią priežiūros tarybą ir tą priežiūros tarybą“, žmonės sakys: „Turime tai padaryti ir turime tai padaryti tinkamai“.

paslėpti