Kas yra algoritmas? Priklauso kieno klausi

Getty

Sprendimų priėmimo sistemos apibūdinimas kaip algoritmas dažnai yra būdas nukreipti atsakomybę už žmogaus sprendimus. Daugeliui šis terminas reiškia taisyklių rinkinį, objektyviai pagrįstą empiriniais įrodymais ar duomenimis. Tai taip pat siūlo sistemą, kuri yra labai sudėtinga – galbūt tokia sudėtinga, kad žmogui būtų sunku suprasti jos vidinį veikimą arba numatyti jos elgesį.

Bet ar šis apibūdinimas yra tikslus? Ne visada.

Pavyzdžiui, gruodžio pabaigoje Stanfordo medicinos centro atliktas neteisingas COVID-19 vakcinų paskirstymas buvo apkaltintas platinimo algoritmu, kuris pirmenybę teikė aukšto rango administratoriams, o ne pirmiems gydytojams. Ligoninė teigė, kad konsultavosi su etikos specialistais, kad sukurtų labai sudėtingą algoritmą, kuris, pasak atstovo, aiškiai neveikė, nes MIT technologijų apžvalga tuo metu pranešė. Nors daugelis žmonių suprato, kad šis terminas reiškia AI arba mašininį mokymąsi, sistema iš tikrųjų buvo medicininis algoritmas, kuris funkciškai skiriasi. Tai buvo labiau panašu į labai paprastą formulę arba sprendimų medį, kurį sukūrė žmonių komitetas.

Šis atjungimas išryškina augančią problemą. Daugėjant nuspėjamiesiems modeliams, visuomenė tampa atsargesnė dėl jų naudojimo priimant svarbius sprendimus. Tačiau politikos formuotojams pradėjus kurti standartus vertinimas ir auditas algoritmus, jie pirmiausia turi apibrėžti sprendimų priėmimo arba sprendimų palaikymo įrankių klasę, kuriai bus taikoma jų politika. Jei terminas „algoritmas“ būtų atviras interpretacijai, kai kurie didžiausią poveikį turintys modeliai negalėtų pasiekti politikos, kuria siekiama užtikrinti, kad tokios sistemos nepakenktų žmonėms.

Kaip atpažinti algoritmą

Taigi ar Stanfordo algoritmas yra algoritmas? Tai priklauso nuo to, kaip apibrėžiate terminą. Nors nėra visuotinai priimto apibrėžimo, išplaukia bendras 1971 metų vadovėlis parašė kompiuterių mokslininkas Haroldas Stone'as, kuris teigia: Algoritmas yra taisyklių rinkinys, tiksliai apibrėžiantis operacijų seką. Šis apibrėžimas apima viską nuo receptų iki sudėtingų neuroninių tinklų: juo pagrįsta audito politika būtų juokingai plati.

Statistikoje ir mašininiame mokymesi algoritmą paprastai galvojame kaip instrukcijų rinkinį, kurį kompiuteris vykdo, norėdamas mokytis iš duomenų. Šiuose laukuose gauta struktūrizuota informacija paprastai vadinama modeliu. Informacija, kurią kompiuteris išmoksta iš duomenų, naudodamas algoritmą, gali atrodyti kaip svoriai, iš kurių reikia padauginti kiekvieną įvesties koeficientą, arba gali būti daug sudėtingiau. Paties algoritmo sudėtingumas taip pat gali skirtis. Ir šių algoritmų poveikis galiausiai priklauso nuo duomenų, kuriems jie taikomi, ir nuo konteksto, kuriame sukurtas modelis yra įdiegtas. Tas pats algoritmas gali turėti grynąjį teigiamą poveikį, kai taikomas viename kontekste, ir labai skirtingą poveikį, kai taikomas kitame kontekste.

Susijusi istorija

Tai yra Stanfordo vakcinos algoritmas, kuris neįtraukė priekinių gydytojų Universiteto ligoninė dėl nevienodo vakcinų paskirstymo plano apkaltino labai sudėtingą algoritmą. Štai kas nutiko.

Kitose srityse tai, kas aprašyta aukščiau kaip modelis, pati savaime vadinama algoritmu. Nors tai painu, pagal plačiausią apibrėžimą jis taip pat yra tikslus: modeliai yra taisyklės (išmoktos kompiuterio mokymo algoritmo, o ne tiesiogiai žmonių), apibrėžiančios operacijų seką. Pavyzdžiui, pernai JK žiniasklaida aprašė nesėkmingą an algoritmas skirti teisingus balus studentams, kurie negalėjo išlaikyti egzaminų dėl COVID-19. Žinoma, šiose ataskaitose buvo aptariamas modelis – instrukcijų rinkinys, paverčiantis įvestis (ankstesni mokinio pasiekimai arba mokytojo įvertinimai) rezultatais (balais).

Atrodo, kad Stanforde atsitiko taip, kad žmonės, įskaitant etikus, susėdo ir nustatė, kokias operacijas sistema turėtų atlikti, kad nustatytų, ar tas asmuo turi būti tarp pirmųjų, remdamasi tokia informacija, kaip darbuotojo amžius ir skyrius. gauti vakciną. Iš to, ką žinome, ši seka nebuvo pagrįsta įvertinimo procedūra, optimizuota tam tikram kiekybiniam tikslui. Tai buvo norminių sprendimų rinkinys, kaip vakcinoms turėtų būti teikiama pirmenybė, formalizuota algoritmo kalba. Šis metodas laikomas algoritmu medicinos terminologijoje ir pagal plačią apibrėžimą, nors vienintelis susijęs intelektas buvo žmonių.

Susikoncentruokite į poveikį, o ne į įvestį

Įstatymų leidėjai taip pat svarsto, kas yra algoritmas. JAV Kongrese pristatytas 2019 m. HR2291 , arba Algoritminės atskaitomybės įstatyme, vartojamas terminas automatizuota sprendimų priėmimo sistema ir apibrėžiamas kaip skaičiavimo procesas, įskaitant procesą, gautą iš mašininio mokymosi, statistikos ar kitų duomenų apdorojimo ar dirbtinio intelekto metodų, kuris priima sprendimą arba palengvina žmogaus sprendimų priėmimą, daro įtaką vartotojams.

Susijusi istorija

Auditoriai išbando samdymo algoritmus, kad būtų išvengta šališkumo, tačiau nėra lengva pataisyti

AI auditas gali nepastebėti tam tikrų tipų šališkumo ir nebūtinai patikrina, ar samdymo įrankis atrenka geriausius kandidatus į darbą.

Panašiai svarsto ir Niujorkas Tarpt. 1894 m , įstatymą, kuriuo būtų įvestas privalomas automatizuotų sprendimų dėl užimtumo priemonių auditas, apibrėžiamas kaip bet kuri sistema, kurios funkciją reglamentuoja statistikos teorija, arba sistemos, kurių parametrus apibrėžia tokios sistemos. Pažymėtina, kad abu įstatymų projektai įpareigoja atlikti auditą, tačiau pateikia tik aukšto lygio gaires, kas yra auditas.

Kadangi sprendimus priimantys asmenys tiek vyriausybėje, tiek pramonėje kuria algoritminio audito standartus, gali kilti nesutarimų dėl to, kas laikomas algoritmu. Užuot bandę susitarti dėl bendro „algoritmo“ apibrėžimo ar tam tikro universalaus audito metodo, siūlome įvertinti automatizuotas sistemas, visų pirma pagal jų poveikį. Sutelkdami dėmesį į rezultatą, o ne į indėlį, išvengiame nereikalingų diskusijų dėl techninio sudėtingumo. Svarbu yra žalos galimybė, nepaisant to, ar kalbame apie algebrinę formulę, ar apie gilųjį neuronų tinklą.

Poveikis yra svarbus vertinimo veiksnys kitose srityse. Jis integruotas į klasiką BAIŠMAS kibernetinio saugumo sistema, kurią Microsoft pirmą kartą išpopuliarino 2000-ųjų pradžioje ir vis dar naudojama kai kuriose korporacijose. DREAD A prašo grėsmių vertintojų kiekybiškai įvertinti paveiktus vartotojus, klausiant, kiek žmonių nukentėtų dėl nustatyto pažeidžiamumo. Poveikio vertinimai taip pat yra įprasti žmogaus teisių ir tvarumo analizėse, o kai kurie ankstyvieji AI poveikio vertinimų kūrėjai sukūrė panašias rubrikas. Pavyzdžiui, Kanados Algoritminis poveikio vertinimas pateikia balą, pagrįstą kokybiniais klausimais, pvz., Ar šios verslo srities klientai yra ypač pažeidžiami? (taip ar ne).

Svarbu yra žalos galimybė, nepaisant to, ar kalbame apie algebrinę formulę, ar apie gilųjį neuronų tinklą.

Žinoma, yra sunkumų į bet kokį vertinimą įtraukti laisvai apibrėžtą terminą, pvz., poveikį. DREAD sistema vėliau buvo papildyta arba pakeista STRIDE, iš dalies dėl to iššūkius suderinant skirtingus įsitikinimus apie tai, ką reiškia grėsmės modeliavimas. „Microsoft“ nustojo naudoti DREAD 2008 m.

Dirbtinio intelekto srityje konferencijose ir žurnaluose jau buvo pristatyti poveikio teiginiai su skirtinga sėkme ir prieštaringai. Tai toli gražu nėra patikima: tiesiog formuliniai poveikio vertinimai gali būti lengvai žaidžiami, o dėl pernelyg neaiškios apibrėžties gali būti atliekami savavališki arba neįmanomai ilgi vertinimai.

Vis dėlto tai svarbus žingsnis į priekį. Sąvoka „algoritmas“, kad ir kokia būtų apibrėžta, neturėtų būti skydas, atleidžiantis žmones, kurie sukūrė ir įdiegė bet kokią sistemą, atsakomybę už jo naudojimo pasekmes. Štai kodėl visuomenė vis labiau reikalauja algoritminės atskaitomybės, o poveikio sąvoka suteikia naudingą bendrą pagrindą skirtingoms grupėms, siekiančioms patenkinti šį poreikį.

Kristianas Lumas yra Pensilvanijos universiteto Kompiuterių ir informacijos mokslų katedros docentas.

Rumman Chowdhury yra „Twitter“ mašinų etikos, skaidrumo ir atskaitomybės (META) komandos direktorius. Anksčiau ji buvo algoritminio audito platformos „Parity“ generalinė direktorė ir įkūrėja bei pasaulinė atsakinga AI „Accenture“ vadovė.

paslėpti