Šališki algoritmai yra visur ir atrodo, kad niekam tai nerūpi

Kate Crawford, šią savaitę kalbėjusi MIT konferencijoje „AI Now“. Johnas Maeda (@johnmaeda)

Neaiškūs ir galimai šališki matematiniai modeliai keičia mūsų gyvenimą – nei už jų kūrimą atsakingos įmonės, nei vyriausybė nėra suinteresuoti spręsti šią problemą.

Šią savaitę tyrėjų grupė kartu su Amerikos piliečių laisvių sąjunga pradėjo pastangas nustatyti ir pabrėžti algoritminį šališkumą. The AI dabar iniciatyva buvo paskelbta MIT vykusiame renginyje, skirtame aptarti tai, ką daugelis ekspertų laiko vis didėjančiu iššūkiu.

Algoritminis šališkumas tampa pagrindine visuomenės problema kritiniu mašininio mokymosi ir AI raidos momentu. Jei vis svarbesnius sprendimus priimančių algoritmų šališkumas bus nepripažintas ir nekontroliuojamas, tai gali turėti rimtų neigiamų pasekmių, ypač skurdesnėms bendruomenėms ir mažumoms. Galutinis pasipiktinimas taip pat gali sutrukdyti neįtikėtinai naudingos technologijos pažangai (žr. Algoritmų tikrinimas dėl šališkumo).

Algoritmai, galintys slėpti paslėptus šališkumus, jau įprastai naudojami priimant svarbius finansinius ir teisinius sprendimus. Patentuoti algoritmai naudojami sprendžiant, pavyzdžiui, kas dalyvaus pokalbyje dėl darbo, kam bus lygtinis paleidimas, o kam paskola.

Naujosios AI dabar iniciatyvos įkūrėjai, Kate Crawford , „Microsoft“ tyrėja ir Meredith Whittaker, „Google“ tyrėja, teigia, kad įvairios paslaugos ir produktai gali būti šališki.

Crawfordas ir Whittakeris el. laiške teigė, kad dar ankstyvos dienos suprasti algoritminį šališkumą. Tik šiais metais matėme daugiau sistemų, kuriose yra problemų, ir tai tik tos, kurios buvo ištirtos.

Pastaruoju metu išaiškėję algoritminio šališkumo pavyzdžiai, jų teigimu, yra klaidingi ir klaidingi sistemos, naudojamos mokytojų reitingavimui ir pagal lytį orientuotus natūralios kalbos apdorojimo modelius.

Cathy O'Neil, matematikė ir autorė Matematinės naikinimo ginklai , knygoje, kurioje pabrėžiama algoritminio šališkumo rizika daugelyje kontekstų, teigiama, kad žmonės dažnai per daug nori pasitikėti matematiniais modeliais, nes mano, kad tai pašalins žmogaus šališkumą. [Algoritmai] pakeičia žmogaus procesus, tačiau jie neatitinka tų pačių standartų, sako ji. Žmonės jais per daug pasitiki.

Pagrindinis iššūkis, pasak šių ir kitų tyrėjų, yra tas, kad svarbiausios suinteresuotosios šalys, įskaitant įmones, kurios kuria ir taiko mašininio mokymosi sistemas ir vyriausybės reguliavimo institucijas, mažai domisi algoritmų šališkumo stebėjimu ir ribojimu. Finansų ir technologijų įmonės naudoja įvairius matematinius modelius ir nėra skaidrios, kaip jos veikia. Pavyzdžiui, O'Neil sako, kad jai rūpi, kaip veikia naujosios „Google“ darbo paieškos tarnybos algoritmai.

Susijusi istorija

Susijusi istorija Be mokslo ir technologijų patarėjų Baltuosiuose rūmuose prezidentas Trumpas galėtų sunkiai reaguoti į krizes.

O’Neilas anksčiau dirbo profesoriumi Barnardo koledže Niujorke ir kiekybiniu analitiku įmonėje D. E. Shaw. Dabar ji yra vadovė Konsultacijos internetu ir algoritminis auditas , įmonė, įsteigta padėti įmonėms nustatyti ir ištaisyti naudojamų algoritmų paklaidas. Tačiau O'Neilas sako, kad net tie, kurie žino savo algoritmus, gresia šališkumas, labiau domisi esme, o ne šališkumo pašalinimu. Būsiu su tavimi nuoširdi, sako ji. Šiuo metu neturiu klientų.

O'Neilas, Crawfordas ir Whittakeris taip pat perspėja, kad Trumpo administracijos nesidomėjimas dirbtiniu intelektu ir apskritai mokslu reiškia, kad nėra reguliavimo judėjimo šiai problemai spręsti (žr. The Gaping, Dangerous Hold in the Trump Administration).

Mokslo ir technologijų politikos biuras nebėra aktyviai įsitraukęs į dirbtinio intelekto politiką ar daug ką, kaip rašo jų svetainė, rašo Crawfordas ir Whittakeris. Politinis darbas dabar turi būti atliktas kitur.

paslėpti