211service.com
„Microsoft“ kuria orakulą, kad gautų šališkus AI algoritmus
Daiktavardis Projektas | Andrejus Kirma | ponia Tech
„Microsoft“ kuria įrankį, leidžiantį automatiškai nustatyti įvairių AI algoritmų paklaidas. Tai drąsiausios kol kas pastangos automatizuoti nesąžiningumo, galinčio įsiskverbti į mašininį mokymąsi, aptikimą, ir tai galėtų padėti įmonėms pasinaudoti AI netyčia nediskriminuojant tam tikrų žmonių.
Didžiosios technologijų įmonės lenktyniauja, kad parduotų mašininio mokymosi technologijas, kurias galima pasiekti per debesį. Kadangi vis daugiau klientų naudojasi šiais algoritmais svarbiems sprendimams ir sprendimams automatizuoti, šališkumo klausimas taps itin svarbus. Kadangi šališkumas gali lengvai įsiskverbti į mašininio mokymosi modelius, nesąžiningumo aptikimo automatizavimo būdai gali tapti vertinga AI įrankių rinkinio dalimi.
Tokie dalykai kaip skaidrumas, suprantamumas ir paaiškinimai yra pakankamai nauji šioje srityje, todėl tik nedaugelis iš mūsų turi pakankamai patirties, kad žinotume viską, ko turėtume ieškoti, ir visus būdus, kaip mūsų modeliuose gali slypėti šališkumas. Turtinga Karuna , „Microsoft“ vyresnysis mokslo darbuotojas, dirbantis su šališkumo aptikimo prietaisų skydeliu.
Algoritminis šališkumas kelia vis didesnį susirūpinimą daugeliui tyrėjų ir technologijų ekspertų (žr. Šališkumo algoritmų tikrinimas ). Kadangi svarbiems sprendimams automatizuoti naudojami algoritmai, kyla pavojus, kad šališkumas gali tapti automatizuotas, panaudotas dideliu mastu ir aukoms bus sunkiau pastebėti.
Caruna teigia, kad „Microsoft“ šališkumą gaudantis produktas padės AI tyrėjams užfiksuoti daugiau nesąžiningumo atvejų, nors ir ne visus. Žinoma, negalime tikėtis tobulumo – visada liks nepastebėtas arba neįmanomas šališkumas – tikslas yra padaryti kuo geriau, sako jis.
Svarbiausias dalykas, kurį įmonės gali padaryti šiuo metu, yra šviesti savo darbo jėgą, kad jie žinotų daugybę šališkumo atsiradimo ir pasireiškimo būdų, ir sukurti įrankius, kad modelius būtų lengviau suprasti ir lengviau aptikti, priduria Caruna.
Gegužės 2 d. kasmetinėje kūrėjų konferencijoje „Facebook“ paskelbė apie savo šališkumo nustatymo įrankį. Jos įrankis, pavadintas „Fairness Flow“, automatiškai įspėja, jei algoritmas neteisingai nusprendžia apie ką nors dėl jo rasės, lyties ar amžiaus. „Facebook“ teigia, kad jai reikia „Fairness Flow“, nes vis daugiau įmonės žmonių naudojasi AI svarbiems sprendimams priimti.
Bin Yu UC Berkeley profesorius sako, kad „Facebook“ ir „Microsoft“ įrankiai atrodo kaip žingsnis teisinga kryptimi, tačiau jų gali nepakakti. Ji siūlo, kad didelės įmonės turėtų išorinius ekspertus, kurie patikrintų savo algoritmus, kad įrodytų, jog jie nėra šališki. Kažkas kitas turi ištirti „Facebook“ algoritmus – jie negali būti paslaptis visiems, sako Yu.