AI pamatė apkarpytą AOC nuotrauką. Tai automatiškai užbaigė ją vilkėdama bikinį.

Ponia Tech | Getty

Yra žinoma, kad kalbos generavimo algoritmai įtvirtina rasistines ir seksistines idėjas. Jie mokomi interneto kalbos, įskaitant tamsius Reddit ir Twitter kampelius, kuriuose gali būti neapykantos kurstymo ir dezinformacijos. Kad ir kokios žalingos idėjos būtų tuose forumuose, jų mokymosi metu jie normalizuojasi.

Tyrinėtojai dabar pademonstravo kad tas pats gali būti pasakytina ir apie vaizdų generavimo algoritmus. Pateikite žmogaus nuotrauką, nukirptą tiesiai po kaklu, ir 43 % atvejų jis automatiškai užbaigs jį vilkintį kostiumą. Pateikite tai pačiai apkarpyta moters nuotrauka, net tokios garsios moters, kaip JAV atstovė Alexandria Ocasio-Cortez, ir 53 % atvejų ji automatiškai užpildys apatinę viršutinę dalį arba bikinį. Tai turi įtakos ne tik vaizdų generavimui, bet ir visoms kompiuterinės vizijos programoms, įskaitant vaizdo įrašais pagrįsti kandidatų vertinimo algoritmai , veido atpažinimas ir stebėjimas.

Ryanas Steedas, Carnegie Mellon universiteto doktorantas, ir Aylin Caliskan, Džordžo Vašingtono universiteto docentė, pažvelgė į du algoritmus: OpenAI iGPT (GPT-2 versija, kuri mokoma naudoti pikselius, o ne žodžius) ir Google SimCLR . Nors kiekvienas algoritmas skirtingai traktuoja mokymosi vaizdus, ​​​​jie turi svarbią savybę - jie abu naudojasi visiškai mokymasis be priežiūros , tai reiškia, kad vaizdams pažymėti nereikia žmonių.

Tai palyginti nauja naujovė nuo 2020 m. Daugiausia buvo naudojami ankstesni kompiuterinio matymo algoritmai prižiūrimas mokymasis, kuris apima maitinimą rankiniu būdu pažymėtais vaizdais: kačių nuotraukos su žyma katė ir kūdikio nuotraukos su žyma kūdikis. Tačiau 2019 m. mokslininkė Kate Crawford ir menininkas Trevoras Paglenas išsiaiškino, kad šios žmogaus sukurtos etiketės „ImageNet“, pagrindiniame vaizdo duomenų rinkinyje, skirtame kompiuterinio matymo modeliams lavinti, kartais yra nerimą keliančios kalbos , kaip apskretulys moterims ir rasiniai užgauliojimai mažumoms.

Naujausiame dokumente parodytas dar gilesnis toksiškumo šaltinis. Net ir be šių žmogiškų etikečių patys vaizdai užkoduoja nepageidaujamus raštus. Problema sutampa su tuo, ką natūralios kalbos apdorojimo (NLP) bendruomenė jau atrado. Didžiuliai duomenų rinkiniai, sudaryti siekiant tiekti šiuos duomenų ištroškusius algoritmus, fiksuoja viską, kas yra internete. O internete per daug vaizduojamos menkai apsirengusios moterys ir kiti dažnai žalingi stereotipai.

Norėdami atlikti tyrimą, Steedas ir Caliskanas sumaniai pritaikė metodą, kurį Caliskan anksčiau naudojo, kad ištirtų neprižiūrimų NLP modelių šališkumą. Šiuose modeliuose išmokstama manipuliuoti ir generuoti kalbą naudojant žodžių įterpimą – matematinį kalbos atvaizdavimą, kuris sujungia dažniausiai kartu vartojamus žodžius ir atskiria žodžius, kurie dažniausiai randami atskirai. A 2017 m. publikuotas straipsnis Mokslas , Caliskanas išmatavo atstumus tarp skirtingų žodžių porų, kurias psichologai naudojo vertindami žmonių šališkumą numanomos asociacijos testas (IAT) . Ji nustatė, kad tie atstumai beveik puikiai atkūrė IAT rezultatus. Stereotipinės žodžių poros, pvz., vyras ir karjera arba moteris ir šeima, buvo artimos, o priešingos poros, kaip vyras ir šeima arba moteris ir karjera, buvo toli vienas nuo kito.

iGPT taip pat pagrįstas įterpimais: jis sugrupuoja arba atskiria pikselius pagal tai, kaip dažnai jie kartu atsiranda mokymo vaizduose. Tada tie pikselių įterpimai gali būti naudojami palyginti, ar du vaizdai yra arti arba toli matematinėje erdvėje.

Susijusi istorija

Tikrieji dirbtinio intelekto pavojai yra arčiau nei manome

Pamirškite superinteligentišką AI: algoritmai jau daro tikrą žalą. Geros naujienos: kova prasidėjo.

Savo tyrime Steedas ir Caliskanas dar kartą nustatė, kad šie atstumai atspindi IAT rezultatus. Vyrų nuotraukos, kaklaraiščiai ir kostiumai rodomi arti vienas kito, o moterų nuotraukos – toliau viena nuo kitos. Tyrėjai gavo tuos pačius rezultatus su SimCLR, nepaisant to, kad jis naudojo kitą metodą įterpimams iš vaizdų gauti.

Šie rezultatai turi įtakos vaizdo generavimui. Kiti vaizdų generavimo algoritmai, pvz generatyvūs varžovų tinklai , privedė prie gilios netikros pornografijos sprogimas kad beveik vien tik moterys . Visų pirma iGPT prideda dar vieną būdą žmonėms kurti seksualizuotas moterų nuotraukas.

Tačiau galimas tolesnis poveikis yra daug didesnis. NLP srityje neprižiūrimi modeliai tapo visų rūšių programų pagrindu. Tyrėjai pradeda nuo esamo neprižiūrimo modelio, pvz., BERT arba GPT-2, ir naudoja pritaikytus duomenų rinkinius, kad tiksliai sureguliuotų jį konkrečiam tikslui. Šis pusiau prižiūrimas metodas, tiek neprižiūrimo, tiek prižiūrimo mokymosi derinys, tapo de facto standartu.

Taip pat kompiuterinio matymo laukas pradeda matyti tą pačią tendenciją. Steedas ir Caliskan nerimauja dėl to, ką gali reikšti šie įtempti paklaidai, kai algoritmai naudojami jautrioms programoms, tokioms kaip policija ar samdymas, kai modeliai jau analizuoja kandidatų vaizdo įrašus, kad nuspręstų, ar jie tinka šiam darbui. Tai labai pavojingos programos, kurios priima reikšmingus sprendimus, sako Caliskan.

Deborah Raji, „Mozilla“ bendraautorė įtakingas tyrimas Atskleidžiant veido atpažinimo šališkumą, sakoma, kad tyrimas turėtų būti kompiuterinio regėjimo lauko pažadinimo skambutis. Ilgą laiką daugelis šališkumo kritikos buvo susijusios su tuo, kaip ženkliname savo vaizdus, ​​sako ji. Dabar šiame dokumente teigiama, kad faktinė duomenų rinkinio sudėtis lemia šiuos paklaidas. Turime būti atsakingi už tai, kaip kuruojame šiuos duomenų rinkinius ir renkame šią informaciją.

Steedas ir Caliskan ragina įmones, kurios kuria šiuos modelius, užtikrinti didesnį skaidrumą, kad šie modeliai būtų atviri ir leistų akademinei bendruomenei tęsti tyrimus. Jie taip pat skatina kolegas tyrėjus atlikti daugiau bandymų prieš diegiant regėjimo modelį, pavyzdžiui, naudojant metodus, kuriuos jie sukūrė šiam darbui. Galiausiai jie tikisi, kad ši sritis sukurs atsakingesnius būdus, kaip sudaryti ir dokumentuoti tai, kas įtraukta į mokymo duomenų rinkinius.

Caliskan teigia, kad galiausiai tikslas yra įgyti didesnį supratimą ir kontrolę taikant kompiuterinę viziją. Ji sako, kad turime būti labai atsargūs, kaip juos panaudoti, bet tuo pat metu, kai turime šiuos metodus, galime pabandyti panaudoti juos socialiniam labui.

paslėpti