Nepakanka ištrinti neetiškų duomenų rinkinių

Ponia Tech | Pixabay

2016 m., tikėdamasi paskatinti veido atpažinimo pažangą, „Microsoft“ išleido didžiausią veidų duomenų bazę pasaulyje. Jame, pavadintame MS-Celeb-1M, buvo 10 milijonų vaizdų su 100 000 įžymybių veidų. Vis dėlto įžymybė buvo laisvai apibrėžta.

Po trejų metų mokslininkai Adamas Harvey ir Julesas LaPlace'as ištyrė duomenų rinkinį ir rado daug paprastų asmenų, pavyzdžiui, žurnalistų, menininkų, aktyvistų ir akademikų, kurie savo profesinį gyvenimą palaiko internete. Nė vienas nedavė sutikimo būti įtrauktas, tačiau jų veidai atsidūrė duomenų bazėje ir už jos ribų; tyrimus, naudodamos veidų rinkinį, atliko įmonės, įskaitant „Facebook“, IBM, „Baidu“ ir „SenseTime“, viena didžiausių Kinijos veido atpažinimo milžinų, parduodanti savo technologijas Kinijos policijai.

Netrukus po Harvey ir LaPlace tyrimo ir gavus žurnalistų kritikos , „Microsoft“ pašalino duomenų rinkinį, teigdama paprastai: Tyrimo iššūkis baigėsi. Tačiau susirūpinimas dėl privatumo išliko amžinai internete. Ir šis atvejis vargu ar vienintelis.

Vaizdų ir teksto paieška internete kažkada buvo laikoma išradinga realaus pasaulio duomenų rinkimo strategija. Dabar tokie įstatymai kaip GDPR (Europos duomenų apsaugos reglamentas) ir didėjantis visuomenės susirūpinimas dėl duomenų privatumo ir stebėjimo padarė tokią praktiką teisiškai rizikingą ir nepadorią. Dėl to AI tyrėjai vis dažniau atsiima tokiu būdu sukurtus duomenų rinkinius.

Bet naujas tyrimas rodo, kad tai mažai padėjo, kad probleminiai duomenys nepadaugėtų ir nebūtų naudojami. Autoriai atrinko tris dažniausiai cituojamus duomenų rinkinius, kuriuose yra veidai arba žmonės, iš kurių du buvo atšaukti; jie atsekė būdus, kaip kiekvienas buvo nukopijuotas, naudojamas ir panaudotas beveik 1000 straipsnių.

MS-Celeb-1M atveju kopijos vis dar yra trečiųjų šalių svetainėse ir išvestiniuose duomenų rinkiniuose, sukurtuose ant originalo. Atvirojo kodo modeliai, iš anksto parengti remiantis duomenimis, taip pat lieka lengvai prieinami. Duomenų rinkinys ir jo dariniai taip pat buvo cituojami šimtuose straipsnių, paskelbtų nuo šešių iki 18 mėnesių po atsiėmimo.

DukeMTMC, duomenų rinkinys, kuriame yra žmonių, vaikščiojančių Duke universiteto miesteliu ir atšauktų tą patį mėnesį kaip MS-Celeb-1M, atvaizdai, taip pat išlieka išvestiniuose duomenų rinkiniuose ir šimtuose popierinių citatų.

Vietų, kuriose saugomi duomenys, sąrašas yra platesnis, nei mes iš pradžių manėme, sako Kenny Pengas, Prinstono antrakursis ir tyrimo bendraautoris. Ir net tai, anot jo, tikriausiai yra neįvertinta, nes citatos mokslinių tyrimų dokumentuose ne visada atspindi būdus, kaip duomenys gali būti naudojami komerciniais tikslais.

Sulaukėjęs

Prinstono dokumento teigimu, dalis problemos yra ta, kad tie, kurie kaupia duomenų rinkinius, greitai praranda savo kūrinių kontrolę.

Duomenų rinkinius, išleistus vienam tikslui, galima greitai pasirinkti kitiems, kurių pirminiai kūrėjai niekada neketino ar neįsivaizdavo. Pavyzdžiui, MS-Celeb-1M buvo skirtas pagerinti įžymybių veidų atpažinimą, tačiau nuo to laiko jis buvo naudojamas bendresniam veido atpažinimui ir veido bruožų analizei, nustatė autoriai. Jis taip pat buvo perženklintas arba pakartotinai apdorotas išvestiniuose duomenų rinkiniuose, tokiuose kaip Rasiniai veidai laukinėje gamtoje, kuriuose vaizdai grupuojami pagal rasę, atveriant duris prieštaringoms programoms.

Susijusi istorija

Taip praradome veidų kontrolę

Didžiausias kada nors atliktas veido atpažinimo duomenų tyrimas rodo, kaip gilaus mokymosi augimas paskatino privatumo praradimą.

Tyrėjų analizė taip pat rodo, kad Labeled Faces in the Wild (LFW), duomenų rinkinys, pristatytas 2007 m. ir pirmasis naudojamas veido atvaizdai, iškrapštyti iš interneto , per beveik 15 naudojimo metų pasikeitė kelis kartus. Nors tai buvo išteklius, skirtas tik tyrimams skirtų veido atpažinimo modelių įvertinimui, dabar jis naudojamas beveik išimtinai sistemoms, skirtoms naudoti realiame pasaulyje, įvertinti. Taip yra nepaisant to, kad duomenų rinkinio svetainėje yra įspėjamoji etiketė, įspėjanti apie tokį naudojimą.

Visai neseniai duomenų rinkinys buvo panaudotas darinyje, pavadintame SMFRD, kuris prie kiekvieno vaizdo pridėjo veido kaukes, kad pandemijos metu būtų galima atpažinti veidą. Autoriai pažymi, kad tai gali sukelti naujų etinių iššūkių. Privatumo gynėjai kritikavo tokias programas dėl, pavyzdžiui, stebėjimo skatinimo ir ypač dėl to, kad vyriausybė galėtų nustatyti kaukėtų protestuotojų tapatybę.

Tai tikrai svarbus dokumentas, nes žmonių akys paprastai nebuvo atviros duomenų rinkinių sudėtingumui, galimai žalai ir rizikai, sako Margaret Mitchell, dirbtinio intelekto etikos tyrėja ir atsakingos duomenų praktikos lyderė, kuri nedalyvavo studija.

Ji priduria, kad ilgą laiką AI bendruomenės kultūra buvo manyti, kad duomenys yra naudojami. Šiame dokumente parodyta, kaip tai gali sukelti problemų. Ji sako, kad labai svarbu apgalvoti įvairias reikšmes, kurias koduoja duomenų rinkinys, taip pat reikšmes, kurias užkoduoja turimas duomenų rinkinys.

Pataisymas

Tyrimo autoriai pateikia keletą rekomendacijų dirbtinio intelekto bendruomenei. Pirma, kūrėjai turėtų aiškiau informuoti apie numatytą savo duomenų rinkinių naudojimą, naudodamiesi licencijomis ir išsamiais dokumentais. Jie taip pat turėtų nustatyti griežtesnius prieigos prie savo duomenų apribojimus, galbūt reikalaudami tyrėjų pasirašyti susitarimo sąlygas arba prašydami užpildyti paraišką, ypač jei jie ketina sukurti išvestinį duomenų rinkinį.

Antra, mokslinių tyrimų konferencijose turėtų būti nustatytos normos, kaip duomenys turi būti renkami, ženklinami ir naudojami, ir skatinama atsakingai kurti duomenų rinkinius. NeurIPS, didžiausia AI tyrimų konferencija, jau apima geriausios praktikos ir etikos gairių kontrolinį sąrašą.

Mitchellas siūlo imtis dar toliau. Dalis projektas „BigScience“. , bendradarbiaujant dirbtinio intelekto tyrėjams, kuriant AI modelį, kuris gali analizuoti ir generuoti natūralią kalbą pagal griežtus etikos standartus, ji eksperimentavo su idėja sukurti duomenų rinkinių priežiūros organizacijas – žmonių komandas, kurios ne tik rūpintųsi, prižiūrėtų, ir duomenų naudojimą, bet taip pat dirbama su teisininkais, aktyvistais ir plačiąja visuomene, siekiant užtikrinti, kad jie atitiktų teisinius standartus, renkami tik gavus sutikimą ir gali būti pašalinti, jei kas nors nusprendžia atšaukti asmeninę informaciją. Tokios priežiūros organizacijos būtų reikalingos ne visiems duomenų rinkiniams, bet tikrai nukopijuotiems duomenims, kuriuose gali būti biometrinės ar asmenį identifikuojančios informacijos arba intelektinės nuosavybės.

Duomenų rinkinio rinkimas ir stebėjimas nėra vienkartinė vieno ar dviejų žmonių užduotis, sako ji. Jei tai darote atsakingai, tai suskaidoma į daugybę skirtingų užduočių, kurioms reikia gilaus mąstymo, gilios patirties ir įvairių žmonių.

Pastaraisiais metais šioje srityje vis labiau linkstama tikėti, kad kruopščiau kuruojami duomenų rinkiniai bus labai svarbus norint įveikti daugelį pramonės techninių ir etinių iššūkių. Dabar aišku, kad sukurti atsakingesnius duomenų rinkinius beveik neužtenka. Dirbantieji dirbtinio intelekto srityje taip pat turi įsipareigoti juos išlaikyti ir naudoti etiškai.

paslėpti