Kolektyvinės duomenų teisės gali neleisti didelėms technologijoms panaikinti privatumo

konceptuali iliustracija

Franziska Barczyk





Kiekvienas žmogus, susijęs su tinklu sujungtu pasauliu, nuolat kuria duomenų upes. Mes tai darome tokiais būdais, kuriuos žinome, ir būdais, kurių nežinome. Korporacijos nori pasinaudoti.

Paimkite, pavyzdžiui, „NumberEight“, startuolį, kuris, pasak Laidinis , padeda programoms numanyti naudotojo veiklą pagal duomenis iš išmaniojo telefono jutiklių: ar jie bėga, ar sėdi, šalia parko ar muziejaus, vairuoja ar važiuoja traukiniu. Naujos paslaugos, pagrįstos tokia technologija, sujungs tai, ką jie žino apie naudotojo veiklą savo programose, su informacija apie tai, ką jie tuo metu veikia fiziškai. Turėdama šią informaciją, užuot sukūrusi profilį, skirtą, tarkime, vyresnėms nei 35 metų moterims, paslauga gali taikyti skelbimus „anksti besikeliantiems“.

Tokios ambicijos yra plačiai paplitusios. Kaip šiame naujausiame Harvard Business Review straipsnyje Dauguma generalinių direktorių pripažįsta, kad dirbtinis intelektas gali visiškai pakeisti organizacijų darbą. Jie gali įsivaizduoti ateitį, kurioje, pavyzdžiui, mažmenininkai pristatys individualius produktus klientams net neprašant jų – galbūt tą pačią dieną, kai tie produktai bus pagaminti. Straipsnyje teigiama, kad korporacijoms naudojant dirbtinį intelektą vis labiau skirtingose ​​srityse, jų AI galimybės sparčiai didės ir jos pastebės, kad ateitis, kurią jie įsivaizdavo, iš tikrųjų yra arčiau, nei atrodė anksčiau.



Net ir šiandien, jau nekalbant apie tokią ateitį, technologijos gali visiškai panaikinti privatumą. Sukurti įstatymus ir politiką, kad ji to nedarytų, yra gyvybiškai svarbi vyriausybių užduotis. Kadangi Bideno administracija ir Kongresas svarsto federalinius privatumo įstatymus, jie neturi pasiduoti bendrai klaidai. Įstatymai, saugantys žmonių duomenų privatumą, nėra skirti tik asmenų apsaugai. Jie taip pat yra susiję su mūsų, kaip grupių narių, kaip visos visuomenės dalies, teisių apsauga.

Žala bet kuriam grupės asmeniui dėl privatumo teisių pažeidimo gali būti palyginti nedidelė arba sunkiai nustatoma, tačiau žala visai grupei gali būti didžiulė. Tarkime, kad „Amazon“ naudoja savo vartotojų elgsenos duomenis, kad išsiaiškintų, kuriuos produktus verta kopijuoti, ir tada sumažina savo parduodamų produktų gamintojus. kaip batai ar fotoaparato krepšiai . Nors tiesioginė žala patiriama batsiuviui arba fotoaparato krepšio gamintojui, ilgalaikė ir ilgainiui ilgalaikė žala patiriama vartotojams, kurie ilgainiui netenka pasirinkimo, kurį sudaro sandoriai išties atvirai ir sąžiningai. turgavietėje. Ir nors batsiuvys ar fotoaparato krepšio gamintojas gali bandyti imtis teisinių veiksmų, vartotojams daug sunkiau parodyti, kaip „Amazon“ praktika jiems kenkia.

Tai gali būti sudėtinga suprasti sąvoką. Grupės ieškiniai, kai daug asmenų susijungia, nors kiekvienas galėjo patirti tik nedidelę žalą, yra gera konceptuali analogija. Didžiosios technologijų įmonės supranta komercinę naudą, kurią gali gauti analizuodamos grupių duomenis, paviršutiniškai apsaugodamos asmenų duomenis taikydamos matematinius metodus, pvz., skirtingą privatumą. Tačiau reguliavimo institucijos ir toliau daugiausia dėmesio skiria asmenų arba, geriausiu atveju, saugomų klasių, pavyzdžiui, tam tikros lyties, amžiaus, etninės kilmės ar seksualinės orientacijos žmonių, apsaugai.



Jei algoritmas diskriminuoja žmones, suskirstydamas juos į grupes, kurios nepatenka į šias saugomas klases, JAV netaikomi antidiskriminaciniai įstatymai. (Tokie profiliavimo būdai, kaip „Facebook“, kad padėtų mašininio mokymosi modeliams rūšiuoti vartotojus, tikriausiai yra neteisėti pagal Europos Sąjungos duomenų apsaugos įstatymus, tačiau dėl to dar nebuvo iškelta byla.) Daugelis žmonių net nežinos, kad buvo profiliuojami ar diskriminuojami, todėl sunku kreiptis į teismą. Jie nebejaučia nesąžiningumo, neteisybės iš pirmų lūpų – ir tai istoriškai buvo būtina sąlyga pareikšti ieškinį.

Susijusi istorija

Atėjo laikas parengti duomenų teisių projektą JAV Senatui svarstant naują įstatymo projektą, duomenų valdymo ekspertas pristato planą, kaip apsaugoti laisvę ir laisvę skaitmeniniame amžiuje.

Asmenys neturėtų kovoti už savo duomenų privatumo teises ir atsakyti už visas savo skaitmeninių veiksmų pasekmes. Apsvarstykite analogiją: žmonės turi teisę į saugų geriamąjį vandenį, tačiau jie nėra raginami pasinaudoti šia teise tikrinant vandens kokybę pipete kiekvieną kartą, kai išgeria gėrimo iš čiaupo. Vietoj to, reguliavimo agentūros veikia visų vardu, siekdamos užtikrinti, kad visas mūsų vanduo būtų saugus. Tą patį reikia daryti ir su skaitmeniniu privatumu: tai nėra kažkas, ką paprastas vartotojas yra asmeniškai kompetentingas apsaugoti arba neturėtų būti toks kompetentingas.

Siekiant apsaugoti visuomenę, reikėtų laikytis dviejų lygiagrečių būdų.



Vienas iš jų yra geresnis grupės ar grupės ieškinių, kitaip vadinamų kolektyvinio žalos atlyginimo ieškiniais, panaudojimas. Istoriškai jos buvo ribotos Europoje, tačiau 2020 m. lapkritį Europos Parlamentas priėmė priemonę Tai reikalauja, kad visos 27 ES valstybės narės įgyvendintų priemones, leidžiančias imtis kolektyvinio žalos atlyginimo visame regione. Palyginti su JAV, ES galioja griežtesni įstatymai, apsaugantys vartotojų duomenis ir skatinantys konkurenciją, todėl grupiniai ar grupiniai ieškiniai Europoje gali būti galinga priemonė teisininkams ir aktyvistams priversti dideles technologijų įmones keisti savo elgesį net tais atvejais, kai Žala asmeniui būtų labai maža.

Grupiniai ieškiniai dažniausiai buvo naudojami JAV siekiant atlyginti finansinę žalą, tačiau jie taip pat gali būti naudojami siekiant priversti pakeisti politiką ir praktiką. Jie gali dirbti kartu su kampanijomis, kuriomis siekiama pakeisti visuomenės nuomonę, ypač vartotojų bylose (pavyzdžiui, verčiant Big Tobacco pripažinti ryšį tarp rūkymo ir vėžio, arba atveriant kelią automobilių saugos diržų įstatymams). Jie yra galingi įrankiai, kai yra tūkstančiai, jei ne milijonai panašių individualių žalų, kurios kartu padeda įrodyti priežastinį ryšį. Dalis problemos yra gauti reikiamą informaciją, kad būtų galima pareikšti ieškinį. Vyriausybės pastangos, pavyzdžiui, „Facebook“ gruodį iškelta byla Federalinė prekybos komisija (FTC) ir 46 valstijų grupė , yra labai svarbūs. Kaip teigia technologijų žurnalistas Giladas Edelmanas, remiantis ieškiniais, vartotojų privatumo erozija laikui bėgant yra tam tikra vartotojų žalos forma – socialinis tinklas, kuris mažiau apsaugo vartotojų duomenis, yra prastesnis produktas, kuris nukreipia „Facebook“ iš paprasto monopolio į nelegaliu. JAV, kaip „New York Times“. neseniai pranešė , privatūs ieškiniai, įskaitant grupinius ieškinius, dažnai remiasi įrodymais, kuriuos atskleidė vyriausybės tyrimai. Tačiau ES yra atvirkščiai: privatūs ieškiniai gali atverti galimybę imtis reguliavimo veiksmų, kuriuos riboja atotrūkis tarp ES galiojančių įstatymų ir nacionalinių reguliavimo institucijų.

Tai priveda prie antrojo požiūrio: mažai žinomo 2016 m. Prancūzijos įstatymo, vadinamo Skaitmeninės Respublikos įstatymo projektu. The Skaitmeninės Respublikos įstatymo projektas yra vienas iš nedaugelio šiuolaikinių įstatymų, orientuotų į automatizuotą sprendimų priėmimą. Šiuo metu įstatymas taikomas tik administraciniams sprendimams, kuriuos priima viešojo sektoriaus algoritminės sistemos. Tačiau jame pateikiamas eskizas, kaip galėtų atrodyti būsimi įstatymai. Jame teigiama, kad tokių sistemų šaltinio kodas turi būti prieinamas visuomenei. Kiekvienas gali paprašyti šio kodo.



Svarbu tai, kad įstatymas suteikia teisę advokatų organizacijoms prašyti informacijos apie algoritmo veikimą ir jo šaltinio kodą, net jei jos neatstovauja konkrečiam asmeniui ar ieškovui, kuriam tariamai buvo padaryta žala. Dėl poreikio surasti tobulą ieškovą, galintį įrodyti žalą ir pareikšti ieškinį, labai sunku išspręsti sistemines problemas, dėl kurių daroma žala kolektyviniams duomenims. Laure Lucchesi, Prancūzijos vyriausybės įstaigos „Etalab“, atsakingos už įstatymo projekto priežiūrą, direktorius sako, kad įstatyme dėmesys algoritminei atskaitomybei buvo aplenktas. Kituose įstatymuose, pvz., Europos bendrajame duomenų apsaugos reglamente (BDAR), per daug dėmesio skiriama asmens sutikimui ir privatumui. Tačiau ir duomenis, ir algoritmus reikia reguliuoti.

Dėl poreikio surasti tobulą ieškovą, galintį įrodyti žalą ir pareikšti ieškinį, labai sunku išspręsti sistemines problemas, dėl kurių daroma žala kolektyviniams duomenims.

Apple pažadai viename skelbime: šiuo metu jūsų telefone yra daugiau privačios informacijos nei jūsų namuose. Jūsų vietos, pranešimai, širdies ritmas po bėgimo. Tai privatūs dalykai. Ir jie turėtų priklausyti tau. „Apple“ sustiprina šio individualisto klaidą: nepaminėjusi, kad jūsų telefone saugomi ne tik jūsų asmeniniai duomenys, bendrovė užmaskuoja faktą, kad tikrai vertingi duomenys gaunami iš jūsų bendravimo su paslaugų teikėjais ir kitais. Nuomonė, kad jūsų telefonas yra skaitmeninis jūsų kartotekų spintos atitikmuo, yra patogi iliuzija. Įmonėms iš tikrųjų mažai rūpi jūsų asmens duomenys; štai kodėl jie gali apsimesti užrakinę jį dėžėje. Vertė slypi išvadose, padarytose iš jūsų sąveikos, kurios taip pat saugomos jūsų telefone, tačiau šie duomenys jums nepriklauso.

Kitas pavyzdys yra „Google“ įsigijimas „Fitbit“. „Google“ žada nenaudoti „Fitbit“ duomenų reklamai, tačiau „Google“ reikalingos pelningos prognozės nepriklauso nuo individualių duomenų. Kaip teigia grupė Europos ekonomistų d neseniai paskelbtame Ekonominės politikos tyrimų centro, Londono ekspertų grupės, pakanka, kad „Google“ susietų bendrus sveikatos rezultatus su ne sveikatos rezultatais net daliai „Fitbit“ vartotojų, kurie neatsisakė kai kurių. naudoti savo duomenis, kad būtų galima numatyti sveikatos rezultatus (taigi ir skelbimų taikymo galimybes) visiems ne „Fitbit“ naudotojams (jų milijardams). „Google-Fitbit“ sandoris iš esmės yra grupės duomenų sandoris. Tai suteikia „Google“ poziciją pagrindinėje sveikatos duomenų rinkoje, tuo pačiu leidžiant jai trianguliuoti skirtingus duomenų rinkinius ir užsidirbti pinigų iš išvadų, kurias naudoja sveikatos ir draudimo rinkos.

Ką turi daryti politikos formuotojai

Įstatymų projektais buvo siekiama užpildyti šią spragą Jungtinėse Valstijose. 2019 m. senatoriai Cory Bookeris ir Ronas Wydenas pristatė Algoritminės atskaitomybės įstatymas , kuris vėliau sustojo Kongrese. Pagal šį aktą įmonės tam tikrose situacijose turėtų atlikti algoritminį poveikio vertinimą, kad patikrintų, ar nėra šališkumo ar diskriminacijos. Tačiau JAV šis esminis klausimas labiau tikėtina, kad pirmiausia bus sprendžiamas įstatymuose, taikomuose konkretiems sektoriams, pavyzdžiui, sveikatos priežiūrai, kur algoritminio šališkumo pavojus padidintas dėl skirtingo pandemijos poveikio JAV gyventojų grupėms.

Sausio pabaigoje, Visuomenės sveikatos ekstremalios situacijos privatumo įstatymas į Senatą ir Atstovų rūmus vėl įtraukė senatoriai Markas Warneris ir Richardas Blumenthalis. Šiuo aktu būtų užtikrinta, kad visuomenės sveikatos tikslais surinkti duomenys nebūtų naudojami jokiais kitais tikslais. Tai uždraustų sveikatos duomenis naudoti diskriminaciniais, nesusijusiais ar trukdančiais tikslais, įskaitant komercinę reklamą, elektroninę prekybą arba pastangas kontroliuoti prieigą prie darbo, finansų, draudimo, būsto ar išsilavinimo. Tai būtų puiki pradžia. Žvelgiant toliau, įstatyme, kuris taikomas visiems algoritminiams sprendimams, remiantis Prancūzijos pavyzdžiu, dėmesys turėtų būti sutelktas į griežtą atskaitomybę, griežtą duomenimis pagrįsto sprendimų priėmimo reguliavimo priežiūrą ir galimybę audituoti bei tikrinti algoritminius sprendimus ir jų poveikį visuomenei.

Norint užtikrinti griežtą atskaitomybę, reikalingi trys elementai: (1) aiškus skaidrumas apie tai, kur ir kada priimami automatizuoti sprendimai ir kaip jie veikia žmones ir grupes, (2) visuomenės teisė pasiūlyti reikšmingą indėlį ir raginti valdžią pagrįsti savo sprendimus. ir 3) galimybę vykdyti sankcijas. Labai svarbu, kad politikos formuotojai turės nuspręsti, kaip neseniai buvo pasiūlyta ES, kas yra didelės rizikos algoritmas, kuris turėtų atitikti aukštesnius tikrinimo standartus.

Aiškus skaidrumas

Pagrindinis dėmesys turėtų būti skiriamas viešajai automatizuoto sprendimų priėmimo kontrolei ir skaidrumo rūšims, kurios lemia atskaitomybę. Tai apima algoritmų egzistavimo, jų tikslo ir mokymo duomenų atskleidimą, taip pat jų poveikį – ar jie lėmė skirtingus rezultatus ir kokioms grupėms, jei taip.

Visuomenės dalyvavimas

Visuomenė turi pagrindinę teisę raginti valdžią pagrįsti savo sprendimus. Ši teisė reikalauti atsakymų neturėtų apsiriboti konsultaciniu dalyvavimu, kai prašoma žmonių nuomonės, o pareigūnai juda toliau. Tai turėtų apimti aktyvų dalyvavimą, kai viešasis indėlis yra privalomas prieš diegiant didelės rizikos algoritmus tiek viešajame, tiek privačiame sektoriuose.

Sankcijos

Galiausiai, norint, kad šios reformos būtų sėkmingos ir būtų pasiekta atskaitomybė, labai svarbu taikyti sankcijas. Turėtų būti privaloma nustatyti audito reikalavimus dėl duomenų nukreipimo, tikrinimo ir priežiūros, suteikti auditoriams šių bazinių žinių ir suteikti įgaliojimus priežiūros institucijoms vykdyti sankcijas, ne tik siekiant ištaisyti žalą, bet ir užkirsti jai kelią.

Kolektyvinės duomenų sukeliamos žalos problema liečia visus. Visuomenės sveikatos ekstremalios situacijos privatumo įstatymas yra pirmas žingsnis. Kongresas turėtų pasinaudoti šio akto įgyvendinimo pamokomis kurdamas įstatymus, kuriuose pagrindinis dėmesys būtų skiriamas kolektyvinių duomenų teisėms. Tik tokiais veiksmais JAV gali išvengti situacijų, kai iš įmonių renkamų duomenų daromos išvados persekioja žmonių galimybes gauti būstą, darbą, kreditą ir kitas galimybes ateinančiais metais.

paslėpti