Kaip apnuodyti duomenis, kuriuos „Big Tech“ naudoja jus stebint

Ericas Risbergas / AP

Kiekvieną dieną jūsų gyvenimas palieka skaitmeninių džiūvėsėlių pėdsakus, kuriuos technologijų milžinai naudoja jus sekdami. Išsiunčiate el. laišką, užsisakote maisto, transliuojate laidą. Jie atgauna vertingus duomenų paketus, kad galėtų geriau suprasti jūsų pageidavimus. Šie duomenys įvedami į mašininio mokymosi algoritmus, kad būtų nukreipti skelbimai ir rekomendacijos. „Google“ iš jūsų duomenų išperka daugiau nei 120 mlrd. USD per metus pajamų iš skelbimų.

Vis dažniau nebegalime atsisakyti šios tvarkos. 2019 m. Kashmir Hill, tuometinis „Gizmodo“ reporteris, garsiai bandė tai padaryti iš jos gyvenimo išbraukė penkis pagrindinius technologijų milžinus . Šešias savaites ji praleido būdama apgailėtina, sunkiai atlikdama pagrindines skaitmenines funkcijas. Tuo tarpu technologijų gigantai net nejautė niežėjimo.

Dabar Šiaurės Vakarų universiteto mokslininkai siūlo naujus būdus, kaip ištaisyti šį galios disbalansą gydant mūsų kolektyvinis duomenis kaip derybų lustą. Technologijų milžinai gali turėti įmantrių algoritmų, tačiau jie yra beprasmiški, jei neturi pakankamai reikiamų duomenų, kad galėtų treniruotis.

Į naujas popierius pristatomas Kompiuterinių mašinų asociacijoje Sąžiningumo, atskaitomybės ir skaidrumo konferencija kitą savaitę mokslininkai, įskaitant doktorantus Nicholasą Vincentą ir Hanliną Li, siūlo tris būdus, kaip visuomenė galėtų tai išnaudoti savo naudai:

• Duomenų streikai , įkvėptas darbo streikų idėjos, kurių metu jūsų duomenys sulaikomi arba ištrinami, kad technologijų įmonė negalėtų jais naudotis, pavyzdžiui, palikti platformą arba įdiegti privatumo įrankius.
• Apsinuodijimas duomenimis , kuris apima beprasmių ar žalingų duomenų pateikimą. AdNauseam , pavyzdžiui, yra naršyklės plėtinys, kuris spusteli kiekvieną jums pateiktą skelbimą ir taip supainioja „Google“ skelbimų taikymo algoritmus.
• Sąmoningas duomenų indėlis , kuris apima prasmės suteikimą pilnas duomenis platformos, kurią norite protestuoti, konkurentui, pavyzdžiui, įkeldami savo „Facebook“ nuotraukas į „Tumblr“.

Žmonės jau naudoja daugelį šių taktikų, kad apsaugotų savo privatumą. Jei kada nors naudojote skelbimų blokavimo priemonę ar kitą naršyklės plėtinį, kuris pakeičia paieškos rezultatus, kad neįtrauktų tam tikrų svetainių, ėmėte duomenų perbraukimo ir susigrąžinote agentūrą dėl jūsų duomenų naudojimo. Tačiau, kaip pastebėjo Hillas, tokie atsitiktiniai individualūs veiksmai kaip šie nelabai prisideda prie technologijų milžinų pokyčių jų elgesys.

O kas, jei milijonai žmonių koordinuotų savo veiksmus, kad gerai apnuodytų technologijų milžino duomenis? Tai gali suteikti jiems tam tikrą svertą savo reikalavimams ginti.

Galbūt jau buvo keli to pavyzdžiai. Sausio mėnesį milijonai vartotojų ištrynė savo „WhatsApp“ paskyras ir perėjo pas konkurentus, tokius kaip „Signal“ ir „Telegram“, kai „Facebook“ paskelbė, kad pradės dalytis „WhatsApp“ duomenimis su likusia įmonės dalimi. Išvykimas sukėlė „Facebook“. delsimas keičiasi jos politika.

Tik šią savaitę, Google taip pat paskelbė kad jis nustotų stebėti asmenis žiniatinklyje ir nukreipti jiems skelbimus. Nors neaišku, ar tai tikras pokytis, ar tik prekės ženklo keitimas, sako Vincentas, gali būti, kad padažnėjęs įrankių, tokių kaip AdNauseam, naudojimas prisidėjo prie šio sprendimo, sumažindamas įmonės algoritmų efektyvumą. (Žinoma, galiausiai sunku pasakyti. Vienintelis asmuo, kuris tikrai žino, kaip efektyviai duomenų sverto judėjimas paveikė sistemą, yra technologijų įmonė, sako jis.)

Vincentas ir Li mano, kad šios kampanijos gali papildyti strategijas, tokias kaip politikos propagavimas ir darbuotojų judėjimas, siekiant pasipriešinti Big Tech.

Įdomu matyti tokį darbą, sako Ali Alkhatibas, San Francisko universiteto Taikomųjų duomenų etikos centro mokslinis bendradarbis, kuris tyrime nedalyvavo. Buvo tikrai įdomu matyti, kaip jie galvoja apie kolektyvinį ar holistinį požiūrį: mes galime sujaukti šulinį ir kelti reikalavimus dėl tos grėsmės, nes tai yra mūsų duomenys ir visa tai kartu patenka į šį šulinį.

Susijusi istorija

Taip praradome veidų kontrolę

Didžiausias kada nors atliktas veido atpažinimo duomenų tyrimas rodo, kaip gilaus mokymosi augimas paskatino privatumo praradimą.

Dar reikia nuveikti, kad šios kampanijos būtų plačiau paplitusios. Kompiuterių mokslininkai galėtų atlikti svarbų vaidmenį kuriant daugiau įrankių, pavyzdžiui, „AdNauseam“, kurie padėtų sumažinti kliūtis dalyvauti tokioje taktikoje. Politikos formuotojai taip pat galėtų padėti. Streikai dėl duomenų yra veiksmingiausi, kai juos sustiprina griežti duomenų privatumo įstatymai, tokie kaip Europos Sąjungos Bendrasis duomenų apsaugos reglamentas (BDAR), suteikiantis vartotojams teisę prašyti ištrinti savo duomenis. Be tokio reguliavimo sunkiau užtikrinti, kad technologijų įmonė suteiks jums galimybę išvalyti skaitmeninius įrašus, net jei pašalinsite paskyrą.

Ir kai kurie klausimai lieka atsakyti. Kiek žmonių reikia dėl duomenų streiko, kad būtų pažeistas įmonės algoritmas? O kokie duomenys būtų veiksmingiausi nuodijant konkrečią sistemą? Pavyzdžiui, modeliuodami filmų rekomendacijų algoritmą, mokslininkai nustatė, kad jei 30% vartotojų streikuotų, sistemos tikslumas galėtų sumažėti 50%. Tačiau kiekviena mašininio mokymosi sistema yra skirtinga, o įmonės nuolat jas atnaujina. Tyrėjai tikisi, kad daugiau mašininio mokymosi bendruomenės žmonių gali vykdyti panašius skirtingų įmonių sistemų modeliavimus ir nustatyti jų pažeidžiamumą.

Alkhatibas siūlo mokslininkams atlikti daugiau tyrimų, kaip paskatinti kolektyvinius duomenų veiksmus. Kolektyvinis veiksmas yra tikrai sunkus, sako jis. Vienas iš iššūkių yra priversti žmones sekti vykstančius veiksmus. Ir tada kyla iššūkis, kaip priversti grupę žmonių, kurie yra labai trumpalaikiai (šiuo atveju tai gali būti žmonės, kurie penkias sekundes naudoja paieškos variklį), suvokti save kaip bendruomenės, kuri iš tikrųjų turi ilgaamžiškumą, dalimi?

Ši taktika taip pat gali turėti pasekmių, kurias reikia atidžiai išnagrinėti, priduria jis. Ar apsinuodijimas duomenimis gali tiesiog pridėti daugiau darbo turinio moderatoriams ir kitiems žmonėms, kuriems pavesta išvalyti ir pažymėti įmonių mokymo duomenis?

Tačiau apskritai Vincentas, Li ir Alkhatibas yra optimistiškai nusiteikę, kad duomenų svertas gali tapti įtikinančiu įrankiu, leidžiančiu formuoti, kaip technologijų milžinai elgiasi su mūsų duomenimis ir privatumu. AI sistemos priklauso nuo duomenų. Tai tik faktas apie tai, kaip jie dirba, sako Vincentas. Galiausiai taip visuomenė gali įgyti valdžią.

paslėpti