211service.com
Kam reikalinga demokratija, kai turi duomenų?
Štai kaip Kinija valdo duomenis, AI ir interneto stebėjimą. 2018 m. rugpjūčio 20 d
Dviejų stebėjimo kamerų nuotrauka šalia Mao Zedongo portreto.
1955 m. mokslinės fantastikos rašytojas Isaacas Asimovas paskelbė trumpą istoriją apie elektroninės demokratijos eksperimentą, kurio metu vienas pilietis, atrinktas atstovauti visai populiacijai, atsakė į kompiuterio, pavadinto Multivac, sugeneruotus klausimus. Mašina paėmė šiuos duomenis ir apskaičiavo rinkimų rezultatus, kurių niekada nereikėjo įvykti. Asimovo istorija vyko Bloomingtone, Indianoje, tačiau šiandien Kinijoje kuriamas aproksimuotas Multivac.
Bet kokiam autoritariniam režimui pagrindinė problema yra išsiaiškinti, kas vyksta žemesniuose lygmenyse ir visoje visuomenėje, sako Deborah Seligsohn, politologė ir Kinijos ekspertė iš Villanovos universiteto Filadelfijoje. Kaip efektyviai valdyti šalį, kurioje gyvena vienas iš penkių planetos gyventojų, o ekonomika ir visuomenė tampa vis sudėtingesnė, jei neleidžiate viešų diskusijų, pilietinio aktyvumo ir grįžtamojo ryšio su rinkimais? Kaip surinkti pakankamai informacijos, kad iš tikrųjų priimtum sprendimus? Ir kaip valdžia, kuri nekviečia savo piliečių dalyvauti, vis dar sukelia pasitikėjimą ir sulenkia visuomenės elgesį, nepakeldama policijos prie kiekvieno slenksčio?
Ši istorija buvo mūsų 2018 m. rugsėjo mėnesio numerio dalis
- Žr. likusią numerio dalį
- Prenumeruoti
Hu Jintao, Kinijos lyderis 2002–2012 m., bandė išspręsti šias problemas leisdamas kuklų demokratinį atšilimą, suteikdamas kelius skundams pasiekti valdančiąją klasę. Jo įpėdinis Xi Jinpingas pakeitė šią tendenciją. Vietoj to, jo strategija suprasti ir reaguoti į tai, kas vyksta 1,4 milijardo gyventojų turinčioje šalyje, remiasi stebėjimo, AI ir didelių duomenų deriniu, kad būtų galima iki smulkmenų stebėti žmonių gyvenimą ir elgesį.
Tai padeda, kad pora audringų metų pasaulio demokratijose privertė Kinijos politinį elitą vis labiau pasiteisinti uždaryti rinkėjus. Tokie įvykiai kaip Donaldo Trumpo išrinkimas, Brexit, kraštutinių dešiniųjų partijų iškilimas visoje Europoje ir Rodrigo Duterte's teroro viešpatavimas Filipinuose pabrėžia tai, ką daugelis kritikų laiko demokratijai būdingomis problemomis, ypač populizmu, nestabilumu ir nesaugiai personalizuotu vadovavimu.
Nuo 2012 m., kai tapo Kinijos komunistų partijos generaliniu sekretoriumi, Xi išdėstė daugybę ambicingų planų šaliai, daugelis iš jų grindžiami technologijomis, įskaitant tikslą iki 2030 m. tapti pasauliniu dirbtinio intelekto lyderiu. Xi ragino kibernetinis suverenitetas, siekiant sustiprinti cenzūrą ir užtikrinti visišką vietinio interneto kontrolę. Gegužės mėnesį Kinijos mokslų akademijos posėdyje jis pasakė, kad technologijos yra raktas į didžiulį tikslą sukurti socialistinę ir modernizuotą tautą. Sausio mėn., kai jis kreipėsi į tautą per televiziją, knygų lentynose abiejose jo pusėse buvo klasikiniai pavadinimai, tokie kaip „Das Kapital“, ir keletas naujų priedų, įskaitant dvi knygas apie dirbtinį intelektą: Pedro Domingoso knyga. Pagrindinis algoritmas ir Bretto Kingo Papildyta: gyvenimas išmaniojoje juostoje .
Nė viena vyriausybė neturi ambicingesnio ir plataus užmojo plano panaudoti duomenų galią, kad pakeistų jų valdymo būdą, sako Martinas Chorzempa iš Petersono tarptautinės ekonomikos instituto Vašingtone. Net kai kuriems užsienio stebėtojams, stebintiems iš toli, gali kilti pagunda susimąstyti, ar toks duomenimis pagrįstas valdymas yra perspektyvi alternatyva vis labiau neveikiančiam rinkimų modeliui. Tačiau pernelyg pasikliaujant technologijų ir duomenų išmintimi kyla rizika.
Duomenys vietoj dialogo
Kinijos lyderiai jau seniai norėjo paliesti visuomenės nuotaikas, neatverdami durų karštoms diskusijoms ir valdžios kritikai. Didžiąją dalį imperinės ir šiuolaikinės Kinijos istorijos egzistavo tradicija, kad nepatenkinti kaimo žmonės keliauja į Pekiną ir rengia mažas demonstracijas kaip vieši peticijų teikėjai. Buvo galvojama, kad jei vietos valdžia nesupras jų nusiskundimų ar jiems nerūpi, imperatorius gali parodyti geresnį sprendimą.
Valdant Hu Jintao, kai kurie komunistų partijos nariai ribotą atvirumą laikė galimu būdu atskleisti ir išspręsti tam tikras problemas. Tinklaraščiai, kovos su korupcija žurnalistai, žmogaus teisių teisininkai ir internetiniai kritikai, atkreipiantys dėmesį į vietinę korupciją, paskatino viešas diskusijas Hu valdymo pabaigoje. Pasak buvusio JAV pareigūno, žinančio apie tai, Xi savo kadencijos pradžioje kasdien buvo informuojamas apie visuomenės susirūpinimą ir neramumus, iškraipytas iš socialinės žiniasklaidos. Pastaraisiais metais į sostinę atvyko peticijų teikėjai, norėdami atkreipti dėmesį į tokius skandalus kaip vietos valdžios vykdomi neteisėti žemės užgrobimai ir užteršti pieno milteliai.
Tačiau policija vis dažniau neleidžia peticijos pateikėjams pasiekti Pekiną. Dabar traukiniams reikia nacionalinio asmens tapatybės dokumento, kad būtų galima įsigyti bilietus, todėl valdžios institucijos gali lengvai nustatyti galimus „bėdų sukėlėjus“, pavyzdžiui, tuos, kurie praeityje protestavo prieš vyriausybę, sako Maya Wang, „Human Rights Watch“ vyresnioji Kinijos tyrėja. Keli peticijos pateikėjai mums pasakė, kad buvo sustabdyti prie traukinių peronų. Tinklaraštininkai, aktyvistai ir teisininkai taip pat sistemingai tildomi arba įkalinami, tarsi duomenys galėtų suteikti vyriausybei tą pačią informaciją be jokių sudėtingų laisvės problemų.
Šanchajaus startuolio veido atpažinimo sistemos demonstracinė versija.
Idėja naudoti tinklo technologijas kaip valdymo įrankį Kinijoje kilo bent jau devintojo dešimtmečio viduryje. Kaip aiškina Harvardo istorikas Julianas Gewirtzas, kai Kinijos vyriausybė pamatė, kad informacinės technologijos tampa kasdienio gyvenimo dalimi, ji suprato, kad jos turės galingą naują įrankį informacijai rinkti ir kultūrai kontroliuoti, kinus padaryti „modernesnius“ ir dar daugiau. „valdomas“ – tai buvo amžina vadovavimo manija. Vėlesnė pažanga, įskaitant AI pažangą ir greitesnius procesorius, priartino šią viziją.
Kiek žinome, Kinijoje nėra vieno pagrindinio plano, susiejančio technologijas ir valdymą. Tačiau yra keletas iniciatyvų, kurios turi bendrą duomenų apie žmones ir įmones rinkimo strategiją, kad būtų galima informuoti priimant sprendimus ir sukurti paskatų bei bausmių sistemas, turinčias įtakos elgesiui. Šios iniciatyvos apima Valstybės tarybos 2014 m. socialinių kreditų sistemą, 2016 m. kibernetinio saugumo įstatymą, įvairius vietos lygmens ir privačių įmonių eksperimentus socialinio kredito srityje, išmaniųjų miestų planus ir technologijomis pagrįstą policijos veiklą vakariniame Sindziango regione. Dažnai jie apima vyriausybės ir Kinijos technologijų įmonių partnerystę.
Tolimiausia yra socialinių kreditų sistema, nors geresnis vertimas į anglų kalbą galėtų būti pasitikėjimo ar reputacijos sistema. Vyriausybės plane, apimančiame ir žmones, ir įmones, tarp savo tikslų yra nurodytas nuoširdumo vyriausybės reikaluose, komercinio nuoširdumo ir teisminio patikimumo kūrimas. (Kiekvienas Kinijoje turi tetą, kuri buvo apgauta. Yra teisėtas poreikis išspręsti visuomenės pasitikėjimo žlugimą, sako Paulas Triolo, konsultacinės įmonės „Eurasia Group“ geotechnologijų skyriaus vadovas.) Tačiau iki šiol tai vyksta. įvairūs bandomieji projektai apžvelgia, kaip jis galėtų veikti 2020 m., kai jis turėtų būti visiškai įgyvendintas.
Manoma, kad šis algoritmas išryškina įtartiną elgesį, pvz., lankymąsi mečetėje ar per daug knygų.
Juodieji sąrašai yra pirmasis sistemos įrankis. Pastaruosius penkerius metus Kinijos teismų sistema skelbė žmonių, kurie nesumokėjo baudų ar neįvykdė sprendimų, pavardes. Pagal naujus socialinio kredito reglamentus šis sąrašas dalijamas su įvairiomis įmonėmis ir vyriausybinėmis agentūromis. Sąraše esantys žmonės negalėjo skolintis pinigų, užsakyti skrydžius ir apsistoti prabangiuose viešbučiuose. Kinijos nacionalinės transporto įmonės sukūrė papildomus juoduosius sąrašus, siekdamos bausti vairuotojus už tokį elgesį, kaip traukinio durų blokavimas ar muštynės kelionės metu; pažeidėjams uždrausta ateityje pirkti bilietus šešis ar 12 mėnesių. Anksčiau šiais metais Pekinas paskelbė daugybę juodųjų sąrašų, siekdamas uždrausti nesąžiningoms įmonėms ateityje sudaryti vyriausybės sutartis ar dotacijas žemei.
Kai kurios vietos valdžios institucijos eksperimentavo su socialinio kredito balais, nors neaišku, ar jie bus nacionalinio plano dalis. Pavyzdžiui, šiaurinis Rongchengo miestas kiekvienam iš savo 740 000 gyventojų priskiria balą, pranešė Foreign Policy. Kiekvienas pradeda nuo 1000 taškų. Jei aukojate labdarai arba laimite vyriausybės apdovanojimą, gaunate taškų; jei pažeisite kelių eismo įstatymą, pvz., vairuodami neblaivus ar viršydami greitį per perėją, prarandate taškus. Gerus balus turintys žmonės gali užsidirbti nuolaidų žiemos šildymo reikmenims arba gauti geresnes būsto paskolos sąlygas; blogus balus turintys asmenys gali netekti galimybės gauti banko paskolų arba gauti paaukštinimo valstybėse narėse. Rotušėje eksponuojami vietinių pavyzdinių pavyzdžių, kurie demonstravo dorybę ir pelnė aukštus balus, plakatai.
Socialinio kredito idėja yra stebėti ir valdyti, kaip žmonės ir institucijos elgiasi, sako Samantha Hoffman iš Mercator Institute for China Studies Berlyne. Užfiksavus pažeidimą vienoje sistemos dalyje, jis gali sukelti atsaką kitose sistemos dalyse. Tai koncepcija, skirta palaikyti tiek ekonominį vystymąsi, tiek socialinį valdymą, ir ji iš esmės yra politinė. Kai kurios paralelės su Kinijos plano dalimis jau egzistuoja JAV: blogas kredito balas gali neleisti jums pasiimti būsto paskolos, o apkaltinamasis nuosprendis sustabdo arba panaikina jūsų teisę balsuoti, pavyzdžiui. Tačiau jie ne visi yra susiję vienodai – nėra bendro plano, pažymi Hoffmanas.
Vienas didžiausių rūpesčių yra tai, kad Kinijoje trūksta nepriklausomų teismų, todėl piliečiai negali ginčyti melagingų ar netikslių kaltinimų. Kai kurie jų pavardės buvo įtrauktos į kelionių juoduosius sąrašus be įspėjimo po teismo sprendimo. Peticijų teikėjai ir tiriamieji žurnalistai stebimi pagal kitą sistemą, o žmonės, patekę į narkotikų reabilitaciją, – dar kitokia stebėjimo sistema. Teoriškai narkotikų vartotojų duomenų bazės turėtų ištrinti vardus po penkerių ar septynerių metų, bet aš mačiau daug atvejų, kai to neįvyko, sako Wang iš Human Rights Watch. Be galo sunku kada nors išbraukti iš kurio nors iš šių sąrašų.
Retkarčiais pasirodantys įniršio pliūpsniai internete rodo visuomenės pasipiktinimą. Žinia, kad kolegija atmetė studentę dėl to, kad jos tėvas buvo įtrauktas į juodąjį kredito sąrašą, neseniai įžiebė internetinio pykčio ugnį. Kolegijos sprendimas nebuvo oficialiai patvirtintas ar įsakytas vyriausybės. Atvirkščiai, entuziastingai remdami naująją politiką, mokyklų administratoriai tiesiog privedė jas prie, jų manymu, logiškos išvados.
Dėl sistemos neskaidrumo sunku įvertinti tokių eksperimentų, kaip Rongcheng, veiksmingumą. Partija nuo 2012 m. išspaudė beveik visus kritiškus balsus, o rizika mesti iššūkį sistemai – net ir palyginti nedideliais būdais – išaugo. Turima informacija yra labai klaidinga; sistemingas duomenų klastojimas apie viską – nuo BVP augimo iki hidroenergijos naudojimo – persmelkia Kinijos vyriausybės statistiką. Australijos nacionalinio universiteto mokslininkas Borge'as Bakkenas apskaičiavo, kad oficialūs nusikalstamumo skaičiai, kuriuos vyriausybė aiškiai skatina sumenkinti, gali sudaryti tik 2,5 procento viso nusikalstamo elgesio.
Teoriškai duomenimis pagrįstas valdymas galėtų padėti išspręsti šias problemas – apeiti iškraipymus, kad centrinė valdžia galėtų tiesiogiai rinkti informaciją. Tokia buvo idėja, pavyzdžiui, įdiegti oro kokybės monitorius, kurie siunčia duomenis atgal į centrines institucijas, o ne pasikliauja vietiniais pareigūnais, kurie gali būti taršių pramonės šakų kišenėje. Tačiau daugelis gero valdymo aspektų yra pernelyg sudėtingi, kad būtų galima vykdyti tokią tiesioginę stebėseną ir pasikliauti tų pačių vietos pareigūnų įvestais duomenimis.
Tačiau Kinijos vyriausybė retai išleidžia našumo duomenis, kuriuos pašaliniai asmenys galėtų naudoti vertindami šias sistemas. Paimkite kameras, kurios naudojamos kai kuriuose miestuose atpažinti ir sugėdinti jaywalkers, projektuojant jų veidus ant viešų skelbimų lentų, taip pat sekti musulmonų maldos įpročius Vakarų Kinijoje. Jų tikslumas tebėra abejotinas: kaip gerai veido atpažinimo programinė įranga, paruošta Han kinų veiduose, gali atpažinti Eurazijos mažumų grupių narius? Be to, net jei duomenų rinkimas yra tikslus, kaip vyriausybė panaudos tokią informaciją, kad nukreiptų ar sutrukdytų būsimą elgesį? Policijos algoritmai, numatantys, kas gali tapti nusikaltėliu, nėra atviri visuomenės svarstymui, taip pat nėra statistinių duomenų, rodančių, ar nusikalstamumas ar terorizmas išaugo ar sumažėjo. (Pavyzdžiui, vakariniame Sindziango regione turima informacija rodo tik tai, kad policijos sulaikytų žmonių skaičius smarkiai išaugo ir nuo 2016 m. iki 2017 m. išaugo 731 proc.).
Xiangyang mieste kameros, susietos su veidų atpažinimo technologija, iškelia jaywalkers nuotraukas su vardais ir ID numeriais ant skelbimų lentos.
Tai nėra technologija, kuri sukūrė politiką, bet technologija labai išplečia duomenų, kuriuos Kinijos vyriausybė gali rinkti apie asmenis, rūšis, sako Richardas McGregoras, Lowy instituto vyresnysis bendradarbis ir knygos autorius. Partija: slaptas Kinijos komunistinių valdovų pasaulis . Internetas Kinijoje veikia kaip realaus laiko privati skaitmeninės žvalgybos paslauga.
Algoritminė policija
Rašymas į Washington Post Šių metų pradžioje Kalifornijos universiteto Berklyje komunikacijos profesorius Xiao Qiang Kinijos duomenimis patobulintą valdymą pavadino skaitmenine totalitarine valstybe. Distopijos aspektai akivaizdžiausiai matomi Vakarų Kinijoje.
Sindziangas (Naujoji teritorija) yra tradiciniai kinų musulmonų mažumos, žinomos kaip uigūrai, namai. Kadangi regione apsigyveno daug hanų kinų migrantų – kai kurie sako, kad jie buvo kolonizuoti – vietiniams uigūrams suteikiamas darbas ir religinės galimybės sumažėjo. Vienas iš pasekmių buvo smurto padidėjimas, į kurį buvo nukreipti ir Han, ir uigūrai, įskaitant 2009 m. riaušes sostinėje Urumči, kai, kaip pranešama, žuvo 200 žmonių. Vyriausybės atsakas į didėjančią įtampą nebuvo vieši forumai, kuriuose būtų prašoma nuomonės ar politikos patarimų. Vietoj to, valstybė naudoja duomenų rinkimą ir algoritmus, kad nustatytų, kas ateityje gali įvykdyti smurto ar nepaklusnumo veiksmus.
Sindziango vyriausybė pasamdė privačią įmonę, kad sukurtų nuspėjamuosius algoritmus, įvertinančius įvairius duomenų srautus. Nėra viešų įrašų ar atskaitomybės už tai, kaip šie skaičiavimai sudaromi ar vertinami. Žmonės, gyvenantys pagal šią sistemą, paprastai net nežino, kokios yra taisyklės, sako Rianas Thumas, Lojolos universiteto antropologas, studijuojantis Sindziangą ir matęs viešųjų pirkimų skelbimus, kurie buvo paskelbti kuriant sistemą.
Vakariniame Kašgaro mieste daugelis šeimos namų ir parduotuvių pagrindinėse gatvėse dabar yra apkaltos lentomis, o viešosios aikštės tuščios. Kai lankiausi 2013 m., buvo aišku, kad Kašgaras jau buvo atskirtas miestas – hanų ir uigūrų gyventojai gyveno ir dirbo skirtingose miesto dalyse. Tačiau vakarais tai taip pat buvo gyvybinga ir dažnai triukšminga vieta, kur skambučio melstis garsai maišėsi su šokių muzika iš vietinių klubų ir senų vyrų, vėlai sėdinčių ant plastikinių kėdžių terasose, pokalbiais. Šiandien miestas siaubingai tylus; kaimynystės viešasis gyvenimas iš esmės išnyko. Emily Feng, žurnalistė Finansiniai laikai birželį lankėsi Kašgare ir socialiniame tinkle „Twitter“ paskelbė nuotraukas apie naujai atsilaisvinusias gatves.
Priežastis ta, kad kai kuriais skaičiavimais daugiau nei vienas iš 10 suaugusiųjų uigūrų ir kazachų Sindziange buvo išsiųstas į spygliuotomis vielomis apstatytas perauklėjimo stovyklas, o tie, kurie lieka laisvėje, bijo.
Per pastaruosius dvejus metus buvo įsteigta tūkstančiai patikros punktų, kuriuose praeiviai turi pateikti savo veidą ir asmens tapatybės kortelę, kad galėtų važiuoti greitkeliu, patekti į mečetę ar apsilankyti prekybos centre. Uigūrai privalo savo išmaniuosiuose telefonuose įdiegti vyriausybės sukurtas sekimo programėles, kurios stebi jų internetinius kontaktus ir aplankytus tinklalapius. Policijos pareigūnai reguliariai lankosi vietiniuose namuose, kad surinktų daugiau duomenų apie tai, kiek žmonių gyvena namų ūkyje, kokie jų santykiai su kaimynais, kiek kartų žmonės kasdien meldžiasi, ar yra išvykę į užsienį ir kokias knygas turi.
Visi šie duomenų srautai įvedami į Sindziango viešojo saugumo sistemą kartu su kitais įrašais, fiksuojančiais informaciją apie viską nuo bankininkystės istorijos iki šeimos planavimo. Kompiuterinė programa apibendrina visus duomenis iš šių skirtingų šaltinių ir pažymi tuos, kurie gali tapti „grėsme“ valdžios institucijoms, sako Wang. Nors tikslus algoritmas nežinomas, manoma, kad jis gali parodyti elgseną, pvz., apsilankymą konkrečioje mečetėje, daug knygų turėjimą, didelio benzino kiekio pirkimą arba telefono skambučių ar el. laiškų gavimą iš kontaktinių asmenų užsienyje. Žmones, pažymėtus jos vėliava, aplanko policija, kuri gali juos suimti ir pasodinti į kalėjimą arba perauklėjimo stovyklas be jokių oficialių kaltinimų.
Pekino Tiananmenio aikštės lankytojai patikrinimo punkte nuskaito savo asmens dokumentus.
Europos kultūros ir teologijos mokyklos Korntalyje (Vokietija) politologas Adrianas Zenzas apskaičiavo, kad mažumų internavimo lygis Sindziange gali siekti net 11,5 procento suaugusių gyventojų. Šios stovyklos skirtos skiepyti patriotizmą ir priversti žmones atsisakyti religinių įsitikinimų. (Atrodo, kad nauji kremavimo apsaugos darbuotojų pirkimų skelbimai rodo, kad vyriausybė taip pat bando panaikinti tradicinę musulmonų laidojimo praktiką regione.)
Nors Sindziangas atstovauja vienam drakoniškam kraštutinumui, kitur Kinijoje piliečiai pradeda atsispirti tam tikram stebėjimui. Interneto bendrovė, transliavusi uždaros grandinės TV filmuotą medžiagą internetu, po viešo pasipiktinimo nutraukė šias transliacijas. Šanchajaus miestas neseniai išleido taisykles, leidžiančias žmonėms ginčyti neteisingą informaciją, naudojamą socialinio kredito įrašams sudaryti. Kinijos interneto vartotojai vis labiau reikalauja privatumo, sako Samm Sacks, Niujorko CSIS technologijų politikos programos vyresnysis bendradarbis. Tai nėra visiškai nemokama visiems, kokia buvo sukurta.
Christina Larson yra apdovanojimus pelniusi užsienio korespondentė ir mokslo žurnalistė, daugiausia rašanti apie Kiniją ir Aziją.