Ar Kinijos socialinių kreditų sistema tokia orveliška, kaip skamba?

Kategorija: Dirbtinis intelektas Paskelbta vasario 26 d

Vakarų vaizduotėje, liūdnai pagarsėjusi Kinijos socialinių kreditų sistema yra AI pagrįstas stebėjimo režimas, kuris pažeidžia žmogaus teises. Dažnai girdime apie jo panaudojimo politinei kontrolei įtvirtinti pavyzdžius, pvz., praėjusį mėnesį, kai iš vyro buvo atimta 950 balų iš 1000 – kiekvieną kartą, kai jis kreipėsi į vyriausybę prašydamas pagalbos sprendžiant motinos medicininį ginčą, jam buvo atimta 10 balų. Tačiau retai girdime apie kitą pasakojimą, kuriame tai yra valdymo mechanizmas, kurį sveikina daugelis piliečių, kuriems atsibodo siaučiantis sukčiavimas, padirbti produktai ir visuomenės sveikatos sutrikimai.

Tai ne tokia tiesmuka realybė, kurią vaizduoja istorija iš „South China Morning Post“. . (Nors, teisybės dėlei, kyla klausimų apie teisingą kiek nepriklausomas yra SCMP .) Jiakuang Majia kaime, esančioje Rongcheng mieste, vienoje iš dešimčių vietų, kurios buvo giriamos už sėkmingą programos vykdymą, gyventojai sako, kad ši schema daugiausia turėjo teigiamos įtakos, jei iš viso turėjo įtakos. Tiesą sakant, nėra AI ar kitų technologijų. Atvirkščiai, taškai sekami naudojant popierių ir rankų darbą – daugelis mano, kad ši sistema yra periferinė biurokratija, kuri toli gražu nėra varomoji jėga jų kasdieniame gyvenime.

Kinijos socialinių kreditų sistema sukurta siekiant skatinti teisėtumą ir sąžiningumą. Piliečiai gali uždirbti taškų už gerus darbus, tokius kaip savanorystė, kraujo donorystė ar investicijų į miestą pritraukimas; jie gali juos netekti už tokius nusižengimus kaip kelių eismo taisyklių pažeidimas, mokesčių vengimas arba pagyvenusių tėvų nepaisymas. Tada jų balai turi įtakos jų prieigai prie bendruomenės gerovės programų: daug balų turintys asmenys gauna tokias išmokas kaip nemokami medicininiai patikrinimai ir nuolaidos sąskaitoms už šildymą; mažai balų turintys praranda vyriausybės subsidijas arba jiems neleidžiama dirbti vyriausybės.

Tačiau nors ši paskutinė detalė Vakaruose dažnai apibūdinama kaip laisvę pažeidžiantis autoritarinės vyriausybės užgrobimas, daugelis mokslininkų teigia, kad socialinio kredito balai neturės tokio plataus masto kontroliuojančio poveikio, kaip tikimasi. Sistemos renkami duomenys iš tikrųjų nesutampa su duomenimis, kuriuos, tarkime, bankas turi nuspręsti, ar suteikti jums paskolą. Taip pat buvo reglamentai peržiūrėjo intensyvaus atstūmimo atvejais: Suiningo apygarda atsikratė taškų atskaitymų už neteisėtas peticijas, pavyzdžiui, dėl plačiai paplitusio nepopuliarumo. Todėl, anot šių mokslininkų, sistema veikia labiau kaip propagandos, o ne vykdymo įrankis. Kiti nurodyti kad tai tiesiog kinų kultūros senos tradicijos propaguoti gerą moralinį elgesį pratęsimas ir kad Kinijos piliečiai turi visiškai kitokį požiūrį į privatumą ir laisvę.

Ši istorija iš pradžių pasirodė mūsų AI informaciniame biuletenyje „Algoritmas“. Jei norite, kad jis būtų pristatytas tiesiai į gautuosius, prisiregistruokite čia nemokamai.