Būsimi rinkimai gali būti paveikti protingų, ginkluotų pokalbių robotų

Magozas

Kova su propagandiniais robotais yra mūsų demokratijos ginklavimosi varžybos. Tai yra tas, kurį galime prarasti. Botai – paprasti kompiuteriniai scenarijai – iš pradžių buvo sukurti siekiant automatizuoti pasikartojančias užduotis, pvz., turinio tvarkymą ar tinklo priežiūrą, taip sutaupant žmonių nuovargio valandų. Įmonės ir žiniasklaidos priemonės taip pat naudoja robotus, kad valdytų socialinės žiniasklaidos paskyras, kad iš karto įspėtų vartotojus apie naujausias naujienas arba reklamuotų naujai paskelbtą medžiagą.

Tačiau jas taip pat galima naudoti norint valdyti daugybę netikrų paskyrų, todėl jos puikiai tinka manipuliuoti žmonėmis. Mūsų tyrimas Kompiuterinės propagandos projekte tiria daugybę būdų, kuriais politiniai robotai, naudojantys didelius duomenis ir automatizavimą, buvo naudojami dezinformacijai skleisti ir internetiniam diskursui iškraipyti.

Ši istorija buvo mūsų 2018 m. rugsėjo mėnesio numerio dalis

• Žr. likusią numerio dalį
• Prenumeruoti

Botai pasirodė esąs vienas geriausių būdų transliuoti ekstremistinius požiūrius socialinėje žiniasklaidoje, bet taip pat sustiprinti tokias nuomones iš kitų, tikrų paskyrų, pažymint, kad patinka, dalijantis, pakartotinai rašant, širdingai ir sekant, kaip tai darytų žmogus. Tai darydami jie naudojasi algoritmais ir apdovanoja įrašus, su kuriais bendravo, suteikdami jiems daugiau matomumo.

Tai atrodys švelnu, palyginti su tuo, kas vyksta.

Stiprybė skaičiais

Po Rusijos kišimosi į 2016 metų JAV rinkimus kilo diskusijų banga, kaip apsaugoti politiką nuo propagandos. „Twitter“ šiais metais panaikino įtartinų paskyrų, įskaitant robotus, dešimtimis milijonų, o reguliavimo institucijos pasiūlė uždrausti robotus ir skaidrumo priemones bei ragino geriau bendradarbiauti su interneto platformomis.

Taigi gali atrodyti, kad įgauname pranašumą. Ir tai iš dalies tiesa – robotų taktika prarado savo naujumą ir niekada nebuvo subtili. Jų stiprybė anksčiau buvo skaičiai. Propagandistai sutelktų jų armijas, kad užtvindytų internetą žinutėmis ir atsakymais, bandydami užgožti tikrą demokratinį diskursą. Kadangi sukūrėme technines atsakomąsias priemones, kurios geriau nustato robotų elgesį, todėl jas išjungti tapo lengviau. Žmonės taip pat tapo budresni ir efektyvesni juos pastebėdami. Vidutinis robotas mažai ką nuslepia savo robotišką charakterį, o greitas žvilgsnis į jo tviteryje rašymo būdus ar net profilio nuotrauką gali tai atskleisti.

Tačiau naujos kartos robotai sparčiai vystosi. Iš esmės dėl natūralios kalbos apdorojimo pažangos – tos pačios technologijos, kuri leidžia naudoti balsu valdomas sąsajas, tokias kaip „Amazon Alexa“, „Google Assistant“ ir „Microsoft“ „Cortana“, šie robotai elgsis daug labiau kaip tikri žmonės.

Tiesa, šios pokalbio sąsajos vis dar yra nelygios, tačiau jos tobulėja, o galimybės sėkmingai iššifruoti žmonių kalbą nauda yra didžiulė. Skaitmeniniai asistentai yra tik vienas iš jų naudojimo būdų – prekių ženklai valdo pokalbių pokalbių robotus klientų aptarnavimui, o leidėjai, tokie kaip CNN, naudoja juos asmeniniam žiniasklaidos turiniui platinti.

Tokie pokalbių robotai atvirai skelbiasi esą automatizuoti, bet propagandiniai robotai to nepadarys. Jie prisistatys kaip vartotojai, dalyvaujantys internetiniuose pokalbiuose komentarų skiltyse, grupiniuose pokalbiuose ir pranešimų lentose.

Priešingai populiariems įsitikinimams, tai dar neįvyksta. Dauguma robotų tik reaguoja į raktinius žodžius, kurie suaktyvina atsaką, kuris retai patenka į tam tikro pokalbio kontekstą ar sintaksę. Šiuos atsakymus dažnai nesunku pastebėti.

Bet darosi vis sunkiau. Jau dabar kai kurie paprasti iš anksto užprogramuoti robotų scenarijai sėkmingai suklaidino vartotojus. Kai robotai išmoksta suprasti kontekstą ir ketinimus, jie tampa vis įgudę užmegzti pokalbį nepaskleisdami savo priedangos.

Po kelerių metų pokalbių robotai gali ieškoti jautrių vartotojų ir susisiekti su jais privačiais pokalbių kanalais. Jie iškalbingai naršys pokalbius ir analizuos vartotojo duomenis, kad pateiktų pritaikytą propagandą. Botai nukreips žmones link ekstremistinių požiūrių ir atrems argumentus pokalbio būdu.

Užuot visiems platinę propagandą, šie robotai nukreips savo veiklą į įtakingus žmones ar politinius disidentus. Jie užpuls asmenis kurdami neapykantą kurstydami scenarijų, užvers juos šlamštu arba uždarys jų paskyras, pranešdami apie jų turinį kaip įžeidžiantį.

Puikiai tinka „Google“, puikiai tinka robotams

Verta tiksliai pažvelgti į tai, kaip tobulėja dirbtinio intelekto metodai, kuriais maitinami tokių robotų tipai, nes technologijų įmonių naudojami metodai taip pat puikiai tinka politinių robotų galimybėms padidinti.

Norint dirbti, natūralia kalba apdoroti reikia daug duomenų. Technologijos įmonės, tokios kaip Google ir Amazon, tokius duomenis gauna atverdamos savo kalbos apdorojimo algoritmus visuomenei per programų programavimo sąsajas arba API. Trečiosios šalys, pvz., bankas, kurios nori automatizuoti pokalbius su savo klientais, gali siųsti neapdorotus duomenis, pvz., telefono skambučių garso ar teksto scenarijus, į šias API. Algoritmai apdoroja kalbą ir grąžina mašininiu būdu nuskaitomus duomenis, paruoštus komandoms suaktyvinti. Savo ruožtu šias API teikiančios technologijų įmonės gauna prieigą prie daugybės pokalbių pavyzdžių, kuriuos gali panaudoti tobulindamos mašininį mokymąsi ir algoritmus.

Be to, beveik visos pagrindinės technologijų įmonės kūrėjams pateikia atvirojo kodo algoritmus, skirtus apdorojimui natūralia kalba. Kūrėjai gali juos naudoti kurdami naujas, patentuotas programas, pvz., balsu valdomo roboto programinę įrangą. Kūrėjams tobulinant ir tobulinant originalius algoritmus, technologijų įmonės gauna naudos iš jų atsiliepimų.

Problema ta, kad tokios paslaugos yra plačiai prieinamos beveik visiems, įskaitant žmones, kuriančius politinius robotus. Teikdamos pokalbių automatizavimo priemonių rinkinį, technologijų įmonės nesąmoningai moko propagandą kalbėti.

Blogiausia dar laukia

Žmonių kalbą išmanantys robotai kol kas lieka nepaprasti. Vis dar reikia didelių žinių, skaičiavimo galios ir mokymo duomenų, kad robotai būtų aprūpinti naujausiais kalbos apdorojimo algoritmais. Bet tai nėra nepasiekiama. Nuo 2010 m. politinės partijos ir vyriausybės išleido daugiau nei pusę milijardo dolerių manipuliavimui socialine žiniasklaida, paversdamos tai labai profesionaliu ir gerai finansuojamu sektoriumi.

Dar reikia nueiti ilgą kelią, kol robotas galės apgauti žmogų pokalbyje vienas su vienu. Tačiau tobulėjant algoritmams šios galimybės atsiras.

Kaip ir bet kurios kitos naujovės atveju, kai šios AI technologijos bus išnaudotos, jos neišvengiamai išsivaduos iš riboto programų, kurioms iš pradžių buvo sukurtos, rinkinio.

Lisa-Maria Neudert yra Oksfordo interneto instituto doktorantė ir Kompiuterinės propagandos projekto tyrėja.

paslėpti