Naudodami daugiau dirbtinio intelekto, kovojame su netikrų naujienų AI robotais. Tai klaida.

Knygos viršelio nuotrauka

• Samuelis Woolley yra Teksaso universiteto Ostino Moody komunikacijos mokyklos docentas. Tai adaptuota ištrauka iš būsimos jo knygos Realybės žaidimas .

Kaskart, kai prisijungiate prie „Twitter“ ir peržiūrite populiarų įrašą, greičiausiai rasite botų paskyrų, kurioms jis patinka arba jį komentuoja. Spustelėję pamatysite, kad jie daug kartų paskelbė „Twitter“, dažnai per trumpą laiką. Kartais jų įrašuose parduodamas šlamštas arba platinami skaitmeniniai virusai. Kitos paskyros, ypač robotai, kurie reaguodami į konkrečius naujienų straipsnius ar oficialius pareiškimus skelbia iškraipytus vitriolius, yra visiškai politiniai.

Nesunku manyti, kad visą šį reiškinį skatina pažangūs kompiuterių mokslai. Iš tiesų, kalbėjausi su daugybe žmonių, manančių, kad mašininio mokymosi algoritmai, varomi mašininio mokymosi ar dirbtinio intelekto, suteikia politiniams robotams galimybę mokytis iš aplinkos ir sudėtingai bendrauti su žmonėmis.

Per įvykius, kuriuose dabar mokslininkai mano, kad politiniai robotai ir dezinformacija suvaidino pagrindinį vaidmenį – „Brexit“ referendumas, Trumpo ir Clintono konkursas 2016 m., Krymo krizė – buvo plačiai paplitęs įsitikinimas, kad išmanieji dirbtinio intelekto įrankiai leido kompiuteriams apsimesti žmonėmis ir padėti manipuliuoti. viešas pokalbis.

Mokslininkai ir žurnalistai tai paskatino: buvo labai provokuojančios istorijos apie ginkluotos AI propagandos mašinos atsiradimą ir istorijas teigdamas kad dirbtinis intelektas užkariavo demokratiją. Netgi mano atliktas tyrimas, kaip socialinė žiniasklaida naudojama viešajai nuomonei formuoti, tiesai nulaužti ir protestams nutildyti (tai vadinama skaičiavimo propaganda), buvo cituojamas straipsniuose, kuriuose teigiama, kad mūsų robotų viršininkai jau yra čia.

Tačiau realybė tokia, kad sudėtingi mechanizmai, tokie kaip dirbtinis intelektas, iki šiol suvaidino nedidelį vaidmenį skaičiavimo propagandos kampanijose. Visi įrodymai, kuriuos mačiau „Cambridge Analytica“, rodo, kad įmonė niekada nepristatė psichografinės rinkodaros priemonių, kurias ji teigė turėjusi per 2016 m. JAV rinkimus, nors ji teigė, kad gali nukreipti į asmenis, siųsdama konkrečias žinutes, pagrįstas asmenybių profiliais, gautais iš kontroversiškos „Facebook“ duomenų bazės.

Tuo tarpu, kai dirbau Oksfordo interneto institute, nagrinėjome, kaip ir ar „Twitter“ robotai buvo naudojami „Brexit“ diskusijose. Pastebėjome, kad nors daugelis buvo panaudoti pranešimams apie kampaniją „Palikti“ platinti, didžioji dauguma automatizuotų paskyrų buvo labai paprastos. Jie buvo sukurti siekiant pakeisti internetinį pokalbį su robotais, kurie buvo sukurti tiesiog norint padidinti simpatijų ir sekimų skaičių, skleisti nuorodas, žaidimų tendencijas arba trolių pasipriešinimą. Ją žaidė nedidelės žmonių grupės, kurios suprato memų ir virusiškumo magiją, sąmokslų sėjimą internete ir stebėjo, kaip jie auga. Pokalbius blokavo pagrindinis robotų generuojamas šlamštas ir triukšmas, tikslingai prijungtas prie konkrečių grotažymių, siekiant demobilizuoti internetinius pokalbius. Nuorodos į naujienų straipsnius, kuriuose politikas buvo parodytas tam tikra šviesa, buvo suaktyvintos netikrų arba įgaliotųjų paskyrų, skirtų nuolat skelbti ir pakartotinai skelbti tą patį šlamštą. Šios kampanijos buvo vykdomos gana atvirai: šie robotai nebuvo sukurti taip, kad būtų funkcionalūs pokalbiams. Jie nepanaudojo AI.

Daugiau ne kvailas

Tačiau yra signalų, kad pradedama naudoti AI palaikyta kompiuterinė propaganda ir dezinformacija. Piratai ir kitos grupės jau pradėjo tikrinti pavojingesnių AI robotų efektyvumą per socialinę žiniasklaidą. 2017 metų kūrinys iš Gizmodo pranešė, kad du duomenų mokslininkai išmokė dirbtinį intelektą sukurti savo sukčiavimo kampaniją: Atliekant bandymus dirbtinis įsilaužėlis buvo daug geresnis nei jo konkurentai žmonės, kūrė ir platino daugiau sukčiavimo tviterių nei žmonės, o konversijų rodiklis buvo daug geresnis.

Probleminį turinį platina ne tik politiniai robotai, turintys mašininį mokymąsi. Taip pat problemiškas technologijų panaudojimas ar dizainas nėra sukurtas tik socialinės žiniasklaidos įmonėse. Tyrėjai atkreipė dėmesį, kad mašininis mokymasis gali būti užterštas nuodų atakų – kenkėjiškų veikėjų, darančių įtaką mokymo duomenims, kad pakeistų tam tikro algoritmo rezultatus – dar prieš mašinos paskelbimą viešai.

Kalevas Leetaru, Džordžo Vašingtono universiteto vyresnysis bendradarbis, teigia, kad pirmosios AI botų vykdomos atakos gali būti nukreiptos ne į socialinę žiniasklaidą, o apimtų vadinamąją paskirstytojo atsisakymo teikti paslaugą ataką, kuri apima tikslinių interneto serverių išjungimą. užtvindydami juos transporto srautu.

Akimirką įsivaizduokite, kad perdavėte robotų tinklą gilaus mokymosi sistemos valdymui ir suteikėte tam AI algoritmui visišką kiekvieno to robotinio tinklo rankenėlės ir ratuko kontrolę, Leetaru rašo .

Šios pastangos nėra skirtos padėti naujienų organizacijoms patikrinti daugybę turinio. Atvirkščiai, jie padeda kelių milijardų dolerių įmonei palaikyti švarą savo namuose.

Taip pat jai pateikiate tiesioginius pasaulinės interneto būsenos informacijos iš pagrindinių kibernetinio saugumo ir stebėjimo paslaugų teikėjų visame pasaulyje, kad jis galėtų kas sekundę stebėti, kaip auka ir visa kita interneto dalis reaguoja į ataką. Galbūt visa tai įvyksta po to, kai algoritmas praleido kelias savaites tiksliai stebint taikinį, kad suprastumėte jo eismo modelių ir elgesio visumą bei niuansus ir prasiskverbtų per išorinius apsaugos sluoksnius.

Už gynybos ribų

2018 m. balandį Markas Zuckerbergas pasirodė Kongrese: jis buvo politiniame mikroskope dėl netinkamo naudotojų informacijos tvarkymo per 2016 m. rinkimus. Savo dviejų dalių liudijime jis daugiau nei 30 kartų paminėjo dirbtinį intelektą, teigdamas, kad dirbtinis intelektas bus skaitmeninės dezinformacijos problemos sprendimas, pateikdamas programas, kurios padėtų kovoti su milžiniška kompiuterinės propagandos apimtimi. Jis prognozavo, kad per ateinantį dešimtmetį dirbtinis intelektas bus gelbėtojas nuo didžiulių masto problemų, su kuriomis „Facebook“ ir kiti susiduria spręsdami pasaulinį nepageidaujamo turinio plitimą ir manipuliavimą.

Taigi ar yra būdas panaudoti AI arba automatizuotų robotų technologiją, kad galėtume kovoti su manipuliavimu viešąja nuomone internete? Ar galime naudoti AI kovai su AI?

Indianos universiteto socialinės žiniasklaidos observatorija pastatė viešuosius įrankius panaudoti mašininį mokymąsi, kad aptiktų robotus, peržiūrėdami 1200 funkcijų, kad nustatytų, ar tai labiau tikėtina, kad tai yra žmogus, ar botas.

Ir „Facebook“ produktų vadovė Tessa Lyons pranešime teigiama 2018 m kad mašininis mokymasis padeda mums nustatyti demaskuotų istorijų dublikatus. Pavyzdžiui, faktų tikrintojas Prancūzijoje paneigė teiginį, kad insultą patyrusį žmogų galite išgelbėti adata pradūrę pirštą ir patraukę kraują. Tai leido mums nustatyti daugiau nei 20 domenų ir daugiau nei 1 400 nuorodų, skleidžiančių tą patį teiginį.

Tokiais atvejais socialinės žiniasklaidos įmonės gali panaudoti mašininį mokymąsi, kad surinktų ir net patikrintų faktų patikras iš viso pasaulio ir panaudotų šiuos įrodymais pagrįstus pataisymus, kad pažymėtų netikrą turinį.

Tačiau akademinėje bendruomenėje kyla didelių diskusijų dėl to, ar pasyvus galimai klaidingos informacijos nustatymas socialinės žiniasklaidos vartotojams iš tikrųjų yra veiksmingas. Kai kurie tyrinėtojai rodo, kad faktų tikrinimo tiek internete, tiek neprisijungus dabartinė forma neveikia labai efektyviai. 2019 m. pradžioje faktų tikrinimo svetainė „Snopes“, kuri bendradarbiavo su „Facebook“ tokiais korekciniais veiksmais, nutraukė santykius . In an interviu Su Poynter Institute, Snopes operacijų viceprezidentas Vinny Greenas sakė: „Neatrodo, kad mes siekiame, kad trečiųjų šalių faktų tikrinimas būtų praktiškesnis leidėjams – atrodo, kad mes stengiamės palengvinti „Facebook“.

Tokios organizacijos kaip „Facebook“ ir toliau pasitiki mažomis, dažniausiai ne pelno siekiančiomis organizacijomis, tikrindamos turinį. Potencialiai klaidingi straipsniai ar vaizdo įrašai dažnai perduodami šioms grupėms be pagrindinės informacijos apie tai, kaip ir kodėl jie buvo pažymėti.

Šios pastangos nėra skirtos padėti naujienų organizacijoms patikrinti kiekvieną dieną gaunamo turinio ar potencialių klientų krūvas, kad padėtų nepakankamų išteklių turintiems žurnalistams geriau dirbti. Atvirkščiai, jie padeda kelių milijardų dolerių įmonei išlaikyti savo namų švarą post hoc būdu. „Facebook“ laikas prisiimti atsakomybę už faktų patikrinimą, o ne perduoti naujienų pranešimų tikrinimo ar demaskavimo užduotį kitoms grupėms. „Facebook“ ir kitos socialinės žiniasklaidos įmonės taip pat turi nustoti pasitikėti faktų patikrinimu po fakto, ty tik po to, kai melagingas straipsnis išplito. Šios įmonės turi sukurti tam tikrą išankstinio įspėjimo sistemą skaičiavimo propagandai.

„Facebook“, „Google“ ir kiti panašūs į juos samdo žmones, kad surastų ir pašalintų turinį, kuriame yra smurto arba teroristinių grupuočių informacijos. Tačiau jie daug mažiau uoliai stengiasi atsikratyti dezinformacijos. Dėl daugybės skirtingų kontekstų, kuriuose internete sklinda klaidinga informacija – nuo ​​rinkimų Indijoje iki didelio sporto renginio Pietų Afrikoje – dirbtinio intelekto sunku veikti savarankiškai, nesant žmogaus žinių. Tačiau ateinančiais mėnesiais ir metais prireiks daugybės žmonių visame pasaulyje, kad galėtų veiksmingai patikrinti didžiulį turinio kiekį nesuskaičiuojamomis aplinkybėmis.

Tiesiog nėra lengva išspręsti kompiuterinės propagandos socialinėje žiniasklaidoje problemą. Tačiau įmonės yra atsakingos už tai, kaip rasti būdą, kaip tai išspręsti. Kol kas „Facebook“ atrodo kur kas labiau orientuotas į viešuosius ryšius, o ne į kompiuterinės propagandos ar grafinio turinio srauto reguliavimą. Anot „The Verge“. , įmonė daugiau laiko skiria švęsdama pastangas atsikratyti tam tikrų vitriolių ar smurto gabalėlių, nei sistemingai persvarstydama savo nuosaikumo procesus.

Be faktų patikrinimo

Tai bus tam tikras žmogaus darbo ir AI derinys, kuriam galiausiai pavyks kovoti su skaičiavimo propaganda, tačiau kaip tai atsitiks, tiesiog neaišku. AI patobulintas faktų tikrinimas yra tik vienas kelias į priekį. Mašininis mokymasis ir gilus mokymasis, kartu su žmonėmis, gali kovoti su skaičiavimo propaganda, dezinformacija ir politiniu priekabiavimu keliais kitais būdais.

Jigsaw, „Google“ pagrįstas technologijų inkubatorius, kuriame dirbau vienerius metus kaip mokslinis bendradarbis, sukūrė ir sukūrė dirbtiniu intelektu pagrįstą įrankį, pavadintą „Perspektyva“, skirtą kovoti su internetiniu troliavimu ir neapykantą kurstančia kalba. Šis įrankis (kurio aš nedirbau pats) yra API, leidžianti kūrėjams automatiškai aptikti toksišką kalbą.

Tai prieštaringa, nes ne tik kyla klaidingų teigiamų pranešimų rizika – įrašų, kuriuose iš tikrųjų nėra trolinimo ar piktnaudžiavimo, žymėjimo, bet ir moderuojama kalba. Pagal Laidinis , įrankis buvo apmokytas naudojant mašininį mokymąsi, tačiau bet kuris toks įrankis taip pat mokomas naudojant žmonių, kurie turi savo šališkumą, įvestį. Taigi ar rasistinei ar neapykantą kurstai kalbai aptikti sukurta priemonė gali sugesti dėl netinkamo mokymo?

2016 m. „Facebook“ pristatė „Deeptext“ – AI įrankį, panašų į „Google“ perspektyvą. Bendrovė teigia tai padėjo ištrinti daugiau nei 60 000 neapykantą kurstančių įrašų per savaitę. Tačiau „Facebook“ pripažino, kad įrankis vis dar rėmėsi dideliu žmonių moderatorių būriu, kad iš tikrųjų atsikratytų žalingo turinio. Tuo tarpu „Twitter“ 2017 m. pabaigoje pagaliau ėmėsi veiksmų, siekdamas atidžiau uždrausti panašiai grasinančius ar smurtinius įrašus. Tačiau nors „Twitter“ pradėjo apriboti šią probleminę medžiagą ir taip pat ištrina daugybę politinių robotų paskyrų, „Twitter“ nepateikė aiškių nurodymų, kaip aptinka ir ištrina paskyras. Mano tyrimo bendradarbiai ir aš ir toliau beveik kiekvieną mėnesį „Twitter“ randame didžiulius manipuliuojančius robotų tinklus.

Už horizonto

Nenuostabu, kad toks technologas kaip Zuckerbergas pasiūlytų technologinį pataisymą, tačiau dirbtinis intelektas pats savaime nėra tobulas. Trumparegiškas technologijų lyderių dėmesys kompiuteriniams sprendimams atspindi naivumą ir aroganciją, dėl kurios „Facebook“ ir kiti vartotojai pirmiausia paliko pažeidžiamus.

Dar nėra armijos išmaniųjų AI robotų, kurie manipuliuotų viešąja nuomone per ginčijamus rinkimus. Ar bus ateityje? Galbūt. Tačiau svarbu pažymėti, kad net išmaniųjų politinių robotų armijos neveiks pačios: norint manipuliuoti ir apgauti, vis tiek reikės žmogaus priežiūros. Čia nesusiduriame su internetine „Terminatoriaus“ versija. Kompiuterių mokslo ir dirbtinio intelekto sričių šviesuoliai, įskaitant Turingo premijos laureatą Edą Feigenbaumą ir Geoffą Hintoną, gilaus mokymosi krikštatėvį, tvirtai pasisakė prieš nuogąstavimus, kad išskirtinumas – nesustabdomas išmaniųjų mašinų amžius – netrukus ateis. Amerikos dirbtinio intelekto asociacijos narių apklausoje daugiau nei 90% respondentų teigė, kad superintelektas yra už numatomo horizonto. Dauguma šių ekspertų taip pat sutiko, kad kai pasirodys itin išmanieji kompiuteriai, jie nekels grėsmės žmonijai.

Stanfordo tyrėjai, siekdami stebėti AI naujausius pasiekimus pasiūlyti kad mūsų mašinų valdovai šiuo metu vis dar negali parodyti sveiko proto ar bendro net 5-mečio intelekto. Taigi, kaip šios priemonės sugriaus žmonių valdžią arba, tarkime, išspręs nepaprastai žmogiškas socialines problemas, tokias kaip politinė poliarizacija ir kritinio mąstymo trūkumas? „Wall Street Journal“. glaustai 2017 m : Be žmonių dirbtinis intelektas vis dar yra gana kvailas.

Grady Booch, pirmaujantis dirbtinio intelekto sistemų ekspertas, taip pat skeptiškai vertina itin išmaniųjų nesąžiningų mašinų atsiradimą, tačiau dėl kitos priežasties. TED pokalbyje 2016 m , jis sakė, kad dabar nerimauti dėl superintelekto augimo daugeliu atžvilgių yra pavojingas išsiblaškymas, nes pats kompiuterijos augimas atneša mums daugybę žmogiškųjų ir visuomeninių problemų, kurias dabar turime spręsti.

Dar svarbiau, pabrėžė Boochas, kad dabartinės AI sistemos gali padaryti įvairiausių nuostabių dalykų – nuo ​​pokalbio su žmonėmis natūralia kalba iki objektų atpažinimo, tačiau dėl šių dalykų sprendžia žmonės ir jie yra užkoduoti žmogiškomis vertybėmis. Jie nėra užprogramuoti, bet mokomi, kaip elgtis.

Moksliniu požiūriu tai yra tai, ką mes vadiname pagrindine tiesa, sako Boochas, ir štai svarbus dalykas: gamindami šias mašinas mes mokome juos suvokti savo vertybes. Tuo tikslu dirbtiniu intelektu pasitikiu lygiai taip pat, jei ne daugiau, kaip gerai treniruotu žmogumi.

Boocho idėją perkelčiau dar toliau. Kad išspręstume kompiuterinės propagandos problemą, turime neatsižvelgti į žmones, kurie naudojasi įrankiais.

Taip, nuolat tobulėjančios technologijos gali automatizuoti dezinformacijos skleidimą ir trolinimą. Tai gali leisti nusikaltėliams veikti anonimiškai ir nebijant būti atrasti. Tačiau šis įrankių rinkinys, kaip politinės komunikacijos būdas, galiausiai yra orientuotas į žmogaus kontrolės tikslą. Propaganda yra žmogaus išradimas ir sena kaip visuomenė. Kaip man kartą pasakė robotikos ekspertas, neturėtume bijoti mašinų, kurios yra protingos kaip žmonės, nei žmonių, kurie nėra protingi, kaip gamina mašinas.

Ištrauka iš Samuelio Woolley knygos „Realybės žaidimas: kaip kita technologijų banga sulaužys tiesą“. Autorių teisės 2020 m. Galima įsigyti iš PublicAffairs, Hachette Book Group, Inc.

paslėpti