211service.com
Jei tik AI galėtų mus išgelbėti nuo mūsų pačių
Žmonės sugriovė internetą. Internetinės patyčios, priekabiavimas, socialinis gėdinimas ir didžiulis nemalonumas kamuoja tokias svetaines kaip Twitter ir Reddit, ypač jei pritraukiate netinkamą dėmesį. Apsvarstykite būdą Vaiduoklių medžiotojai žvaigždė Leslie Jones ir viešųjų ryšių vadovė Justine Sacco tapo masinio išnaudojimo taikiniais.
Internetines paslaugas teikiančios įmonės paprastai yra įstrigomos tarp kaltinimų abejingumu priekabiavimu ir žodžio laisvės slopinimu. Tačiau dabar „Google“ mano, kad gali panaudoti dirbtinį intelektą, kad sumažintų šią skaitmeninės bendrijos tragediją. (Atskleidimas: aš dirbau „Google“ 2000-aisiais.) Įmonės technologijų inkubatorius „Jigsaw“ (anksčiau vadintas „Google Ideas“) teigia, kad ketina aptikti ir pašalinti skaitmeninį priekabiavimą naudodamas automatinę programą, pavadintą „Conversation AI“. Kaip Jigsaw prezidentas Jaredas Cohenas, pasakojo Laidinis , Noriu panaudoti geriausias mūsų turimas technologijas, kad pradėčiau imtis trolinimo ir kitų niekšiškų taktikos, kurios suteikia priešiškiems balsams neproporcingą svorį, [ir] padaryti viską, ką galime, kad išlygintume žaidimo sąlygas.
Ši istorija buvo mūsų 2017 m. sausio mėn. numerio dalis
- Žr. likusią numerio dalį
- Prenumeruoti
„Google“ drąsiai tai imasi, ir tai skiriasi nuo kai kurių ankstesnių Jigsaw darbų. Tai apima „Project Shield“, kuris apsaugo naujienų svetaines ir svetaines, skatinančias žodžio laisvę, nuo atsisakymo teikti paslaugas atakų. Kitas Jigsaw pastangas, Password Alert, yra „Chrome“ plėtinys, apsaugantis nuo sukčiavimo atakų. Tai visų pirma buvo techniniai iššūkiai. Tačiau kova su troliais ir internetinėmis miniomis taip pat yra sociologinė problema.
Peržiūrėtas dalykas
AI pokalbis
iš Google Jigsaw
„Conversation AI“ yra vieno sėkmingiausių „Google moonshot“ projektų „Google Brain“ atšaka. Tai padėjo padaryti revoliuciją mašininio mokymosi srityje per didelio masto neuroninius tinklus ir suteikė „Google“ pranašumų, pvz., programinės įrangos, kuri atpažįsta vaizdus labiau už žmones. Tačiau „Conversation AI“ negalės nugalėti piktnaudžiavimo internete. Nors Jigsaw nurodytas tikslas yra kovoti su internetinių minių augimu , pati programa yra daug kuklesnis ir todėl labiau tikėtinas projektas. „Conversation AI“ pirmiausia supaprastins bendruomenės moderavimą, kurį šiandien atlieka žmonės. Taigi, net jei ji negali neutralizuoti blogiausio elgesio internete, kai kuriose svetainėse tai gali paskatinti daugiau ir geresnių diskursų.
Aliuzijos aptikimas
Jigsaw pradeda pokalbio AI adresu Niujorko laikas , kur jis bus pristatytas po kelių mėnesių, kad padėtų įmonei tvarkyti internetinius komentarus. Žmonių moderatoriai šiuo metu peržiūri beveik kiekvieną svetainėje paskelbtą komentarą. Šiuo metu „Conversation AI“ skaito 18 milijonų iš jų, mokydamasi aptikti kiekvieną atskirą atmetamų komentarų kategoriją – nereikšmingus, ne į temą, šlamštą, nenuoseklius, kurstančius, nepadorius, puolimą prieš komentatorių, puolimą prieš autorių, leidėją.
The Laikai Jo tikslas nebūtinai yra sumažinti piktnaudžiavimą savo komentaruose – problemą, kurią jis jau laiko kontroliuojama. Vietoj to, ji tikisi sumažinti žmonių moderatorių darbo krūvį. Niekada nesitikime, kad turėsime visiškai automatizuotą sistemą, sakė Erica Greene, inžinierių vadovė Niujorko laikas bendruomenės komanda, pasakė man. Laikai bendruomenės redaktorius Bassey Etim apskaičiavo, kad 50–80 procentų komentarų ilgainiui galėtų būti automatiškai moderuojami, todėl darbuotojai galėtų skirti savo pastangas patrauklesniam turiniui kurti. iš laikraščio komentarų skyriuose.
The Niujorko laikas svetainė kelia labai skirtingas problemas nei realiuoju laiku nemokama „Twitter“ ir „Reddit“. Ir atsižvelgiant į mašininio mokymosi apribojimus, kaip jis egzistuoja šiandien, „Conversation AI“ niekaip negali kovoti su piktnaudžiavimu plačiose interneto erdvėse. Nepaisant visų stulbinamų mašininio mokymosi laimėjimų, jis vis dar nesulaužė žmonių kalbos , kur tokie modeliai kaip „Go“ arba vaizdai yra velniškai neįmanomi.
Eriko Carterio iliustracijos
Lingvistinė piktnaudžiavimo nustatymo problema yra kontekstas. Pokalbio AI komentarų analizė nemodeliuoja viso diskusijos srauto; jis suderina atskirus komentarus su gerais ar blogais komentarų modeliais. Pavyzdžiui, komentarai apie Niujorko laikas svetainės gali būti laikomos priimtinomis, jei jose paprastai yra bendrų žodžių, frazių ir kitų funkcijų. Tačiau Greene'as teigia, kad „Google“ sistema straipsnių apie Donaldą Trumpą komentarus dažnai pažymėjo kaip įžeidžiančius, nes juose jis cituojamas žodžiais, dėl kurių komentarai būtų atmesti, jei jie būtų atėję iš skaitytojo. Dėl tokio tipo straipsnių Laikai tiesiog išjungs automatinį moderavimą.
Taigi tokioje plačiai atviroje svetainėje kaip „Twitter“ neįmanoma pamatyti, kaip gerai sekasi „Conversation AI“. Kaip būtų galima aptikti holokausto aliuzijas įžeidžiant „Twitter“ žinutės išsiųstos žydų žurnalistui Marcui Daalderiui : Tai tu, jei laimės Trumpas, su lempos gaubto nuotrauka, o tu priklausai čia su skrudintuvo orkaitės nuotrauka? Piktnaudžiavimo aptikimas remiasi istorinėmis žiniomis ir kultūriniu kontekstu, kurį mašininio mokymosi algoritmas galėtų aptikti tik tuo atveju, jei jis būtų išmokytas pagal labai panašius pavyzdžius. Net ir tada, kaip būtų galima atskirti piktnaudžiavimą ir tą patį vaizdą su „Tai ką aš perku, jei Trumpas laimės? Reikalingas semantinių ir praktinių žinių lygis viršija tai, ko šiuo metu net siekia mašininis mokymasis.
Todėl specialus „Twitter“ trolis neabejotinai suras naują būdą, kaip išreikšti piktnaudžiavimą, vengiantį tokios sistemos kaip „Conversation AI“. Užblokavus kai kuriuos komentarus, mašininis mokymasis galėtų atlikti padorų darbą, kad komentatoriai nustotų atsainiai vadinti vieni kitus kvailiais ir homonais, jei toks yra tikslas. Tačiau mašininis mokymasis negalės sužlugdyti žmogaus, kuris velniškai linkęs įteigti, kad kažkas yra keistas.
Kitaip tariant, „Conversation AI“ leis efektyviau atlikti moderavimo užduotis bendruomenėse, kurios ir taip paprastai elgiasi gana gerai. Ji nepajėgia išnaikinti blogiausio piktnaudžiavimo, apie kurį girdime, dažnai atsirandančiose svetainėse, kuriose taikomi minimalūs moderavimo standartai. Policijos piktnaudžiavimas „Twitter“. ir Reddit neįmanoma iš esmės nepakeitus tų platformų pobūdžio.
Uždarytos bendruomenės
Nustatyti piktnaudžiavimą „Twitter“ ir „Reddit“ neįmanoma iš esmės nepakeitus šių platformų pobūdžio.
„Facebook“ sėkmė primena, kad dauguma žmonių ir tikrai dauguma įmonių renkasi gana apsaugotą ir kontroliuojamą aplinką, o ne tokią, kurioje nepažįstami žmonės gali įsibrauti į kitų verslą ir pradėti muštynes. Taigi, jei „Conversation AI“ ar panašūs įrankiai palengvina ir veiksmingiau vykdyti tokią kontrolę, tai primena, kad sprendžiant piktnaudžiavimo problemą, tiek žmogiškomis, tiek automatinėmis priemonėmis, reikia atsisakyti maksimalaus įtraukimo, kaip aukščiausio idealo internete. Netgi iš pažiūros atviros bendruomenės, tokios kaip „StackExchange“ ir „MetaFilter“, reikalauja nuolatinio moderatoriaus įsikišimo ir bendruomenės priežiūros. Tikrai anarchiškos bendruomenės, tokios kaip „Twitter“, „4chan“ ir kai kurie „Reddit“ kanalai, internete yra išimtis, o ne taisyklė. Anarchinės bendruomenės taip pat nėra pinigų kūrėjos. „Twitter“ turėjo sunkumų pritraukiant pirkėją, iš dalies dėl savo reputacijos dėl įžeidžiančio turinio, o „Reddit“ turėjo didelę darbuotojų kaitą ir sunkumų užsidirbti pinigų. Šių svetainių laukinių vakarų pobūdis taps dar akivaizdesnis, jei tokie įrankiai kaip „Conversation AI“ dar labiau pagerins moderuojamų svetainių veikimą.
Verta paminėti vieną didelį potencialų minusą. Kadangi „Conversation AI“ yra mokoma patvirtinti turinį, kuris atitinka tam tikras leksines, gramatines ir stilistines gaires, jis ne tik išfiltruos įžeidžiantį turinį. Tai taip pat gali būti linkusi streikuoti įvairus turinys. Tai kelia klausimų, ką cenzūruojančios vyriausybės galėtų su tuo padaryti. Lygiai taip pat kaip Laikai kuruoja savo bendruomenes, taip pat Turkijos ir Kinijos vyriausybės gali kuruoti savo bendruomenes. Nors „Jigsaw“ pastangomis, tokiomis kaip „Project Shield“, siekiama apsaugoti politiškai jautrias svetaines, „Conversation AI“ leidžia lengviau išfiltruoti nepageidaujamą kalbą, tačiau kyla klausimas, kas jos nepageidaujama? Ant dėžutės nėra etiketės su užrašu „Naudoti tik siekiant išvengti piktnaudžiavimo“.
Davidas Auerbachas rašo knygą apie žmonių ir kompiuterių kalbas bei jų konvergenciją, kurią išleis Panteonas. Jis 11 metų dirbo programinės įrangos inžinieriumi „Google“ ir „Microsoft“, visų pirma serverių infrastruktūros srityje.