211service.com
Vaizdo žaidimų algoritmas piktnaudžiavimui internete išspręsti
Kaip ir daugelis internetinių erdvių, „League of Legends“, plačiausiai žaidžiamas internetinis vaizdo žaidimas šiandien pasaulyje, yra užgaulios kalbos ir elgesio dirva. Dėl anonimiškumo skatinamas ir įkaitusioje komandinio sporto šakoje šis elgesys buvo tokia problema jo kūrėjui „Riot Games“, kad bendrovė dabar samdo specialią mokslininkų ir dizainerių komandą, kuri ieško būdų, kaip pagerinti žaidimo sąveiką. žaidėjai.
Per pastaruosius kelerius metus komanda eksperimentavo su daugybe sistemų ir metodų, paremtų mašininiu mokymusi, skirtų stebėti žaidėjų bendravimą, bausti už neigiamą elgesį ir apdovanoti teigiamą elgesį. Rezultatai buvo stulbinantys, sako Jeffrey Lin, pagrindinis „Riot Games“ socialinių sistemų dizaineris. Programinė įranga stebėjo kelis milijonus įtariamo piktnaudžiavimo atvejų. Devyniasdešimt du procentai žaidėjų, kurie buvo sugauti vartodami įžeidžiančią kalbą prieš kitus, dar kartą nenusižengė. Linas, kuris yra pažinimo neurologas, mano, kad komandos metodai gali būti taikomi ne vaizdo žaidimų kontekste. Jis mano, kad Riot galėjo sukurti priešnuodį internetiniam toksiškumui, nepaisant to, kur jis atsiranda.
Projektas prasidėjo prieš kelerius metus, kai komanda pristatė valdymo sistemą, pavadintą pagal žaidimo fantazijos temą Tribunolu. Žaidimas nustatytų galimus įžeidžiančios kalbos atvejus ir sukurtų sąveikos bylos bylą. Tada šie failai buvo pateikti žaidimo žaidėjų bendruomenei (apytikriai 67 milijonai unikalių vartotojų), kurie buvo pakviesti peržiūrėti žaidimo pokalbių žurnalus ir balsuoti, ar toks elgesys jiems priimtinas. Apskritai sistema buvo labai tiksli, sako Linas. Iš tiesų, 98 procentai bendruomenės nuosprendžių sutapo su „Riot“ vidinės komandos sprendimais.
Keli milijonai bylų buvo išnagrinėti taip daug darbo reikalaujančiu būdu. Netrukus Linas ir komanda pradėjo pastebėti toksiškų žaidėjų vartojamų kalbų modelius. Kad padėtų optimizuoti procesą, jie nusprendė duomenims pritaikyti mašininio mokymosi metodus. Paaiškėjo, kad itin sėkmingai suskirstyti neigiamą ir teigiamą kalbą 15 oficialių kalbų, kurias palaiko lyga, sako Linas.
Naujoji sistemos versija, kurią dabar valdo technologijos, o ne kiti žaidėjai, leido efektyviau teikti grįžtamąjį ryšį ir nustatyti toksiško elgesio žaidime pasekmes. Dabar jis gali pateikti atsiliepimus žaidėjams per penkias minutes, o anksčiau tai užtrukdavo iki savaitės.
Linas sako, kad sistema labai pagerino tai, ką bendrovė vadina reformų tempais. Žaidėjas, anksčiau gavęs nuobaudą, pvz., nušalinimą nuo reitinguotų rungtynių, laikomas pasikeitusiu, jei jis tam tikrą laiką vengia vėlesnių baudų. Kai prie bausmių įtraukėme geresnių atsiliepimų ir įtraukėme įrodymų, pvz., pokalbių žurnalus apie bausmę, reformų rodikliai šoktelėjo nuo 50 procentų iki 65 procentų, sako jis. Tačiau kai mašininio mokymosi sistema pradėjo teikti daug greitesnį grįžtamąjį ryšį su įrodymais, reformų rodikliai išaugo iki visų laikų rekordinio lygio – 92 proc.
Vienas iš iššūkių, su kuriuo susiduria sistema, yra konteksto atpažinimas. Kaip ir bet kuriame komandiniame sporte, žaidėjai dažnai užmezga bičiulystę žaisdami ar sarkazmuodami, kurie kitame kontekste gali būti laikomi nemandagiais ar agresyviais. Mašina paprastai nesugeba pagauti sarkazmo. Tiesą sakant, tai bene didžiausia kliūtis kovojant su piktnaudžiavimu internetu naudojant mašininį mokymąsi. Gana teisinga sakyti, kad kalbą suprantančios AI veikia geriausiai, kai norint apskaičiuoti teisingą atsakymą reikia minimalios kontekstinės informacijos, aiškina Chrisas Dyeris, Carnegie Mellon universiteto docentas, dirbantis natūralios kalbos apdorojimo srityje. Problemas, kurioms reikia integruoti daug informacijos iš konteksto, kuriame sakoma, yra daug sunkiau išspręsti, o sarkazmas labai priklauso nuo konteksto.
Šiuo metu Linas ir jo komanda bando išspręsti problemą papildomais patikrinimais ir balansais. Net tada, kai sistema nustato, kad žaidėjas elgėsi toksiškai, kitos sistemos yra tikrinamos, siekiant sustiprinti arba vetuoti nuosprendį. Pavyzdžiui, ji bandys patvirtinti kiekvieną žaidėjo pateiktą ataskaitą, kad nustatytų jo istorinės ataskaitos tikslumą. Kadangi kelios sistemos veikia kartu, kad padarytų pasekmes žaidėjams, šiuo metu matome sveiką 1 iš 5000 klaidingai teigiamų rezultatų, sako Linas.
Siekdama iš tikrųjų pažaboti piktnaudžiavimą, „Riot“ sukūrė bausmes ir atgrasymo priemones, kad įtikintų žaidėjus pakeisti savo elgesį. Pavyzdžiui, tai gali apriboti žaidėjų, kurie elgiasi įžeidžiamai, pokalbių išteklius arba reikalauti, kad žaidėjai be incidentų užbaigtų nereitinguotus žaidimus, kad galėtų žaisti aukščiausio reitingo žaidimus. Bendrovė taip pat apdovanoja pagarbius žaidėjus teigiamu pastiprinimu.
Linas tvirtai tiki, kad pamokos, kurias jis ir jo komanda išmoko iš savo darbo, turi platesnę reikšmę. Viena iš svarbiausių tyrimo įžvalgų yra ta, kad toksiškas elgesys nebūtinai kyla iš baisių žmonių; Tai kyla dėl paprastų žmonių, kuriems bloga diena, sako Justinas Reichas, mokslininkas iš Harvardo Berkmano centro, tyrinėjantis Riot darbą. Tai reiškia, kad mūsų strategijos, skirtos kovoti su toksišku elgesiu internete, negali būti skirtos tik užkietėjusiems troliams; jie turi atsižvelgti į mūsų kolektyvinį žmogiškąjį polinkį leisti blogiausiam iš mūsų išryškėti po interneto anonimiškumu.
Nepaisant to, Reichas mano, kad Lino darbas rodo, kad toksiškas elgesys nėra žiniatinklio įtaisas, o problema, kurią galima išspręsti derinant inžineriją, eksperimentavimą ir bendruomenės įsitraukimą. Iššūkius, su kuriais susiduriame „League of Legends“, galima pamatyti bet kuriame internetiniame žaidime, platformoje, bendruomenėje ar forume, todėl manome, kad esame kertiniame internetinių bendruomenių ir visuomenių laiko taške, sako Linas. Dėl šios priežasties mes buvome labai atviri dalindamiesi savo duomenimis ir geriausia praktika su platesne pramonės šaka ir tikimės, kad kitos studijos ir įmonės pažvelgs į šiuos rezultatus ir supras, kad toksiškumas internete nėra neįmanoma problema.