AI sąjungininkas, kovojantis su patyčiomis virtualiuose pasauliuose

Saiman Chow

Bet kurioje išgalvotoje visatoje gali būti sunku įžvelgti skirtumą tarp žaismingo priešiškumo ir nuoširdaus priekabiavimo. Skambinimas tarp draugų, kartu žaidžiančių vaizdo žaidimą, dažnai yra draugystės forma. Tačiau tarp nepažįstamų žmonių panašūs žodžiai įgauna kitokią, labiau varginančią savybę. Gebėjimas atskirti šiuos du dalykus yra labai svarbus bet kuriam vaizdo žaidimų kūrėjui, norinčiam puoselėti svetingą bendruomenę.

„Spirit AI“ tikisi padėti kūrėjams palaikyti žaidėjus ir atgrasyti nuo patyčių, naudodama piktnaudžiavimo aptikimo ir įsikišimo sistemą „Ally“. Programinė įranga stebi žaidėjų sąveiką – ką žmonės sako vieni kitiems ir kaip jie elgiasi – atlikdama žaidimo ar socialinės platformos veiksmus. Jis gali aptikti žodinį priekabiavimą ir neverbalinę provokaciją, pavyzdžiui, kai žaidėjas persekioja kito avatarą arba piktnaudžiauja pranešimo įrankiais.

Mes žiūrime į sąveikos modelius kartu su natūralios kalbos klasifikatoriais, o ne pasikliaujame atskirų raktinių žodžių sąrašu, aiškina Ruxandra Dariescu, viena iš Ally kūrėjų. Priekabiavimas yra niuansuota problema.

Kai Ally nustato potencialiai įžeidžiantį elgesį, ji patikrina, ar galimas smurtautojas ir kitas žaidėjas anksčiau bendravo. Ally skiriasi nuo esamos moderavimo programinės įrangos tuo, kad užuot tiesiog siuntusi įspėjimą žaidimo kūrėjams, ji gali nusiųsti kompiuteriu valdomą virtualų personažą, kad jis prisiregistruotų su žaidėju – tą, kuris, naudojant Spirit AI natūralios kalbos įrankius, yra gali kalbėti žaidimo tonu ir stiliumi (žr. Vaizdo žaidimų algoritmas piktnaudžiavimui internete išspręsti ).

Susijusi istorija

Skaitykite toliau Kaip „Riot Games“ psichologų ir mokslininkų komanda atskleidžia paslaptį, kaip pašalinti piktnaudžiavimą internetiniame vaizdo žaidime.

Ally botas gali pasakyti: aš pastebėjau, kad jūs ir 42 žaidėjas esate nepažįstami. Galbūt jie tau pasakė ką nors netinkamo, todėl aš tiesiog norėjau patikrinti, ar tau viskas gerai? Tada žaidėjas gali reaguoti į robotą, sako Dariescu. Jei sąveika atmetama kaip draugiškas pokštas, sistema tai užregistruoja ir atnaujina taisykles, kad ateityje nesikištų į panašų elgesį. Jei vartotojas jaučiasi skriaudžiamas, sistema įsikiša su kaltininku.

„Ally“ suderinamas su visais internetiniais žaidimais, o „Spirit AI“ dirba, kad padidintų policijos elgesio virtualiosios realybės žaidimuose galimybes (žr. „Karas prieš nerimą keliančius trolius virtualioje realybėje“). Įrankį galima sukonfigūruoti įvairiais būdais bendrauti su žaidėjais ir atlikti įvairius veiksmus. Spirit AI mato Ally kaip būdą padidinti žaidimo bendruomenės valdymo komandą, kuri gali stebėti veiklą prietaisų skydelyje.

2016 metais oficialiai susikūrusi ir šiuo metu 15 darbuotojų turinti įmonė neatskleis, su kokiais žaidimų kūrėjais šiuo metu bendradarbiauja, tačiau žaidimų pasaulyje programinė įranga sulaukė dėmesio. Paprasčiausiu lygmeniu AI palaikomi bendruomenės valdymo įrankiai gali išplėsti komandos pasiekiamumą, sako Imre Jele, daugelio internetinių žaidimų, tokių kaip RuneScape, dizaineris veteranas. Tačiau labiausiai mane džiugina AI sistemos, kurios neapsiriboja taisyklių pažeidimo atpažinimu ir nubaudimu. Galiausiai šių AI komandos narių tikslas turėtų būti išeiti iš policijos ir formuoti teigiamą sąveiką bei kurti sveikesnes bendruomenes.

Susijusi istorija

Skaitykite toliau Kai jaučiate, kad tikrai esate virtualiame kūne, svarbu apsaugoti savo asmeninę erdvę.

„Spirit“ neabejotinai siekia, kad programinė įranga pasiūlytų ne tik skaitmenines policijos pajėgas, kurias būtų galima iškviesti į internetinius žaidimus. Mes nustatėme, kad ši technologija gali ne tik užkirsti kelią blogam elgesiui, bet ir skatinti gerą, prosocialų elgesį, sako Dariescu. Programinė įranga taip pat galėtų naudoti aplinkos pasiklausymą, kad nustatytų platesnes problemas, su kuriomis žaidėjai gali kilti dėl žaidimo dizaino, ir suteikdama kūrėjui įžvalgų, kaip būtų galima pagerinti bendrą žaidėjo patirtį.

Tačiau, pasak Jele, yra apribojimų, kai kalbama apie AI intervenciją priekabiavimo atvejais. Daugeliui bendruomenės vadovybės ir žaidėjų palaikymo komandų bendravimo reikia gilios empatijos ir užuojautos, sako jis: žaidėjai palaikė kūrėjus savo pinigais ir nusipelno geriausios įmanomos priežiūros, kurią šiuo metu gali suteikti tik žmonės.

paslėpti