„Instagram“ naudoja dirbtinį intelektą, kad neleistų žmonėms skelbti įžeidžiančių komentarų

Kategorija: Dirbtinis intelektas Paskelbta liepos 09 d

Socialinės žiniasklaidos platforma pažymės galimai įžeidžiančius komentarus prieš juos paskelbiant ir paprašys plakato persvarstyti.

Kontekstas: Piktnaudžiavimas internetu visada buvo sudėtinga problema dėl savo masto ir niuansų. Tai, kas verta cenzūros, yra a amžina diskusija : per daug filtruojama ir tai pažeidžia saviraišką; filtruoja per mažai ir sukuria priešišką aplinką. Prie to pridėjus skirtingų kalbų, kultūrų ir normų sudėtingumą, iššūkis taps tikrai nelengvas.

Dirbtinis neintelektas: Štai kodėl socialinės žiniasklaidos platformos, tokios kaip „Facebook“, pasinaudojo dirbtiniu intelektu, kad padėtų rūšiuoti daugybę pranešimų ir komentarų. Tačiau AI visada buvo ypač sunku išanalizuoti kalbą – tokie paprasti dalykai, kaip dviprasmiškumas, sarkazmas ar net rašybos klaidos, gali suklaidinti sistemą ir suklaidinti savo prasmę. Norėdami tai padaryti, „Facebook“ įdarbina tūkstančiai turinio moderatorių paspartinti, kai jo algoritmai nesugeba priimti galutinio sprendimo. Tačiau tyrimai parodė, kad šie darbai dažnai būna žiaurūs ir alinantys.

Instagram sprendimas: „Facebook“ priklausanti „Instagram“ dabar išbando naują požiūrį. Užuot pasikliauję tik savo algoritmais cenzūruodami įžeidžiančią medžiagą, ji taip pat remsis vartotojų savicenzūra. Skelbiant komentarą, jei platformos AI modelis pažymės jį kaip žalingą, plakatas pamatys iššokantįjį langą, kuriame bus klausiama Ar tikrai norite tai paskelbti?

Ankstyvųjų bandymų metu „Instagram“ nustatė, kad ši funkcija paskatino daugelį žmonių atšaukti savo komentarus, rašoma vakar. tinklaraščio įrašo skelbimas . Protinga taktika bandyti sumažinti žmogaus turinio moderavimo naštą per daug neribojant.

Treniruočių duomenys: Tai ne pirmas kartas, kai „Instagram“ naudoja dirbtinį intelektą kalbai išvalyti. 2017 m. birželio mėn paleistas įžeidžiančių komentarų filtras, naudojant mašininį mokymąsi, kad paslėptų akivaizdžiausią piktnaudžiavimą. Nuo to laiko platforma toliau tobulino savo mašininio mokymosi modelį, greičiausiai naudodama milijonus duomenų taškų, kuriuos naudotojai sugeneravo, kai praeityje pranešė apie komentarus. Naujausia funkcija taip pat prašo vartotojų pranešti „Instagram“, jei jis per klaidą pažymėjo jų komentarą kaip įžeidžiantį – tai dar viena grįžtamojo ryšio kilpa, galinti generuoti daugiau naudingų treniruočių duomenų.

Jei norite, kad daugiau tokių istorijų būtų pristatyta tiesiai į jūsų pašto dėžutę, užsiprenumeruokite Webby nominuotą AI informacinį biuletenį The Algorithm. Tai nemokama.