„YouTube“ eksperimentuoja su būdais, kaip padaryti savo algoritmą dar labiau priklausomą

Iliustracija, rodanti „YouTube“ sąsają su ASMR vaizdo įrašais Ponia Tech; Vaizdai: ekrano kopijos iš „YouTube“ | Gibi ASMR/ASMR Darling/W žurnalas/ASMR Glow

Rekomendavimo algoritmai šiandien yra viena iš galingiausių mašininio mokymosi sistemų, nes jie gali formuoti mūsų vartojamą informaciją. Ypač didelę įtaką turi „YouTube“ algoritmas. Apskaičiuota, kad platforma interneto sraute nusileis tik „Google“ ir 70 % apie tai, ką vartotojai žiūri, jiems pateikiama rekomendacijų.

Pastaraisiais metais ši įtaka buvo atidžiai stebima. Kadangi algoritmas yra optimizuotas taip, kad žmonės domėtųsi vaizdo įrašais, jis dažniausiai siūlo pasirinkimus, kurie sustiprina tai, kas kam nors jau patinka arba tiki, o tai gali sukelti priklausomybę, užkertančią kelią kitiems požiūriams. Tai taip pat dažnai apdovanojama už ekstremaliausius ir prieštaringiausius vaizdo įrašus, kurie studijos parodė, kad gali greitai įstumti žmones gilios triušio skylės turinio ir veda į politinį radikalizacija .

Nors „YouTube“ viešai teigė, kad stengiasi spręsti šias problemas, a naujas popierius „Google“, kuriai priklauso „YouTube“, pasakoja kitokią istoriją. Jame siūlomas platformos algoritmo atnaujinimas, kurio tikslas – rekomenduoti vartotojams dar tikslesnį turinį, siekiant padidinti jų įsitraukimą.

Štai kaip veikia „YouTube“ rekomendacijų sistema šiuo metu veikia . Norėdami užpildyti rekomenduojamų vaizdo įrašų šoninę juostą, ji pirmiausia sudaro kelių šimtų vaizdo įrašų sąrašą, surandant tuos, kurie atitinka temą ir kitas žiūrimo vaizdo įrašo funkcijas. Tada jis reitinguoja sąrašą pagal vartotojo nuostatas, kurias sužino, įtraukdamas visus jūsų paspaudimus, mygtukus „Patinka“ ir kitas sąveikas į mašininio mokymosi algoritmą.

Tarp siūlomų atnaujinimų mokslininkai konkrečiai nukreipia į problemą, kurią jie nustato kaip numanomą šališkumą. Tai reiškia, kaip pačios rekomendacijos gali paveikti naudotojų elgesį, todėl sunku suprasti, ar vaizdo įrašą spustelėjote dėl to, kad jis jums patiko, ar dėl to, kad jis buvo labai rekomenduojamas. Rezultatas yra tas, kad laikui bėgant sistema gali vis labiau nustumti vartotojus nuo vaizdo įrašų, kuriuos jie iš tikrųjų nori žiūrėti.

Norėdami sumažinti šį šališkumą, mokslininkai siūlo patobulinti algoritmą: kiekvieną kartą, kai vartotojas spustelėja vaizdo įrašą, jis taip pat atsižvelgia į vaizdo įrašo reitingą rekomendacijos šoninėje juostoje. Vaizdo įrašams, esantiems šalia šoninės juostos viršaus, suteikiamas mažesnis svoris, kai jie įvedami į mašininio mokymosi algoritmą; vaizdo įrašų, kuriuos vartotojas turi slinkti, suteikiama daugiau. Kai tyrėjai išbandė pakeitimus tiesiogiai „YouTube“, jie pastebėjo, kad naudotojai įsitraukė žymiai daugiau.

Nors laikraštyje nenurodoma, ar naujoji sistema bus įdiegta visam laikui, Guillaume'as Chaslotas, buvęs „YouTube“ inžinierius, dabar valdantis AlgoTransparency.org, teigė esąs gana įsitikinęs, kad tai įvyks gana greitai: jie teigė, kad tai padidina laikrodžio skaičių. laiko 0,24 proc. Jei paskaičiuosite sumą, manau, kad tai gali būti dešimtys milijonų dolerių.

Keli dokumentą peržiūrėję ekspertai teigė, kad pakeitimai gali turėti neigiamų pasekmių. Atlikdami tyrimą nustatėme, kad „YouTube“ algoritmai sukūrė izoliuotą kraštutinių dešiniųjų bendruomenę, stūmė vartotojus prie vaikų vaizdo įrašų ir skatino dezinformaciją, sakė Berkmano Kleino interneto ir visuomenės centro filialas Jonas Kaiser. Paribyje šis pokytis gali paskatinti labiau izoliuotų bendruomenių formavimąsi, nei mes jau matėme. Skaitmeninės žurnalistikos „Tow Center“ skaitmeninės kriminalistikos iniciatyvos direktorius Jonathanas Albrightas teigė, kad nors pozicijos šališkumo mažinimas yra gera pradžia sulėtinti žemos kokybės turinio grįžtamojo ryšio kilpą, teoriškai pakeitimas taip pat gali dar labiau paskatinti ekstremalų turinį.

Becca Lewis, buvusi „Data & Society“ tyrėja, tyrinėjanti internetinį ekstremizmą, teigė, kad sunku žinoti, kaip pasikeis. Ji sakė, kad tai galioja ir „YouTube“ viduje. „YouTube“ yra tiek daug skirtingų bendruomenių, skirtingų būdų, kaip žmonės naudojasi „YouTube“, skirtingų tipų turinys, todėl daugeliu atvejų pasekmės bus skirtingos. Mes tampame „YouTube“ bandomaisiais subjektais.

Pasiekęs komentarą, „YouTube“ atstovas sakė, kad jos inžinieriai ir produktų komandos nusprendė, kad dėl pakeitimų nesusidarys filtrų burbulai. Priešingai, bendrovė tikisi, kad pakeitimai juos sumažins ir apskritai paįvairins rekomendacijas.

Visi trys išorės tyrėjai, su kuriais susisiekė „MIT Technology Review“, rekomenduoja „YouTube“ skirti daugiau laiko algoritminių pakeitimų poveikiui tirti taikant tokius metodus kaip interviu, apklausos ir naudotojų įvestis. „YouTube“ tam tikru mastu tai padarė, sakė atstovas, siekdamas pašalinti ekstremalų turinį neapykantos kurstymo pavidalu savo platformoje.

Kaiseris sakė, kad „YouTube“ turėtų skirti daugiau energijos, kad suprastų, kuriems veikėjams jų algoritmai teikia pirmenybę ir kuriuos sustiprina, nei kaip išlaikyti vartotojus platformoje.

Apmaudu yra tai, kad tai nėra „YouTube“ verslo interesas, pridūrė Lewisas. Tačiau yra etinis reikalavimas.

Pataisymai: Tikėtina, kad „YouTube“ pakeitimo poveikis būtų dešimtys milijonų, o ne milijardai dolerių. Istorija taip pat buvo atnaujinta 2019 m. rugsėjo 27 d. 15.30 val. ET, kad atspindėtų „YouTube“ atsakymą.

Jei norite, kad daugiau tokių istorijų būtų pristatyta tiesiai į jūsų pašto dėžutę, užsiprenumeruokite Webby nominuotą AI informacinį biuletenį The Algorithm. Tai nemokama.

paslėpti