Taip Facebook AI ieško blogų dalykų

Kategorija: Dirbtinis intelektas Paskelbta Lapkričio 29 d

Kontekstas: Didžiąją dalį „Facebook“ moderavimo dabar atlieka automatiškai įmonės mašininio mokymosi sistemos, todėl jos moderatoriai turi peržiūrėti siaubingo turinio kiekį. Savo naujausiame Bendrijos standartų vykdymo ataskaita , paskelbtame anksčiau šį mėnesį, bendrovė teigė, kad 98% teroristinių vaizdo įrašų ir nuotraukų pašalinami anksčiau nei kas nors turi galimybę juos pamatyti, jau nekalbant apie pranešimus.

Taigi, ką mes čia matome? Bendrovė moko savo mašininio mokymosi sistemas, kad galėtų atpažinti ir pažymėti vaizdo įrašuose esančius objektus – nuo ​​kasdienių, pavyzdžiui, vazų ar žmonių, iki pavojingų, tokių kaip ginklai ar peiliai. „Facebook“ AI naudoja du pagrindinius pavojingo turinio paieškos būdus. Vienas iš jų yra naudoti neuroninius tinklus, kurie ieško žinomų objektų ypatybių ir elgsenos bei pažymi juos skirtingais pasitikėjimo procentais (kaip matome aukščiau esančiame vaizdo įraše).

Vyksta treniruotė: Šie neuroniniai tinklai yra apmokyti naudojant iš anksto pažymėtus vaizdo įrašus iš žmonių peržiūros, vartotojų ataskaitų ir netrukus iš Londono Metropoliteno policijos filmuotų vaizdo įrašų. Neuroniniai tinklai gali naudoti šią informaciją, kad atspėtų, kas gali būti rodoma visoje scenoje ir ar joje yra kokių nors veiksmų ar vaizdų, kuriuos reikėtų pažymėti. Šią savaitę spaudos konferencijoje ji pateikė daugiau informacijos apie tai, kaip jos sistemos veikia.

Kas tada? Jei sistema nusprendžia, kad vaizdo faile yra probleminių vaizdų ar elgesio, ji gali jį automatiškai pašalinti arba nusiųsti žmogaus turinio tikrintojui. Jei jis pažeidžia taisykles, „Facebook“ gali sukurti maišą – unikalią skaičių eilutę – jai pažymėti ir išplatinti ją visoje sistemoje, kad kitas atitinkantis turinys būtų automatiškai ištrintas, jei kas nors bandytų jį iš naujo įkelti. Šios maišos gali būti bendrinamos su kitomis socialinės žiniasklaidos įmonėmis, kad jos taip pat galėtų pašalinti pažeidžiančio failo kopijas.

Šie [Metropolitan Police] vaizdo įrašai mums yra nepaprastai naudingi. Laimei, teroristiniai įvykiai yra reti, tačiau tai reiškia, kad mokymo duomenų kiekis yra toks mažas, per skambutį sakė inžinierių vadovė Nicola Bortignon.

Viena silpnoji vieta: „Facebook“ vis dar stengiasi automatizuoti kalbos prasmės, niuansų ir konteksto supratimą. Štai kodėl bendrovė pasitiki žmonėmis, kurie praneša apie didžiąją dalį patyčių ir priekabiavimo įrašų, kurie pažeidžia jos taisykles: tik 16 % šių pranešimų atpažįsta jos automatizuotos sistemos. Tobulėjant technologijoms, galime tikėtis, kad šis skaičius padidės. Tačiau vienas didžiausių šios srities iššūkių tebėra priversti dirbtinį intelektą, kad jis tikrai suprastų kalbą.

Didesnis paveikslas: Kovo mėnesį teroristas nužudė 49 žmones dviejose mečetėse Kraistčerče, Naujojoje Zelandijoje. Jis tiesiogiai transliavo žudynes „Facebook“, o po to kelis mėnesius svetainėje sklido jų vaizdo įrašai. Tai buvo pažadinimo skambutis pramonei. Jei tai pasikartotų dabar, yra didesnė tikimybė, kad jis bus sugautas ir pašalintas greičiau.