Kaip „Facebook“ naudoja mašininį mokymąsi, kad aptiktų netikras paskyras

Suklastota Facebook paskyra Ponia Tech

2019 m. „Facebook“ vidutiniškai sumažėjo beveik 2 mlrd netikrų sąskaitų per ketvirtį. Sukčiai naudoja šias netikras paskyras šlamštui, sukčiavimo nuorodoms ar kenkėjiškoms programoms platinti. Tai pelningas verslas, kuris gali būti pražūtingas bet kokiems nekaltam vartotojui, kurį įvilioja į pinkles.

„Facebook“ dabar skelbia išsamią informaciją apie mašininio mokymosi sistemą, kurią ji naudoja šiam iššūkiui spręsti. Technologijų milžinas išskiria dviejų tipų netikras paskyras. Pirmiausia yra naudotojų klaidingai klasifikuotos paskyros, asmeniniai įmonių ar augintinių profiliai, kurie turi būti puslapiai. Su jais susidoroti gana paprasta – jie tiesiog konvertuojami į puslapius. Kita vertus, sąskaitų pažeidimai yra rimtesni. Tai yra asmeniniai profiliai, kurie užsiima sukčiavimu ir šiukšlių siuntimu arba kitaip pažeidžia platformos paslaugų teikimo sąlygas. Pažeidžiančias paskyras reikia kuo greičiau pašalinti, neužmetant per plataus tinklo ir neužtraukiant tikrų paskyrų.

Norėdami tai padaryti, „Facebook“ naudoja rankomis užkoduotas taisykles ir mašininį mokymąsi, kad blokuotų netikrą paskyrą prieš ją sukuriant arba prieš jai suaktyvinant. Kitaip tariant, prieš tai gali pakenkti tikriems vartotojams. Paskutinis etapas yra po to, kai suklastota paskyra pradeda veikti tiesiogiai. Tai yra tada, kai aptikimas tampa daug sudėtingesnis ir atsiranda naujoji mašininio mokymosi sistema, žinoma kaip giliųjų subjektų klasifikacija (DEC).

Einant gilyn

DEC išmoksta atskirti netikrus ir tikrus vartotojus pagal jų ryšio modelius tinkle. Tai vadinama giliomis savybėmis ir apima tokius dalykus kaip vartotojo draugų vidutinis amžius ar lytis. „Facebook“ naudoja daugiau nei 20 000 išsamių funkcijų, kad apibūdintų kiekvieną paskyrą, pateikdama kiekvieno profilio veikimo momentinę nuotrauką, kad užpuolikams būtų sunku žaisti su sistema keičiant taktiką.

Sistema pradedama naudoti daugybe mažo tikslumo mašinoje sukurtų etikečių. Jie sukuriami naudojant taisykles ir kitus mašininio mokymosi modelius, kurie įvertina, ar vartotojai yra tikri, ar netikri. Kai šie duomenys naudojami neuroniniam tinklui lavinti, modelis yra tiksliai suderinamas naudojant nedidelę didelio tikslumo ranka pažymėtų duomenų partiją, kurią generuoja žmonės visame pasaulyje, kurie supranta vietines kultūros normas.

Galutinė klasifikavimo sistema gali nustatyti vieną iš keturių netikrų profilių tipų: neteisėtos paskyros, neatspindinčios asmens, sugadintos tikrų vartotojų paskyros, kurias perėmė užpuolikai, šiukšlių siuntėjai, kurie nuolat siunčia pajamas generuojančius pranešimus, ir sukčiai, kurie manipuliuoja naudotojais asmeninės informacijos atskleidimas. „Facebook“ teigia, kad nuo DEC įdiegimo platformoje suklastotų paskyrų skaičius siekė apie 5% aktyvių vartotojų per mėnesį.

Išsami informacija apie „Facebook“ valymo pastangas pateikiama susirūpinus dėl manipuliacijų artėjančiuose JAV prezidento rinkimuose, ypač dėl gilių klastočių. Gruodžio mėnesį „New York Times“. pranešė koordinuota dezinformacijos kampanija, naudojant gilius klastojimus, siekiant masiškai sukurti netikras paskyras su įtikinančiomis profilio nuotraukomis.

Rinkimų apsauga

„Facebook“ komanda teigė, kad jo išleidimo laikas buvo tik atsitiktinumas. Tai tik apie pažeidimų pastebėjimą apskritai; ji nėra specialiai skirta jokioms rinkimų temoms, sako Danielis Bernhardtas, Facebook bendruomenės vientisumo komandos inžinierius. Tačiau DEC papildytų kitas platformos pastangas apriboti rinkimų klastojimą. Kadangi sistema remiasi giliomis funkcijomis, kad suskirstytų kiekvieną profilį į kategorijas, ji bus atspari, pavyzdžiui, suklaidinus netikrus profilio vaizdus.

Avivas Ovadya, įkūręs ne pelno siekiančią Thoughtful Technology Project ir studijavęs platformos dizainą bei valdymą, teigia, kad „Facebook“ pastangos būti skaidresnės valymo procedūrose yra pagirtinos. Jis sako, kad gali būti tikrai naudinga ir galinga atidžiai kalbėti apie architektūrinius sprendimus ir apsaugos sistemų veikimo būdus, kuriuos gali imituoti kitos įmonės. Kadangi tokios įmonės kaip Facebook turi daug daugiau išteklių investuoti nei mažesnės įmonės, naudinga dalytis žiniomis.

Tačiau valymo pastangos taip pat turi nueiti ilgą kelią. Su 2,5 milijardo aktyvių vartotojų per mėnesį, 5% vis dar yra 125 milijonai netikrų paskyrų. Mašininis mokymasis taip pat tęsis tik iki šiol: nesvarbu, kiek duomenų modelis yra apmokytas, jis niekada nepriekaištingai neužfiksuos kiekvienos blogos paskyros. Tikėtina, kad platforma turės patobulinti kitus žmonių ir mašinų derinius.

Atnaujinimas: Ankstesnėje šio straipsnio versijoje buvo nurodyti pasenę skaičiai apie „Facebook“ DEC sistemos poveikį. Jie buvo atnaujinti, kad atspindėtų naujausią informaciją.

paslėpti