211service.com
„Facebook“ ką tik išleido 100 000 padirbinėjimo duomenų bazę, kad išmokytų dirbtinį intelektą, kaip juos pastebėti
Deepfakes sujaudino visuomenę ir tyrėjus. Šiuose dirbtinio intelekto sukurtuose vaizduose, kuriuose žmonės sako ar daro tai, ko jie nepadarė, yra kažkas nepakartojamo nerimo.
Su įrankiai giliems klastotėms gaminti dabar plačiai prieinami ir gana paprasta naudoti, daugelis taip pat nerimauja, kad jie bus naudojami pavojingai dezinformacijai skleisti. Pavyzdžiui, politikai gali įsidėti kitų žmonių žodžius arba priversti dalyvauti situacijose, kuriose jie nedalyvavo.
Tai bent jau baimė. Žmogaus akiai tiesa ta, kad gilius klastotes vis dar gana lengva pastebėti. Ir pagal kibernetinio saugumo įmonės „DeepTrace Labs“ ataskaita 2019 m. spalį, vis dar išsamiausi iki šiol, jie nebuvo naudojami jokioje dezinformacijos kampanijoje. Tačiau toje pačioje ataskaitoje taip pat nustatyta, kad internete paskelbtų gilių klastočių skaičius sparčiai augo – per pastaruosius septynis mėnesius jų buvo pasirodžiusi apie 15 000. Dabar šis skaičius bus daug didesnis.
Socialinės žiniasklaidos įmonės nerimauja, kad gilios klastotės netrukus gali užtvindyti jų svetaines. Tačiau juos automatiškai aptikti sunku. Siekdama išspręsti šią problemą, „Facebook“ nori naudoti AI, kad padėtų kovoti su dirbtinio intelekto sukurtais klastotėmis. Siekdama išmokyti dirbtinio intelekto aptikti manipuliuojamus vaizdo įrašus, ji išleidžia didžiausią visų laikų gilių padirbinėjimo duomenų rinkinį – daugiau nei 100 000 klipų, sukurtų naudojant 3 426 aktorius ir daugybę esamų veidų keitimo metodų.
Deepfake šiuo metu nėra didelė problema, sako Facebook CTO Mike'as Schroepferis. Tačiau pamoka, kurią per pastaruosius kelerius metus išmokau sunkiai, – nebūti pagautai plokščiapėdėmis. Noriu būti tikrai pasiruošęs daugybei blogų dalykų, kurie niekada neįvyksta, o ne atvirkščiai.
„Facebook“ taip pat paskelbė savo nugalėtoją Deepfake Detection Challenge , kuriame 2 114 dalyvių pateikė apie 35 000 modelių, apmokytų pagal duomenų rinkinį. Geriausias modelis, sukurtas Selimo Seferbekovo, kartografavimo įmonės „Mapbox“ mašininio mokymosi inžinieriaus, 65 % tikslumu sugebėjo nustatyti, ar vaizdo įrašas yra netikras klastotė, kai buvo išbandytas su 10 000 anksčiau nematytų klipų rinkiniu, įskaitant naujų vaizdo įrašų derinį. sukurta Facebook ir esamų, paimtų iš interneto.
Kad būtų sunkiau, į mokymo rinkinį ir bandymų rinkinį įtraukiami vaizdo įrašai, kuriuos aptikimo sistema gali suklaidinti, pvz., žmonės, vedantys makiažo pamokas, ir vaizdo įrašai, kurie buvo pakoreguoti įklijuojant tekstą ir figūras ant garsiakalbių veidų, keičiant skiriamąją gebą arba orientuotis ir juos sulėtinti.
Užuot mokęsi kriminalistikos metodų, pavyzdžiui, ieškant skaitmeninių pirštų atspaudų vaizdo įrašo pikseliuose, paliktuose giliųjų klastotės generavimo procese, penki geriausi įrašai išmoko pastebėti, kai kažkas atrodo ne taip, kaip gali padaryti žmogus.
Norėdami tai padaryti, visi nugalėtojai naudojo naujo tipo konvoliucinį neuronų tinklą (CNN), kurį praėjusiais metais sukūrė „Google“ mokslininkai, pavadintą „EfficientNets“. CNN dažniausiai naudojami vaizdams analizuoti ir gerai aptinka veidus arba atpažįsta objektus. Tačiau norint pagerinti jų tikslumą po tam tikro taško, gali prireikti ad hoc patikslinimo. „EfficientNets“ suteikia struktūriškesnį derinimo būdą, todėl lengviau kurti tikslesnius modelius. Tačiau neaišku, kas tiksliai verčia juos atlikti šią užduotį viršija kitus neuroninius tinklus, sako Seferbekovas.
„Facebook“ savo svetainėje neplanuoja naudoti nė vieno iš laimėjusių modelių. Viena vertus, 65 % tikslumas dar nėra pakankamai geras, kad būtų naudingas. Kai kurie modeliai pasiekė daugiau nei 80 % treniruočių duomenų tikslumą, tačiau jis sumažėjo, kai buvo priešais nematytus klipus. Seferbekovas sako, kad sunkiausia iššūkio dalis yra apibendrinti naujus vaizdo įrašus, kuriuose gali būti skirtingų veidų, pakeistų skirtingais būdais.
Jis mano, kad vienas iš būdų pagerinti aptikimą būtų sutelkti dėmesį į perėjimus tarp vaizdo kadrų ir juos sekti laikui bėgant. Net labai aukštos kokybės giliai padirbinėjamos nuotraukos turi šiek tiek mirgėjimo tarp kadrų, sako Seferbekovas. Žmonės gerai pastebi šiuos neatitikimus, ypač veidų filmuotoje medžiagoje. Tačiau norint automatiškai užfiksuoti šiuos signalinius defektus, reikės didesnių ir įvairesnių treniruočių duomenų ir daug daugiau skaičiavimo galios. Seferbekovas bandė sekti šiuos kadrų perėjimus, bet negalėjo. CPU čia buvo tikra kliūtis, sako jis.
„Facebook“ teigia, kad giliųjų klastotės aptikimą taip pat galima pagerinti naudojant metodus, kurie neapsiriboja paties vaizdo ar vaizdo įrašo analize, pavyzdžiui, įvertinant jo kontekstą ar kilmę.
Samas Gregory, vadovaujantis projektui „Witness“, remiančiam žmogaus teisių aktyvistus naudojant vaizdo technologijas, sveikina socialinės žiniasklaidos platformų investicijas į giliųjų klastotės aptikimą. „Witness“ yra „Partnership on AI“ narys, kuris konsultavo „Facebook“ dėl savo duomenų rinkinio. Gregory sutinka su Schroepfer, kad verta ruoštis blogiausiam. Mes nesame turėję gilių netikrų apokalipsų, e, bet šios priemonės yra labai bjaurus smurto dėl lyties ir dezinformacijos priedas, sako jis. Pavyzdžiui, „DeepTrace Labs“ ataskaitoje nustatyta, kad 96 proc buvo nesąmoninga pornografija, kur kitų žmonių veidai užklijuojami virš atlikėjų pornografiniuose klipuose.
Kai milijonai žmonių gali kurti ir bendrinti vaizdo įrašus, pasitikėti tuo, ką matome, yra svarbiau nei bet kada anksčiau. Netikros naujienos per „Facebook“ plinta kaip ant mielių, o vien tik gilių klastočių galimybė sėja abejones, verčia mus labiau tikėtina, kad suabejotų tikra filmuota medžiaga taip pat netikras.
Be to, automatinis aptikimas netrukus gali būti vienintelė mūsų galimybė. Ateityje pamatysime giliųjų klastotes, kurių žmonės negalės atskirti, sako Seferbekovas.