Gynybos departamentas pagamino pirmuosius giliųjų klastotės gaudymo įrankius

SAULĖTAS SAULĖTAS

Pirmieji kriminalistikos įrankiai, skirti gaudyti keršto pornografiją ir netikras naujienas, sukurtas naudojant AI, buvo sukurtos pagal JAV gynybos departamento vykdomą programą.

Teismo medicinos ekspertai suskubo ieškoti būdų, kaip aptikti vaizdo įrašus, sintezuotus ir manipuliuojamus naudojant mašininį mokymąsi, nes ši technologija leidžia daug lengviau sukurti įtikinamus netikrus vaizdo įrašus, kurie galėtų būti naudojami dezinformacijai sėti ar priekabiauti prie žmonių.

Labiausiai paplitęs netikrų vaizdo įrašų kūrimo būdas yra mašininio mokymosi naudojimas, norint pakeisti vieno asmens veidą į kito. Gautus vaizdo įrašus, vadinamus giliomis klastotėmis, sukurti paprasta ir taip gali būti stebėtinai tikroviška . Dėl tolesnių patobulinimų, kuriuos atliko kvalifikuotas vaizdo įrašų redaktorius, jie gali atrodyti dar tikresnis .

Vaizdo įrašų apgaulė apima mašininio mokymosi metodą, žinomą kaip generatyvinis modeliavimas, kuris leidžia kompiuteriui mokytis iš tikrų duomenų prieš pateikiant netikrus pavyzdžius, kurie yra statistiškai panašūs. Neseniai pasikeitė du neuroniniai tinklai, žinomi kaip generaciniai priešingi tinklai, kurie kartu sukuria įtikinamesnius padirbinius (žr. GANfather: Žmogus, kuris mašinoms suteikė vaizduotės dovaną).

Įrankiai giliųjų klastotėms gaudyti buvo sukurti per programą, kurią vykdo JAV gynybos pažangių tyrimų projektų agentūra (DARPA), vadinama Žiniasklaidos kriminalistika . Programa buvo sukurta siekiant automatizuoti esamus kriminalistikos įrankius, tačiau pastaruoju metu ji atkreipė dėmesį į AI sukurtą klastojimą.

„Dabartiniuose GAN valdomuose vaizduose ir vaizdo įrašuose aptikome subtilių ženklų, leidžiančių aptikti pakitimų buvimą“, – sako Matthew Turek, vadovaujantis „Media Forensics“ programai.

Tuckeris Carlsonas perdaro savo Nicolas Cage'ą. Universitetas Olbanyje, SUNY

Vieną nepaprastai paprastą techniką sukūrė komanda, vadovaujama Siwei Liu , Niujorko valstijos universiteto Olbanyje profesorius ir vienas iš jo mokinių. Sukūrėme apie 50 netikrų vaizdo įrašų ir išbandėme daugybę tradicinių teismo ekspertizės metodų. Jie dirbo ir išjungę, bet ne itin gerai, sako Lyu.

Tada vieną popietę, studijuodamas keletą gilių padirbinėjimo būdų, Liu suprato, kad veidai, sukurti naudojant gilius padirbinius, mirksi retai, jei iš viso. Ir kai jie mirksi, akių judesiai yra nenatūralūs. Taip yra todėl, kad gilios klastotės yra treniruojamos nejudančių vaizdų, kuriuose žmogus paprastai rodomas atmerktomis akimis.

Kiti, dalyvaujantys DARPA iššūkyje, tiria panašias gudrybes, kaip automatiškai pagauti gilius padirbinius: keistus galvos judesius, keistą akių spalvą ir pan. Mes stengiamės išnaudoti tokius fiziologinius signalus, kuriuos bent jau kol kas sunku imituoti gilioms klastotėms, sakoma. Hany Faridas , pirmaujantis skaitmeninės kriminalistikos ekspertas Dartmuto koledže.

DARPA Turek teigia, kad agentūra rengs daugiau konkursų, siekdama užtikrinti, kad kuriamos technologijos galėtų aptikti naujausius metodus.

Šių teismo ekspertizės įrankių atsiradimas gali tiesiog reikšti AI varomų ginklavimosi varžybų tarp vaizdo įrašų klastotojų ir skaitmeninių žvalgų pradžią. Faridas teigia, kad pagrindinė problema yra ta, kad mašininio mokymosi sistemas galima išmokyti aplenkti kriminalistikos įrankius.

Lyu sako, kad įgudęs klastotojas galėtų apeiti savo akių mirksėjimo įrankį tiesiog rinkdamas vaizdus, ​​​​kuriuose matomas mirksintis asmuo. Tačiau jis priduria, kad jo komanda sukūrė dar efektyvesnę techniką, tačiau sako, kad kol kas tai laiko paslaptyje. Verčiau bent trumpam palaukti, sako Lyu. Šiuo metu turime nedidelį pranašumą prieš padirbėjus ir norime tą pranašumą išlaikyti.

paslėpti