Suklastotos programos gali pastebėti net vieną pikselį ne vietoje

„Serelay“ sutikimu





Nuotraukų ir vaizdo įrašų klastojimas reikalavo daug darbo. Arba naudojote CGI, kad sukurtumėte fotorealistinius vaizdus nuo nulio (ir sudėtinga, ir brangu), arba jums reikėjo šiek tiek įvaldyti „Photoshop“ ir daug laiko, kad įtikinamai pakeistumėte esamas nuotraukas.

Dabar, kai atsirado dirbtinio intelekto sukurti vaizdai, kiekvienas galėjo lengviau pakoreguoti vaizdą ar vaizdo įrašą, kad gautų klaidinančiai tikroviškus rezultatus. Anksčiau šiais metais, MIT technologijų apžvalga vyresnysis dirbtinio intelekto redaktorius Willas Knightas naudojo jau paruoštą programinę įrangą, kad sukurtų savo netikrą JAV senatoriaus Tedo Cruzo vaizdo įrašą. Vaizdo įrašas šiek tiek trikdo, bet tai truks neilgai.

Ta pati technologija kuria vis daugiau filmuotos medžiagos ir nuotraukų, vadinamų giliomis klastotėmis , kurios gali pakenkti tiesai, suklaidinti žiūrovus ir pasėti daug didesnio masto nesantaiką, nei jau matėme tekstinėmis netikromis naujienomis.



Tai yra galimybės, kurios trikdo Hany Faridą, Dartmuto koledžo kompiuterių mokslų profesorių, kuris 20 metų demaskuoja netikrus vaizdus. Nemanau, kad mes dar pasiruošę, perspėja jis. Tačiau jis tikisi, kad didėjantis šios problemos supratimas ir naujų technologijų raida galėtų geriau paruošti žmones atskirti tikrus vaizdus iš manipuliuotų kūrinių.

Originalus Oksfordo universiteto Brasenose koledžo vaizdas. Serelay sutikimas

Pavyzdys, kaip galima redaguoti pradinį vaizdą, kad būtų pašalinta LGBTQ vaivorykštės vėliava ant stogo. „Serelay“ sutikimu



Yra du pagrindiniai būdai, kaip išspręsti vaizdų tikrinimo iššūkį, aiškina Faridas. Pirmiausia reikia ieškoti vaizdo modifikacijų. Vaizdo kriminalistikos ekspertai naudoja skaičiavimo metodus, kad nustatytų, ar nepakeisti pikseliai arba metaduomenys. Pavyzdžiui, jie gali ieškoti šešėlių ar atspindžių, kurie neatitinka fizikos dėsnių, arba patikrinti, kiek kartų vaizdo failas buvo suspaustas, kad nustatytų, ar jis buvo išsaugotas kelis kartus.

Antrasis ir naujesnis būdas yra patikrinti vaizdo vientisumą jį nufotografavus. Tam reikia atlikti daugybę patikrinimų, siekiant įsitikinti, kad fotografas nebando suklaidinti įrenginio vietos duomenų ir laiko žymos. Ar fotoaparato koordinatės, laiko juosta, aukštis ir netoliese esantys „Wi-Fi“ tinklai patvirtina vienas kitą? Ar šviesa vaizde lūžta taip, kaip trimatėje scenoje? O gal kas nors fotografuoja kitą dvimatę nuotrauką?

Faridas mano, kad šis antrasis metodas yra ypač perspektyvus. Atsižvelgdamas į du milijardus nuotraukų, kurios kasdien įkeliamos į internetą, jis mano, kad tai gali padėti patikrinti vaizdus dideliu mastu.



„Serelay“ leidžia vartotojams įkelti įtartinas nuotraukas, kad patikrintų, ar jos buvo išgydytos. Sistema atlieka daugybę patikrinimų, kad nustatytų, kur buvo atlikti pakeitimai, jei tokių buvo. „Serelay“ sutikimu

Dvi naujos įmonės – JAV įsikūrusios „Truepic“ (kurią konsultuoja Faridas) ir JK „Serelay“ – dabar siekia komercializuoti šią idėją. Jie taikė panašų požiūrį: kiekvienas turi nemokamų „iOS“ ir „Android“ fotoaparatų programų, kurios naudoja patentuotus algoritmus, kad automatiškai patvirtintų nuotraukas. Jei vaizdas išplinta, jį galima palyginti su originalu ir patikrinti, ar jis išlaikė vientisumą.

Nors „Truepic“ įkelia savo vartotojų vaizdus ir saugo juos savo serveriuose, „Serelay“ saugo skaitmeninius pirštų atspaudus, iš kiekvieno vaizdo apskaičiuodama apie šimtą matematinių reikšmių. (Bendrovė tvirtina, kad šių reikšmių pakanka aptikti net vieno pikselio redagavimą ir apytiksliai nustatyti, kuri vaizdo dalis buvo pakeista.) Truepic teigia, kad pasirenka saugoti visus vaizdus, ​​jei naudotojai saugumo sumetimais norėtų ištrinti jautrias nuotraukas. (Kai kuriais atvejais „Truepic“ naudotojai, dirbantys didelės grėsmės scenarijuose, pavyzdžiui, karo zonoje, turi pašalinti programą iš karto po to, kai dokumentuoja scenas.) Priešingai, „Serelay“ mano, kad nesaugodami nuotraukų naudotojams suteikiamas didesnis privatumas.



Serelay sugeba pagauti ir paryškinti trūkstamą vėliavėlę nuotraukoje. „Serelay“ sutikimu

Kaip papildomą pasitikėjimo ir apsaugos lygį, „Truepic“ taip pat saugo visas nuotraukas ir metaduomenis naudodama „blockchain“ – „Bitcoin“ technologiją, kuri sujungia kriptografiją ir paskirstytą tinklą, kad būtų saugiai saugoma ir sekama informacija.

Faridas pripažįsta, kad tai nėra neperšaunama, ir jis sako, kad yra tam tikrų minusų. Pavyzdžiui, vartotojai turi naudoti patvirtinimo programinę įrangą, o ne fotoaparato programą savo telefone. Jis taip pat pažymi, kad įmonės, kurios bando komercializuoti tokią technologiją, gali teikti pirmenybę pinigų gavimui, o ne saugumui. Jis sako, kad mes šiek tiek pasitikime įmonėmis, kuriančiomis šias programas.

Tačiau yra ir švelninančių strategijų. „Truepic“ ir „Serelay“ siūlo programinės įrangos kūrimo rinkinius, kad jų technologija būtų prieinama trečiųjų šalių platformoms. Jų idėja yra vieną dieną padaryti jų patvirtinimo technologiją skaitmeninių fotoaparatų, įskaitant „Facebook“, „Snapchat“ ar net „Apple“ fotoaparato programą, pramonės standartu. Tokiu atveju nepakeistas vaizdas, paskelbtas socialinėje žiniasklaidoje, gali automatiškai gauti varnelę, pavyzdžiui, „Twitter“ patvirtinimo ženklelį, nurodantį, kad jis atitinka vaizdą jų duomenų bazėje – ženklą, kad Serelay tikisi, kad jis bus patikimas.

Didžioji dalis turinio, kurį matome internete, yra paimta naudojant mobiliuosius įrenginius, sako Faridas. Iš esmės yra keletas kamerų, kurios gali įtraukti tokio tipo technologijas į savo sistemą, ir manau, kad turėtumėte gana gerą sprendimą.

Kiekvienas startuolis šiuo metu pradeda ankstyvas derybas su socialinės žiniasklaidos įmonėmis, siekdamas ištirti partnerystės galimybę, o „Serelay“ taip pat yra naujos „Facebook“ greitintuvo programos, pavadintos LDN_LAB, dalis.

Nors ši technologija dar nėra paplitusi, Farid ragina žmones naudoti ją pagal numatytuosius nustatymus, kai dokumentuojami labai svarbūs scenarijai, nesvarbu, ar tai būtų politinės kampanijos kalbos, žmogaus teisių pažeidimai ar įrodymai nusikaltimo vietoje. „Truepic“ jau matė, kaip piliečiai naudojasi savo programa krizei Sirijoje dokumentuoti. Tada „Al Jazeera“ naudojo patikrintą filmuotą medžiagą kelis vaizdo įrašus . Abi bendrovės taip pat pardavinėjo savo technologijas draudimo pramonėje kaip patikrintą būdą dokumentuoti žalą.

Faridas teigia, kad svarbu, kad šį darbą atliekančios įmonės būtų skaidrios apie savo procesus ir dirbtų su patikimais partneriais. Tai gali padėti išlaikyti vartotojų pasitikėjimą ir apsaugoti nuo blogų veikėjų.

Mes vis dar turime nueiti kelią, kad būtume visiškai pasiruošę giliųjų klastotės plitimui, sako jis. Bet jis tikisi. Jis sako, kad „Truepic“ ir „Serelay“ tipo technologijos yra geros būklės. Manau, kad ruošiamės.

paslėpti