211service.com
Tikras ar ne? AI daro tai labai sunku žinoti
Naujienų antraštės gali būti ne vieninteliai dalykai, kurie ateityje bus netikri.
Dėl galingų mašininio mokymosi metodų (žr. „Tamsioji AI šerdis“) tampa vis lengviau manipuliuoti ar generuoti tikroviškus vaizdo ir garso įrašus bei stebėtinai tiksliai apsimesti bet kuo, ko norite.
Išmaniojo telefono programėlė vadinama FaceApp , kurį neseniai išleido Rusijoje įsikūrusi įmonė, gali automatiškai pakeisti kieno nors veidą ir pridėti šypseną, pridėti ar atimti metus arba pakeisti lytį. Programėlė taip pat gali pritaikyti gražinamuosius efektus, įskaitant raukšlių išlyginimą ir, prieštaringiau, odos šviesinimą.
Ir praėjusią savaitę paskambino įmonė Lyro paukštis , kuris buvo sukurtas iš Monrealio universiteto, demonstravo technologiją, kuri, kaip teigiama, gali būti naudojama apsimetinėti kito žmogaus balsu. Bendrovė paskelbė Baracko Obamos, Donaldo Trumpo ir Hillary Clinton demonstracinius klipus, patvirtinančius technologiją.
Tai tik du pavyzdžiai, kaip galingiausi AI algoritmai gali būti naudojami turiniui generuoti, o ne tiesiog analizuoti duomenis.
Galinga grafikos aparatinė ir programinė įranga, taip pat naujos vaizdo įrašymo technologijos taip pat skatina šią tendenciją. Praėjusiais metais Stanfordo universiteto mokslininkai pademonstravo veido keitimo programą, pavadintą Veidas2Veidas . Ši sistema gali manipuliuoti filmuota medžiaga taip, kad žmogaus veido išraiškos atitiktų asmens, stebimo naudojant gylio jutimo kamerą, išraiškas. Rezultatas dažnai būna klaikiai realus.
Gebėjimas taip tikroviškai manipuliuoti balsais ir veidais gali kelti daugybę problemų, kaip pripažįsta Lyrebird kūrėjai.
Balso įrašai šiuo metu laikomi tvirtais įrodymais mūsų visuomenėse ir ypač daugelio šalių jurisdikcijose, rašoma bendrovės svetainėje paskelbtame etikos pareiškime. Mūsų technologija abejoja tokių įrodymų pagrįstumu, nes leidžia lengvai manipuliuoti garso įrašais. Tai gali turėti pavojingų pasekmių.
„FaceApp“ ir „Lyrebird“ naudoja gilius generacinius konvoliucinius tinklus, kad įgalintų šiuos triukus. Tai reiškia, kad įmonė taiko techniką, kuri atsirado pastaraisiais metais, siekdama, kad algoritmai neapsiribotų mokymusi klasifikuoti dalykus ir generuoti patikimus savo duomenis.
Kaip ir daugelis dirbtinio intelekto užduočių šiandien, tai apima labai didelių arba gilių neuronų tinklų naudojimą. Tokie tinklai paprastai tiekiami mokymo duomenimis ir koreguojami taip, kad jie norimu būdu reaguotų į naują įvestį. Pavyzdžiui, jie gali būti išmokyti atpažinti veidus ar objektus vaizduose nuostabiai tiksliai.
Tačiau tie patys tinklai gali būti priversti generuoti savo duomenis, remiantis tuo, ką pavyko įtraukti į duomenų rinkinį, kurį jie mokė.
Galima apmokyti tokį tinklą generuoti vaizdus nuo nulio, kurie atrodo beveik kaip tikri. Ateityje naudojant tuos pačius metodus gali būti daug lengviau manipuliuoti vaizdo įrašu. Tikėtina, kad tam tikru momentu bus įmanoma sukurti ištisus vaizdo įrašus naudojant neuroninius tinklus, sako Aleksandras de Brebisonas , „Lyrebird“ įkūrėjas. Tai sudėtingesnė, nes vaizdo įrašus vaizduojanti didelė erdvė yra labai įvairi, o dabartiniai jos modeliai vis dar nėra tobuli.
Atsižvelgiant į dabar atsirandančias technologijas, gali tapti vis svarbiau aptikti netikrus vaizdo ir garso įrašus.
Justas Thiesas , Friedricho Aleksandro universiteto (Vokietija) doktorantas ir vienas iš Face2Face, realaus laiko veidų keitimo programėlės, tyrėjų, teigia pradėjęs projektą, kuriuo siekiama aptikti manipuliavimą vaizdo įrašais. Jis sako, kad tarpiniai rezultatai atrodo daug žadantys.