Šis AI leidžia padirbti savo balsą ir kalbėti kaip Barackas Obama

Ponia Tech | Įdomūs vaizdai

Susipažink su mano alter ego, Katie:

Akcentas, emocijos ir intonacija yra mano. Bet kažkaip dabar skambu kaip jauna moteris aukštu balsu.

Mano moterišką balso odą sukūrė Modulate.ai , įmonė, įsikūrusi Kembridže, Masačusetso valstijoje. Įmonė naudoja mašininį mokymąsi, kad galėtų kopijuoti, modeliuoti ir manipuliuoti balso savybėmis nauju galingu būdu.

Ši technologija yra daug platesnė nei paprasti balso filtrai, leidžiantys jums skambėti kaip Kylo Ren. Taikant šį metodą, galima daryti prielaidą, kad bet kokio amžiaus, lyties ar tono norite, realiuoju laiku. Arba perimti įžymybės balsą. Jei noriu, galiu ilgai pasikalbėti telefonu, prisidengdamas Katie.

Apsilankiau „Modulate“ būstinėje, norėdamas išgirsti apie įmonės technologijas ir ambicijas bei aptarti etinius AI naudojimo, norint kopijuoti kažkieno balsą, pasekmes. Garso izoliuotoje kabinoje išbandžiau keletą kompanijos balso dangų.

Štai mano tikrasis balsas:

Ir čia jis maitinamas per kitą asmenybę:

Ir keičiamas tarp dviejų asmenybių realiu laiku.

Balso modeliavimo technologija nėra tobula; kiekvienas naujas balsas yra šiek tiek bjaurus. Tačiau tai nepaprastai gera ir gerėja, kai naudojate daugiau jūsų balso duomenų. Ir tai parodo, kaip mašininio mokymosi pažanga sparčiai pradeda keisti skaitmeninę realybę. Modulis naudoja generatyvius priešingus tinklus (GAN), kad užfiksuotų ir modeliuotų balso signalo garso savybes. GAN supriešina du neuroninius tinklus, siekdami įtikinamai užfiksuoti ir atkurti duomenų rinkinio savybes (žr. GANfather).

Mašininis mokymasis leido sukeisti dviejų žmonių veidus vaizdo įraše, naudojant programinę įrangą, kurią galima nemokamai atsisiųsti iš interneto (dar kartą žr. „Fake America Great“). AI mokslininkai naudoja GAN ir kitus metodus, kad galėtų manipuliuoti vaizdinėmis scenomis ir net visiškai susižavėti netikri veidai .

„Modulate“ savo svetainėje turi demonstracinį Baracko Obamos balsą, o vienas iš įkūrėjų ir generalinis direktorius Mike'as Pappas teigė, kad jį būtų galima sukurti bet kam, turint pakankamai mokymo duomenų. Tačiau jis priduria, kad bendrovė be savininko leidimo nepateiks įžymybių balso. Jis taip pat tvirtina, kad apgaulė nėra pagrindinis dalykas.

Tai nėra technologija, sukurta mėgdžioti žmones, sako Pappas. Jis sukurtas siekiant suteikti jums naujų galimybių.

Modulė yra skirta internetiniams žaidimams, tokiems kaip Fornite arba Call of Duty, kuriuose žaidėjai gali kalbėtis su nepažįstamais žmonėmis per mikrofoną. Tai gali pagerinti žaidimo eigą, bet taip pat atverti duris piktnaudžiavimui ir priekabiavimui.

Kai norime bendrauti internete ir patirti tikrai gilios patirties, balsai yra labai svarbūs, sako Pappas. Tačiau kai kurie žmonės nenori išsakyti savo balso. Kai kuriais atvejais gal tiesiog noriu likti anonimiškas. Kitais atvejais nerimauju, kad atskleisiu savo amžių ar lytį ir sulauksiu priekabiavimo.

Charleso muilas NYU profesorius, tyrinėjantis dezinformacijos plitimą, sako, kad ši technologija atrodo daug pažangesnė nei kitos balso modifikavimo technologijos. Ir jis sako, kad tai, kaip AI dabar gali manipuliuoti vaizdo ir garso įrašais, gali iš esmės pakeisti žiniasklaidą. Turime pradėti galvoti apie tai, kas yra tikrovė, sako jis.

„Iki šiol balso konvertavimo technologijos kokybė buvo žema, kad būtų galima lengvai atskirti konvertuotą balsą“, - priduria. Tuomas Virtanenas , balso sintezės ir manipuliavimo ekspertas Tamperės universitete Suomijoje. 'Tačiau galiu įsivaizduoti, kad artimiausiu metu kokybė bus pakankamai gera, todėl konversijos nebus galima lengvai aptikti.'

Modulė žino, kad jos technologija gali būti netinkamai naudojama. Bendrovė teigia sieksianti užtikrinti, kad bet kuris klientas, kopijuojantis kažkieno balsą, turi to asmens leidimą. Ji taip pat sukūrė garso vandens ženklų technologiją, kurią būtų galima naudoti nukopijuotam balsui aptikti. Tai gali pateikti įspėjimą, jei, pavyzdžiui, kas nors skambindamas naudoja netikrą balsą.

„Mes savo įmonėje sukūrėme etines apsaugos priemones nuo pat pradžių, – sako vienas iš įkūrėjų ir CTO Carteris Huffmanas, – nuo ​​to, kaip mes platiname savo technologijas, iki to, kaip pasirenkame siūlomus balso apvalkalus, iki mūsų garso vandens žymėjimo, kad būtų galima aptikti jautrius sistemos.

Modulis gali apriboti netinkamą savo technologijos naudojimą, tačiau gali būti, kad kiti patys sukurs panašią technologiją ir padarys ją prieinamą žmonėms netinkamai naudoti. Kyla klausimas, kaip plačiai tai gali būti piktnaudžiaujama ir kaip visuomenė tai supras?

Pappas optimistiškai nusiteikęs, kad dirbtinio intelekto padirbinėjimo galimybės dažnai yra pernelyg išpūstos. Jis neabejotinai nori tai žinoti, bet tai nėra kažkas, kur griūva patys visuomenės aspektai, sako jis. Turime įrankius, kaip tai išspręsti.

paslėpti